Para uma IA que apoia o diálogo de longo prazo, lembrar objetivos passados traz benefícios claros. Se um plano de aprendizagem, um objetivo profissional ou uma aspiração de vida decidido meses antes puder ser mantido, a pessoa não precisa explicar tudo novamente desde o início a cada vez. Julgamentos passados também podem ser comparados com a situação presente. Ainda assim, é necessário distinguir entre “lembrar algo” e “tratá-lo como conhecimento que continua válido agora”.
Um objetivo difere, por sua natureza, de um evento que ocorreu. O fato de que “a pessoa fez esta declaração em determinado dia” continua sendo um fato sobre o passado mesmo que ela mude de ideia posteriormente. Em contraste, uma afirmação como “o objetivo desta pessoa é X” inclui uma afirmação sobre o estado presente. Se esse estado continuar a ser usado sem atualização simplesmente por causa de uma declaração antiga, ele pode ser historicamente preciso e, ainda assim, impreciso como conhecimento que representa a pessoa agora.
Portanto, um objetivo armazenado precisa de tempo, além de conteúdo. Em vez de manter apenas “Quero abrir uma empresa”, o sistema pode representar que “em determinado momento, por razões e sob condições específicas, a pessoa tinha como objetivo abrir uma empresa”. Em seguida, pode distinguir, à luz de ações posteriores e das respostas da realidade, se o objetivo continua válido, exige reconfirmação ou foi explicitamente alterado pela pessoa.
A relação com as razões também importa. O mesmo objetivo pode significar coisas diferentes dependendo de a pessoa buscar uma forma mais livre de trabalhar, querer aumentar a renda ou desejar construir uma empresa que resolva um problema específico. Se o objetivo for armazenado enquanto suas razões se perdem, o sistema não poderá saber o que deve ser revalidado quando as condições mudarem. Por outro lado, se uma razão for fixada como um motivo absoluto, outro problema surgirá quando a compreensão posterior da pessoa mudar. As razões também devem ser tratadas como informações associadas a um momento no tempo e a um grau de certeza.
Atualizar, aqui, não significa apagar o objetivo passado. Se o registro anterior for apagado quando o objetivo mudar, perde-se o percurso que explica por que a mudança ocorreu. A compreensão de longo prazo se beneficia de um histórico que mostre o que a pessoa queria antes, quais experiências mudaram o quê e como ela pensa agora. O ponto importante é manter as informações antigas sem confundi-las com o estado presente.
A inferência da própria IA também deve ser distinguida de uma declaração explícita da pessoa. Mesmo que a IA infira, a partir de mudanças comportamentais, que “o interesse pelo objetivo pode estar diminuindo”, isso é diferente de a pessoa dizer: “Decidi abandonar este objetivo”. Se ambos forem armazenados com o mesmo grau de certeza, uma inferência poderá mais tarde ser mencionada como fato e orientar desnecessariamente a autocompreensão da pessoa.
A representação do conhecimento, portanto, precisa de distinções como quem declarou a informação, quando ela foi declarada, a quais experiências ou razões está ligada, se sua validade presente foi confirmada e se se trata de uma inferência ou de uma escolha explícita. Nem todo detalhe precisa ser preservado, mas diferenças que possam alterar um julgamento posterior não devem ser perdidas. A compressão não deve apenas reduzir a quantidade de informações; deve torná-las manejáveis preservando as relações necessárias.
Na representação interna da eficiência de Sai＊aus, isso muda a posição do objetivo. O objetivo não é uma entrada fixa a partir da qual o raciocínio começa, mas um elemento cujo estado pode mudar por meio da experiência humana. Ao relacionar as razões que sustentam o objetivo, pequenas ações, diferenças devolvidas pela realidade e mudanças na compreensão humana, o sistema pode manter o contexto necessário para reconsiderar se o objetivo atual deve permanecer em vigor.
Este projeto não pretende fazer com que a IA altere frequentemente os objetivos humanos. Em vez disso, impede que objetivos passados continuem automaticamente como propósitos presentes sem entregar à IA a autoridade para alterá-los. Ele pode indicar que é necessária uma revalidação, apresentar a diferença entre passado e presente e devolver à pessoa a atribuição final de significado. Essa fronteira permite que a continuidade da memória e a capacidade humana de mudar coexistam.
À medida que a IA passa a saber mais sobre um ser humano, a precisão de seu conhecimento já não pode ser medida apenas pelo quão pouco ela esquece. Ela deve preservar com precisão os sonhos passados, distinguindo ao mesmo tempo se eles continuam válidos agora; manter objetivos alterados como uma história de mudança, em vez de sobrescrever o passado; e evitar confundir a inferência da IA com a escolha humana. O conhecimento que compreende uma pessoa ao longo do tempo exige uma estrutura que trate o ser humano não como um retrato fixo, mas como um estado atualizável.
A pergunta “Os sonhos do passado deveriam ser armazenados?” não é, portanto, uma escolha binária entre salvar e apagar. Eles podem permanecer como histórico, enquanto sua validade é verificada novamente quando forem usados como propósitos presentes. A memória pode então se tornar material para compreender como uma pessoa mudou, em vez de um mecanismo que a prende ao passado. O projeto de conhecimento de IA a longo prazo deve tornar duas coisas verdadeiras ao mesmo tempo: não perder o passado e não fixar o presente a ele.
Não respostas. Compreensão.