Pour une IA qui soutient le dialogue à long terme, se souvenir des objectifs passés présente des avantages évidents. Si un projet d’apprentissage, un objectif professionnel ou une aspiration de vie décidé plusieurs mois auparavant peut être conservé, la personne n’a pas besoin de tout réexpliquer depuis le début à chaque fois. Les jugements passés peuvent aussi être comparés à la situation présente. Pourtant, il faut distinguer « se souvenir de quelque chose » et « le traiter comme une connaissance qui demeure valide maintenant ».
Un objectif diffère par nature d’un événement qui s’est produit. Le fait que « la personne a fait cette déclaration un certain jour » reste un fait concernant le passé, même si elle change ensuite d’avis. En revanche, une formulation telle que « l’objectif de cette personne est X » comporte une affirmation sur son état présent. Si cet état continue d’être utilisé sans être actualisé simplement parce qu’il repose sur une ancienne déclaration, il peut être historiquement exact tout en étant inexact comme connaissance représentant la personne aujourd’hui.
Un objectif enregistré doit donc comporter une dimension temporelle en plus de son contenu. Au lieu de conserver uniquement « Je veux créer une entreprise », le système peut représenter que « à un certain moment, pour des raisons et dans des conditions particulières, la personne avait pour objectif de créer une entreprise ». Il peut ensuite distinguer, à la lumière des actions ultérieures et des réponses de la réalité, si l’objectif demeure valide, nécessite une nouvelle confirmation ou a été explicitement modifié par la personne.
La relation avec les raisons compte également. Un même objectif peut avoir des significations différentes selon que la personne recherche une manière de travailler plus libre, souhaite augmenter ses revenus ou veut créer une entreprise qui résout un problème particulier. Si l’objectif est conservé mais que ses raisons sont perdues, le système ne peut pas savoir ce qui doit être revalidé lorsque les conditions changent. À l’inverse, si une raison est figée comme motivation absolue, un autre problème apparaît lorsque la compréhension ultérieure de la personne évolue. Les raisons doivent elles aussi être traitées comme des informations associées à un moment donné et à un degré de certitude.
Ici, actualiser ne signifie pas supprimer l’ancien objectif. Si l’enregistrement antérieur est effacé lorsque l’objectif change, le chemin qui explique pourquoi ce changement s’est produit disparaît. Une compréhension à long terme bénéficie d’un historique indiquant ce que la personne voulait auparavant, quelles expériences ont modifié quoi et comment elle pense aujourd’hui. L’important est de conserver les anciennes informations sans les confondre avec l’état présent.
Il faut également distinguer les inférences propres à l’IA des déclarations explicites de la personne. Même si l’IA déduit de changements de comportement que « l’intérêt pour l’objectif est peut-être en diminution », cela diffère du fait que la personne dise : « J’ai décidé d’abandonner cet objectif. » Si les deux sont enregistrés avec le même degré de certitude, une inférence peut ensuite être invoquée comme un fait et orienter inutilement la compréhension que la personne a d’elle-même.
La représentation des connaissances doit donc permettre des distinctions telles que : qui a énoncé l’information, quand elle a été énoncée, à quelles expériences ou raisons elle est reliée, si sa validité présente a été confirmée, et s’il s’agit d’une inférence ou d’un choix explicite. Il n’est pas nécessaire de préserver chaque détail, mais les différences susceptibles de modifier un jugement ultérieur ne doivent pas être perdues. La compression ne devrait pas simplement réduire la quantité d’informations ; elle devrait rendre celles-ci maniables tout en préservant les relations nécessaires.
Dans la représentation interne de l’efficacité de Sai＊aus, cela modifie la position de l’objectif. L’objectif n’est pas une entrée fixe à partir de laquelle commence le raisonnement, mais un élément dont l’état peut changer sous l’effet de l’expérience humaine. En mettant en relation les raisons qui soutiennent l’objectif, les petites actions, les différences renvoyées par la réalité et les changements dans la compréhension humaine, le système peut conserver le contexte nécessaire pour réexaminer si l’objectif actuel doit rester en vigueur.
Cette conception n’a pas pour but d’amener l’IA à modifier fréquemment les objectifs humains. Elle vise plutôt à empêcher que les objectifs passés continuent automatiquement à servir de finalités présentes, sans pour autant donner à l’IA le pouvoir de les modifier. Elle peut signaler qu’une revalidation est nécessaire, présenter la différence entre le passé et le présent et rendre à la personne l’attribution finale du sens. Cette frontière permet à la continuité de la mémoire et à la capacité humaine de changer de coexister.
À mesure que l’IA en vient à en savoir davantage sur un être humain, l’exactitude de ses connaissances ne peut plus être mesurée uniquement par la quantité de choses qu’elle n’oublie pas. Elle doit conserver avec exactitude les rêves passés tout en distinguant s’ils restent valides aujourd’hui ; conserver les objectifs modifiés comme une histoire du changement plutôt que d’écraser le passé ; et éviter de confondre les inférences de l’IA avec les choix humains. Une connaissance qui comprend une personne à travers le temps exige une structure qui traite l’être humain non comme un portrait figé, mais comme un état actualisable.
La question « Faut-il conserver les rêves passés ? » n’est donc pas un choix binaire entre sauvegarder et supprimer. Ils peuvent demeurer comme historique, tandis que leur validité est de nouveau vérifiée lorsqu’ils sont utilisés comme finalités présentes. La mémoire peut alors devenir une matière permettant de comprendre comment une personne a changé, plutôt qu’un mécanisme qui l’attache au passé. La conception à long terme des connaissances de l’IA doit rendre vraies deux choses à la fois : ne pas perdre le passé et ne pas figer le présent sur celui-ci.
Pas des réponses. De la compréhension.