Rendre les objectifs humains revalidables exige d’abord un élément déclencheur permettant de juger que « la personne a changé ». Mais il ne s’agit pas d’un simple problème de détection. Les personnes peuvent modifier leurs propos en raison de la fatigue ou d’une émotion temporaire, réviser un jugement après avoir reçu de nouvelles informations, ou connaître un changement de valeurs à plus long terme. Si tous ces phénomènes sont traités comme un même type de changement, l’IA mettra à jour l’état de la personne de manière trop agressive.
Supposons qu’une personne ayant un objectif d’apprentissage à long terme dise, après une journée d’échec : « Je ne veux plus faire cela. » Si cette seule déclaration suffit à invalider l’objectif, un découragement temporaire risque d’être confondu avec un changement d’intention à long terme. À l’inverse, si l’objectif initial est maintenu alors même que des propos et des actions donnant la priorité à une autre valeur se répètent pendant des mois, un changement substantiel risque d’être écarté comme du bruit.
Il faut donc, au minimum, séparer « la réaction observée », « l’interprétation propre de la personne », « la persistance dans le temps » et « les implications pour l’objectif ». Les réactions observées comprennent les déclarations, les choix et les ressentis rapportés après une action. L’interprétation de la personne concerne la manière dont elle comprend ces réactions. La persistance consiste à se demander si une tendance similaire demeure lorsque les conditions changent. Les implications pour l’objectif constituent un jugement distinct visant à déterminer si ces facteurs modifient réellement les raisons ou les hypothèses qui soutiennent l’objectif actuel.
Cette séparation est nécessaire parce que l’IA ne peut pas observer directement l’état intérieur d’un être humain. Elle ne peut travailler qu’avec des informations extériorisées sous une forme ou une autre, telles que ce que la personne verbalise, les actions qu’elle choisit et les résultats qu’elle partage. Toute inférence selon laquelle « les valeurs de la personne ont changé » comporte de l’incertitude. Si cette inférence est enregistrée comme un fait, le portrait créé par le système lui-même peut orienter les dialogues ultérieurs et créer une boucle de rétroaction qui renforce davantage ce portrait.
Dans le même temps, une conception qui traite tout comme incertain et ne met rien à jour est également insuffisante. Si une personne affirme à plusieurs reprises que les choses sont désormais différentes, que ses choix ont changé et que les raisons qui soutenaient l’objectif antérieur ne sont plus valables, cette différence doit être réintroduite dans le dialogue. L’essentiel n’est pas de confirmer automatiquement le changement, mais de le représenter comme un état nécessitant une nouvelle confirmation.
Il est utile ici de ne pas compresser trop fortement le changement en un seul nombre ou attribut. Une étiquette telle que « la motivation a diminué » ne permet pas de distinguer la fatigue, l’insatisfaction à l’égard de la méthode ou une baisse d’intérêt pour l’objectif lui-même. Une même réaction en surface peut revêtir des significations différentes. Pour la relier à la revalidation de l’objectif, le système doit conserver des informations relationnelles sur ce qui a pu changer et pouvoir les décomposer au moyen de questions appropriées.
Le moment auquel l’IA pose ses questions est également important. Si chaque fluctuation émotionnelle déclenche une remise en question de l’objectif, le dialogue devient instable. Si même l’accumulation de changements manifestes ne déclenche jamais de réexamen, l’ancien objectif se fige. Des déclencheurs plus raisonnables de revalidation combinent plusieurs indices : un décalage persistant entre les raisons antérieures et les choix actuels, l’effondrement d’une hypothèse importante à la suite d’une expérience dans le monde réel, ou un changement explicite de jugement de valeur formulé par la personne.
Même lorsque plusieurs indices convergent, l’IA n’a pas besoin de déclarer définitivement que « la personne a changé ». Elle peut plutôt présenter la différence : « Auparavant, vous aviez choisi cet objectif pour cette raison, mais dans vos expériences récentes, vous semblez accorder davantage de poids à une autre valeur. Comment comprenez-vous cette différence ? » Cela préserve mieux l’autonomie humaine. Le but de la détection n’est pas de figer définitivement un portrait de la personne, mais de créer un état dans lequel elle peut examiner son propre changement.
Cette frontière est importante pour la compréhension de l’être humain dans Sai＊aus. Si l’IA ne peut pas traiter le changement humain, la compréhension à long terme devient une fixation sur le passé. Si l’IA affirme le changement avec trop de force, elle enferme la personne dans l’inférence du système. Il faut préserver les signes de changement, distinguer l’inférence de la propre compréhension de la personne et transformer la différence en une question de revalidation.
Il n’existe pas de point unique auquel l’IA devrait « détecter » qu’un être humain a changé. Ni une réaction après une action ni un changement de formulation ne suffisent à eux seuls. La possibilité d’un changement doit être traitée progressivement en tenant compte du contact avec la réalité, de l’interprétation de la personne, de la persistance dans le temps et de la relation avec les raisons qui soutenaient l’objectif antérieur. L’IA n’a pas besoin de savoir énoncer correctement l’état intérieur d’une personne. Elle a besoin de représentations et de structures de dialogue qui ne confirment pas excessivement le changement et ne le négligent pas non plus.
Pas des réponses. De la compréhension.