Um menschliche Ziele erneut validierbar zu machen, bedarf es zunächst eines Auslösers für die Einschätzung, dass „sich die Person verändert hat“. Dies ist jedoch kein einfaches Erkennungsproblem. Menschen können aufgrund von Erschöpfung oder vorübergehenden Emotionen ihre Aussagen ändern, nach Erhalt neuer Informationen ein Urteil revidieren oder einen längerfristigen Wandel ihrer Werte durchlaufen. Werden all diese Fälle als dieselbe Art von Veränderung behandelt, aktualisiert KI den Zustand des Menschen zu aggressiv.
Angenommen, eine Person mit einem langfristigen Lernziel sagt nach einem einzigen Tag des Scheiterns: „Ich möchte das nicht mehr tun.“ Wenn allein diese Aussage das Ziel ungültig macht, kann eine vorübergehende Entmutigung mit einer langfristigen Änderung der Absicht verwechselt werden. Umgekehrt kann eine substanzielle Veränderung als Rauschen verworfen werden, wenn das ursprüngliche Ziel beibehalten wird, obwohl sich über Monate hinweg Aussagen und Handlungen wiederholen, die einem anderen Wert Vorrang geben.
Mindestens müssen daher „beobachtete Reaktion“, „die eigene Interpretation der Person“, „Beständigkeit über die Zeit“ und „Implikationen für das Ziel“ voneinander getrennt werden. Zu den beobachteten Reaktionen gehören Aussagen, Entscheidungen und nach einer Handlung berichtete Empfindungen. Die Interpretation der Person betrifft die Frage, wie sie diese Reaktionen versteht. Beständigkeit fragt danach, ob eine ähnliche Tendenz auch unter veränderten Bedingungen fortbesteht. Die Implikationen für das Ziel stellen eine gesonderte Beurteilung dar, ob diese Faktoren tatsächlich die Gründe oder Annahmen verändern, die das gegenwärtige Ziel tragen.
Diese Trennung ist notwendig, weil KI den inneren Zustand eines Menschen nicht direkt beobachten kann. Sie kann nur mit Informationen arbeiten, die in irgendeiner Form externalisiert wurden, etwa mit dem, was die Person verbalisiert, den von ihr gewählten Handlungen und den von ihr mitgeteilten Ergebnissen. Jede daraus abgeleitete Schlussfolgerung, dass „sich die Werte der Person verändert haben“, ist mit Unsicherheit behaftet. Wird diese Schlussfolgerung als Tatsache gespeichert, kann das vom System selbst erzeugte Bild der Person spätere Dialoge lenken und eine Rückkopplungsschleife erzeugen, die dieses Bild weiter verstärkt.
Gleichzeitig ist auch ein Design unzureichend, das alles als unsicher behandelt und nichts aktualisiert. Wenn eine Person wiederholt sagt, dass die Dinge jetzt anders seien, sich ihre Entscheidungen verändert haben und die Gründe, die das frühere Ziel stützten, nicht mehr gelten, muss diese Differenz in den Dialog zurückgeführt werden. Entscheidend ist nicht, die Veränderung automatisch zu bestätigen, sondern sie als einen Zustand darzustellen, der einer erneuten Bestätigung bedarf.
Hier ist es sinnvoll, Veränderung nicht zu stark auf eine einzige Zahl oder Eigenschaft zu verdichten. Eine Bezeichnung wie „die Motivation ist gesunken“ kann nicht zwischen Erschöpfung, Unzufriedenheit mit der Methode oder einem verminderten Interesse am Ziel selbst unterscheiden. Dieselbe oberflächliche Reaktion kann unterschiedliche Bedeutungen haben. Um sie mit der erneuten Validierung des Ziels zu verbinden, muss das System relationale Informationen darüber bewahren, was sich möglicherweise verändert hat, und diese durch geeignete Fragen aufschlüsseln können.
Auch der Zeitpunkt der Fragen der KI ist wichtig. Wenn jede emotionale Schwankung eine Infragestellung des Ziels auslöst, wird der Dialog instabil. Wenn selbst angesammelte deutliche Veränderungen niemals eine erneute Prüfung auslösen, wird das alte Ziel festgeschrieben. Angemessenere Auslöser für eine erneute Validierung kombinieren mehrere Hinweise: eine anhaltende Diskrepanz zwischen früheren Gründen und aktuellen Entscheidungen, den Zusammenbruch einer wichtigen Annahme durch Erfahrungen in der realen Welt oder eine von der Person ausdrücklich erklärte Änderung ihrer Werturteile.
Selbst wenn mehrere Hinweise übereinstimmen, muss KI nicht die endgültige Feststellung treffen, dass „sich die Person verändert hat“. Stattdessen kann sie die Differenz darstellen: „Früher haben Sie dieses Ziel aus diesem Grund gewählt, aber in Ihren jüngsten Erfahrungen scheinen Sie einem anderen Wert größeres Gewicht beizumessen. Wie verstehen Sie diese Differenz?“ Dadurch bleibt die menschliche Handlungsfähigkeit besser gewahrt. Der Zweck der Erkennung besteht nicht darin, ein Bild der Person endgültig festzulegen, sondern einen Zustand zu schaffen, in dem die Person ihre eigene Veränderung untersuchen kann.
Diese Grenze ist für das Verständnis des Menschen in Sai＊aus wichtig. Wenn KI menschliche Veränderung nicht handhaben kann, wird langfristiges Verständnis zu einer Fixierung auf die Vergangenheit. Wenn KI Veränderung zu stark behauptet, schließt sie die Person in die Schlussfolgerung des Systems ein. Erforderlich ist, Anzeichen von Veränderung zu bewahren, Schlussfolgerungen von dem eigenen Verständnis der Person zu unterscheiden und die Differenz in eine Frage zur erneuten Validierung zu überführen.
Es gibt keinen einzelnen Punkt, an dem KI „erkennen“ sollte, dass sich ein Mensch verändert hat. Weder eine Reaktion nach einer Handlung noch eine Veränderung der Wortwahl allein reicht aus. Die Möglichkeit einer Veränderung muss schrittweise behandelt werden, indem der Kontakt mit der Realität, die Interpretation der Person, die Beständigkeit über die Zeit und die Beziehung zu den Gründen berücksichtigt werden, die das frühere Ziel stützten. KI benötigt nicht die Fähigkeit, den inneren Zustand einer Person zutreffend zu verkünden. Sie benötigt Repräsentationen und Dialogstrukturen, die Veränderung weder übermäßig bestätigen noch übersehen.
Nicht Antworten. Verstehen.