人間の目標を再検証可能にするためには、まず「人間が変わった」と判断する契機が必要になります。しかし、これは単純な検出問題ではありません。人間は疲労や一時的な感情によって発言を変えることがあり、新しい情報を得て判断を修正することもあり、長期的な価値観そのものが変わることもあります。これらをすべて同じ変化として扱えば、AIは人間の状態を過剰に更新することになります。
たとえば、長期的な学習目標を持つ人が、ある日の失敗後に「もうやりたくない」と話したとします。この発言だけを根拠に目標が失効したと扱えば、一時的な落胆を長期的な意思変更と誤認する可能性があります。反対に、数か月にわたって別の価値を重視する発言や行動が繰り返されているのに、最初の目標だけを保持すれば、実質的な変化を雑音として捨てることになります。
したがって、少なくとも「観測された反応」「本人による意味づけ」「時間をまたいだ持続性」「目標への含意」を分離する必要があります。観測された反応は、発言、選択、行動後の感覚などです。本人による意味づけは、その反応を本人がどう理解しているかです。持続性は、条件が変わっても同様の傾向が続くかという問題です。そして目標への含意は、それらが現在の目標を維持する理由や前提を実際に変えるかという別の判断になります。
この分離が必要なのは、AIが人間の内面を直接観測できないからです。AIが扱えるのは、本人が言語化した内容、選択した行動、共有された結果など、何らかの形で外部化された情報です。そこから「価値観が変わった」と推定する場合には不確実性があります。推定を事実として保存すると、システム自身が作った人物像が次の対話を方向づけ、その人物像をさらに強化する循環が生じる可能性があります。
一方で、すべてを不確実として扱い、何も更新しない設計も十分ではありません。人間が繰り返し「以前とは違う」と表明し、行動選択も変化し、以前の目標を支えていた理由が成立しなくなっているなら、その差を対話へ戻す必要があります。重要なのは、変化を自動確定することではなく、再確認が必要な状態として表現できることです。
ここで有効なのは、変化を一つの数値や単一の属性へ圧縮しすぎないことです。「意欲が低下した」という表現だけでは、疲労なのか、手段への不満なのか、目標そのものへの関心低下なのかを区別できません。同じ表面的な反応でも、意味は異なります。目標の再検証につなげるには、何が変わった可能性があるのかを関係として保持し、必要な問いによって分解できる構造が必要です。
AIが問いを返すタイミングも重要です。毎回の感情変化に反応して目標を問い直せば、対話は不安定になります。逆に、明確な変化が蓄積しても問い直さなければ、過去の目標を固定します。再検証の契機としては、以前の理由と現在の選択の継続的な不一致、現実経験による重要な前提の崩壊、本人による明示的な価値判断の変更など、複数の手がかりを組み合わせるほうが妥当です。
ただし、複数の手がかりがそろっても、AIが「人間は変わった」と最終確定する必要はありません。むしろ、「以前はこの理由でこの目標を選んでいましたが、最近の経験では別の価値を重視しているように見えます。この違いをどう捉えますか」と差を提示するほうが、人間の主体性を維持できます。検出の目的は人物像を確定することではなく、本人が自分の変化を検討できる状態を作ることです。
Sai＊ausにおける人間理解では、この境界が重要になります。AIが人間の変化を扱えなければ長期的な理解は過去の固定になりますが、AIが変化を断定しすぎれば、人間をシステムの推定へ閉じ込めます。必要なのは、変化の兆候を失わず、推定と本人の自己理解を区別し、再検証の問いへ変換することです。
人間が変わったことをAIが「どこで」検出すべきかという問いに、単一の地点はありません。行動後の反応だけでも、発言の変化だけでも不十分です。現実との接触、本人の意味づけ、時間的な持続、以前の目標を支えていた理由との関係を見ながら、変化の可能性を段階的に扱う必要があります。AIに必要なのは人間の内面を言い当てる能力ではなく、変化を確定しすぎず、見落としもしない表現と対話の構造です。
答えではなく、理解を。