AIに「売上を二倍にしたい」という目標が与えられれば、達成に必要な施策を分解し、資源や期間を考慮して選択肢を比較できます。しかし、同じ「売上を二倍にする」という目標でも、その理由は一つではありません。事業を維持するために必要なのか、新しい投資を実現したいのか、競争相手に追いつきたいのか、組織を大きくすること自体を成功と考えているのかによって、目標の意味は変わります。
目標だけを処理すれば、これらの違いは同じ目的関数の外側へ追い出されます。するとAIは、与えられた数値へ近づく方法を合理的に探せても、その数値がなぜ必要なのかを扱えません。現実の条件が変わったときも、手段だけを修正しながら同じ目標を維持することになります。しかし、目標を支える理由が失われたなら、手段の改善より先に目標の再検証が必要な場合があります。
たとえば、売上拡大の理由が「現在の雇用を守るために必要な利益を確保すること」だったとします。その後、固定費が下がり、より小さな売上でも十分に雇用を維持できるようになったなら、二倍という数値を守る必要性は変化します。反対に、理由が「新しい地域へサービスを届けるための投資資金を作ること」なら、条件の変化が同じでも判断は異なるでしょう。目標の妥当性は、目標だけからは評価できません。
したがって、「なぜこの目標なのか」は補足説明ではなく、推論構造の一部になります。目標と理由を関係づけておけば、行動後の現実がどの前提へ影響したのかを確認できます。理由が維持されているなら目標を続ける根拠になりますし、理由が変わったなら目標を再検証する契機になります。ここで必要なのは、理由を一度聞いて固定することではなく、その理由自体も時間と経験によって変わり得るものとして扱うことです。
さらに、人間は自分の理由を最初から完全に説明できるとは限りません。「成長したい」と語っていても、対話や行動を通じて、実際には自由な時間を増やしたい、誰かに認められたい、社会的な影響を広げたいなど、異なる価値が見えてくることがあります。AIが最初の説明を真の動機として確定すれば、後から現れた理解を例外として扱ってしまいます。
ここで推論の役割は、人間の隠れた動機を当てることではありません。明示された目標と理由、行動後に現れた反応、条件の変化のあいだにどのような不一致があるかを整理し、本人が理由を再記述できるようにすることです。AIが「本当は承認を求めています」と診断するのではなく、「当初は成長を理由にしていましたが、最近の選択では自由な時間を優先しています。この違いは目標に影響しますか」と問いを作るほうが適切です。
この構造は、推論の深さを増やせばよいという話でもありません。あらゆる小さな目標について理由を無限に掘り下げれば、実行できなくなります。必要なのは、目標の変更コストが大きい場合、長期的な影響がある場合、現実から重要な差分が返った場合など、理由の再確認が判断を変え得る場面で深く扱うことです。推論資源は、目的の重要性と不確実性に応じて配分されるべきです。
Sai＊ausの内部効率表現においても、「何をしたいか」だけでなく「なぜそれをしたいか」を必要な範囲で関係づけることには意味があります。目標を短く保持するだけなら処理は軽くなりますが、後から妥当性を検証する根拠が失われます。逆に、あらゆる背景を保存すればよいわけでもありません。将来の判断を変え得る理由と前提を残し、それ以外を圧縮するという選択が必要になります。
目標達成を支援するAIでは、与えられた目的を正確に理解することが重要です。しかし、人間の目的が変化し得るなら、理解すべき対象は目標の文言だけではありません。その目標がどの理由によって成立しているのか、どの条件が変われば再検証が必要になるのかまで含めて初めて、行動後の現実を目的へ戻すことができます。
最適化する前に「なぜこの目標なのか」を問うことは、目標を疑うためだけではありません。続けるべき理由をより明確にすることもあります。行動によって理由が強まれば、目標は以前より確かなものになります。理由が変われば、目標も開き直せます。高度な推論とは、与えられた目的へ速く到達することだけでなく、その目的を固定してよい条件と、再び問うべき条件を区別できることでもあります。
答えではなく、理解を。