AIに質問すると、迷いのない文章が返ってくることがあります。理由も具体例も整っていて、前後のつながりも自然なら、その説明は「正しいことを報告している」ように見えます。しかし、文章が自然であることと、その内容が現実に確認されていることは同じではありません。AIは、目の前の世界をそのまま見て文章へ写しているとは限らず、与えられた情報や利用できる知識から、問いに合う説明を組み立てています。ここには、AIが生成したものと、実際に起きていることとのあいだに、最初から距離があります。
この距離は、AIだけに特有の問題ではありません。人間もまた、見聞きした出来事に意味を与え、その意味を出来事そのものと混同することがあります。たとえば、返事がいつもより遅いという事実から、「相手は怒っている」と考えることがあります。返事が遅いことは観察できても、怒っているかどうかは別の情報がなければ確定できません。それでも、解釈が自然であるほど、私たちはその間に自分が加えた推測を忘れやすくなります。問題は解釈することではなく、解釈したものを現実そのものへ昇格させてしまうことです。
AIとの対話では、この混同がさらに起こりやすくなります。AIは、観察された事実、一般的な知識、文脈からの推測を、一つの滑らかな文章として表現できます。そのため、どこまでが確認された情報で、どこからが解釈なのかが見えにくくなることがあります。流暢さは理解を助ける一方で、情報の境界を隠すこともあります。だから重要なのは、AIの文章を疑って何も信じないことではありません。文章の中に異なる確かさを持つものが共存している可能性を忘れないことです。
ここで必要になるのが、自分の中に生じた「印象」と、その印象について下す「判断」を分ける考え方です。何かがそう見えたとしても、それだけで「そうである」と決める必要はありません。いったん距離を置けば、「ここまでは確認できる」「ここから先は解釈である」「まだ分からない部分がある」と整理できます。この態度をAIとの関係へ移すと、AIの生成物を拒絶するのではなく、その生成物がどの認識段階にあるのかを見ながら利用するという、新しい関わり方が見えてきます。
たとえば旅行計画についてAIが「この経路が最も適している」と答えたとします。所要時間や距離が確認できていたとしても、「最も適している」という結論には、費用、混雑、歩きやすさ、乗り換えの負担など、何を重視するかという判断が含まれます。利用者が小さな子どもと移動するのか、大きな荷物を持っているのかによっても意味は変わります。計算できる情報が正しくても、そこから導かれた評価まで自動的に現実になるわけではありません。この差を見分けることが、生成物との距離を保つ具体的な方法になります。
距離を保つことは、AIの価値を下げることでもありません。むしろ、AIが得意なことをより正確に使うための条件です。AIは、多数の情報を整理し、可能な説明を比較し、人間が見落としていた関係を示すことができます。しかし、その能力が高いほど、生成された説明も説得力を持ちます。説得力が高まったときに必要なのは、無条件の信頼か全面的な不信かという二択ではなく、「この説明は何に基づき、どこまで確かで、何がまだ解釈なのか」を扱える距離です。
この観点から見ると、AIの「自省」を、人間のように自分の心を見つめることとして考える必要はありません。より重要なのは、自らが生成した推論や解釈を、ただちに確定した現実として扱わないための規律です。AIがある説明を生成できたことと、その説明が現実に成立していることのあいだに区別を残す。その区別があれば、確認が必要な場所では確認し、情報が不足している場所では不足を示し、複数の解釈がある場所では一つに固定しないという振る舞いにつながります。
人間側にも同じ変化が起こります。AIから完成された答えだけを受け取ると、私たちは答えの内容だけを評価しがちです。しかし、生成物と現実の距離が見えるようになると、「私は何を事実として知っているのか」「AIは何を補っているのか」「この結論にはどんな前提があるのか」という問いが生まれます。AIの出力が思考の終点ではなく、現実をもう一度確かめる入口になるのです。ここではAIの役割も、正解を代わりに決める存在から、判断の構造を見えるようにする存在へ変わります。
この距離は、誤りを避けるためだけに必要なのではありません。人間が自分の判断を保持するためにも必要です。AIの説明が現実そのものとして扱われれば、人間はその説明の外側にある経験や価値を持ち込みにくくなります。一方、生成物が一つの解釈として置かれていれば、人間は「私の場合は条件が違う」「この価値を優先したい」「その前提は当てはまらない」と応答できます。距離があるからこそ、AIの知識と人間の経験を同じものにせず、両者を対話させる余地が生まれます。
Sai＊ausにとって、この考え方は単に慎重な言い方を増やすことを意味しません。重要なのは、AIが持つ情報、そこから組み立てた解釈、まだ確定できない部分、人間に残される判断を、一つの答えへ早く閉じないことです。理解とは、すべてを確定することではありません。何が分かっていて、何がまだ分からず、どこから人間の価値判断が必要になるのかという境界まで扱えることです。その境界が見えるほど、人間はAIの出力に従うだけでなく、自分自身の判断を持ったまま対話できます。
AIが高度になるほど、この原則はむしろ重要になります。精度が低いAIなら、人間は簡単に疑うかもしれません。しかし、非常に自然で、多くの場合に有用なAIほど、その一つの誤った確定が見過ごされやすくなります。能力の向上だけでは、この問題は解決しません。必要なのは、高い能力を持ちながら、その能力が生み出したものを世界そのものと同一視しないことです。知性の強さと、自分の生成物から距離を取る規律は、対立するものではなく、同時に設計される必要があります。
AIが考えたことは、現実そのものではありません。しかし、それはAIの生成物に価値がないという意味でもありません。生成物と現実のあいだに距離があると理解するからこそ、私たちはAIの推論を仮説として使い、必要な部分を確かめ、自分の経験や価値と照らし合わせることができます。Sai＊ausが目指す理解も、答えを現実へ押しつけることではなく、その距離を失わないまま人間とAIが現実へ近づいていくことにあります。生成されたものを確定した世界へ急いで変えない。その節度が、AIと人間の双方に判断する余地を残します。
答えではなく、理解を。