AIの説明を読んでいて、「ここまで具体的なら正しいだろう」と感じた経験は珍しくありません。文章に迷いがなく、理由が順序立てて示され、細部まで説明されていると、その内容は確かな情報のように見えます。しかし、説明の自然さは、その説明が外部の事実によって確認されていることを保証しません。AIは、確かな情報だけでなく、文脈から補った推測も同じ文体で表現できます。人間が最初に見分けなければならないのは、文章の上手さと内容の確かさが別の性質だということです。
この問題が難しいのは、明らかな誤りだけを探せばよいわけではないからです。ある説明の大部分が正しく、一部分だけが推測である場合、その推測は周囲の正しい情報に支えられて、より確かなものに見えます。たとえば、ある出来事の日付や場所が確認されていても、その出来事が起きた理由まで確認されているとは限りません。それでも一つの文章として読めば、事実と理由づけの境界は消えやすくなります。もっともらしさは、誤りそのものよりも、異なる確かさを同じ平面に並べることで生まれることがあります。
人間の理解にも似た性質があります。私たちは断片的な情報から状況を推測し、その推測を使わなければ日常生活を進められません。問題は推測することではありません。推測したという事実を忘れ、それを観察した事実と同じ強さで扱うことです。AIとの対話では、AIが補った部分だけでなく、人間がAIの文章を読んでさらに補った意味も重なります。つまり、誤認はAIの内部だけで起きるのではなく、生成と受け取りのあいだでも形成されます。
そこで必要になるのは、すべての文章に疑いの印を付けることではなく、内容の役割を分けて扱うことです。「確認されていること」「そこから導いた解釈」「まだ確かめられていない推測」が区別されれば、利用者は同じ文章を読んでも判断の仕方を変えられます。確認された事実は次の判断の土台にでき、解釈は別の可能性と比較でき、推測は追加情報によって確かめられます。違いが見えることで、AIの説明は一枚の完成品ではなく、確かさの異なる要素を持つ対話材料になります。
たとえば、オンラインで購入した荷物が予定時刻を過ぎても届かないとします。AIが配送履歴を見て「交通混雑が原因でしょう」と答えた場合、配送が遅れていることは確認できても、交通混雑が原因かどうかは別問題です。悪天候、仕分けの遅れ、住所確認など、ほかの理由もあり得ます。ここで「遅れている」という観測と「交通混雑が原因」という推測を分ければ、利用者は必要に応じて配送会社の情報を確認できます。分けなければ、もっともらしい原因説明が事実として固定されます。
AIが自らの解釈を解釈として保持できることには、もう一つ意味があります。新しい情報が入ったときに、以前の説明を守る必要がなくなるからです。最初の推測を事実として扱えば、後から矛盾する情報が現れたとき、それを例外として押し込めたり、説明を無理に維持したりする方向へ進みやすくなります。一方、最初から暫定的な解釈として扱えば、新しい情報によって更新することは失敗ではありません。むしろ、現実との距離を縮める正常な過程になります。
人間側にも同じ余地が必要です。AIが「これは推測を含む」と示せば、利用者は自分の経験や追加情報を返しやすくなります。「その日は天候に問題がなかった」「配送会社から別の通知が来ている」といった情報が加われば、対話は最初の説明を受け入れるだけの関係から、現実を共同で確かめる関係へ変わります。AIの不確かさを隠さないことは、単に慎重になることではなく、人間が理解の形成へ参加できる場所を残すことでもあります。
Sai＊ausにとって重要なのは、もっともらしい文章を弱くすることではありません。分かりやすく整理しながらも、その整理によって消えてはいけない境界を残すことです。事実と解釈、観測と推測、確認済みと未確認を必要に応じて区別できれば、流暢さと慎重さを対立させずに済みます。目指すのは、断定を避けるために曖昧な文章を増やすことではなく、何がどの程度確かなのかを人間が扱える形にすることです。
AIとの信頼は、常に正しいように見せることで生まれるとは限りません。むしろ、分かっていることと分かっていないことの境界が安定している方が、人間は出力を適切に使えます。誤りが起きたときにも、どこで推測が入り、何を確かめ直せばよいかが見えれば、訂正できます。もっともらしさを真実の代わりにしないことは、AIを信用しないための規則ではなく、信用の範囲を正しく決めるための規則です。
AIと人間の理解を深めるために必要なのは、AIが一つの正しい世界像を提示することではありません。生成された説明が、現実についてのどの位置にあるのかを共有できることです。確かな事実、妥当そうな解釈、まだ検証が必要な推測を同じものにしない。その距離が保たれると、人間はAIの文章に引きずられるのではなく、AIとともに確かめ、異議を出し、更新できます。もっともらしさの力を消すのではなく、その力が真実を装う瞬間を見失わないことが、対話の基盤になります。
答えではなく、理解を。