私たちは日常のさまざまな場面で予測を使っています。雨が降りそうなら傘を持ち、混雑しそうなら出発時刻を変えます。AIは大量の情報を扱えるため、こうした予測をより細かく行える場合があります。しかし、ある結果が起こる確率が高いことと、その結果を選ぶべきであることは別です。「起こりそうだ」という記述は未来についての見通しであり、「そうすべきだ」という判断には目的や価値が含まれます。この二つを同じものとして扱うと、予測はいつの間にか命令へ変わります。
たとえば、過去の選択からAIが「あなたはこの商品を選ぶ可能性が高い」と予測したとします。その予測が正確であるほど、提案は便利になります。しかし、人間は過去と同じ選択を繰り返すだけの存在ではありません。節約したい、別のものを試したい、環境への影響を考えたいなど、新しい目的が生まれることがあります。過去から計算された確率は、その変化が起きる前の傾向をよく表していても、現在の意志まで決定するものではありません。
予測が強いほど思考が閉じやすい理由の一つは、数字が客観的に見えることです。「八割の可能性」と示されると、残り二割の可能性は重要でないように感じられることがあります。しかし、確率は何を観測し、どの集団や期間を基準にしたかによって意味が変わります。そして個人の判断では、少数の可能性に大きな価値があることもあります。起こりやすさを知ることは有用ですが、それだけで何を望むかは決まりません。
ここで思考に必要なのは、予測を拒むことではなく、その役割を限定することです。予測は「この条件なら何が起こりやすいか」を考える材料になります。一方、「どの結果を目指すか」「どの危険を受け入れるか」「何を大切にするか」は別の問いです。予測と意志を分ければ、AIの分析を使いながら、人間は自分の目的を確認できます。予測に従うかどうかも、予測の外側にある判断になります。
たとえば学習計画で、AIが過去の成績から「この分野は得点が伸びにくい」と予測したとします。試験で短期的に点数を上げることだけが目的なら、別の分野へ時間を配分する判断には合理性があります。しかし、その分野を将来深く学びたい人にとっては、伸びにくいこと自体が取り組む理由になるかもしれません。同じ予測でも、目的が変われば次の行動は変わります。予測は選択を狭める答えではなく、選択の条件を見えるようにする情報として使えます。
AIが人間の意志を尊重するためには、過去の傾向から現在の希望を自動的に確定しないことが重要です。「これまでこうだった」から「これからもこうしたいはずだ」へ進む間には、確認されていない飛躍があります。人間は経験から学び、価値観を変え、以前とは異なる選択をします。その変化の可能性を残すことは、予測精度を否定することではありません。予測が扱う範囲と、人間が決める範囲を混同しないことです。
人間側にも、自分の判断を予測へ預けすぎない姿勢が必要です。AIが高い確率を示したとき、「ではそれが正解だ」と終わるのではなく、「この予測は何を前提にしているか」「私はその前提と同じ目的を持っているか」と問い直せます。この小さな距離があることで、数字は思考を止める権威ではなく、考えるための材料になります。予測の精度が上がるほど、その距離はむしろ重要になります。
Sai＊ausが予測を扱うときも、重要なのは未来を当てることだけではありません。予測がどの条件に基づき、どこまで利用でき、どこから人間の選択が始まるのかを区別することです。AIが「起こりそうなこと」を示し、人間が「それでも何を選ぶか」を考えられるなら、予測と意志は競合しません。AIの能力は人間の決定を置き換えるのではなく、決定の条件をより明確にするために使えます。
「たぶん正しい」は、重要な情報です。しかし、それは「そうすべき」と同じ文章ではありません。確率は世界についての見通しを与えますが、意志はその世界の中でどこへ向かうかを選びます。この二つの距離を保つことで、人間はAIの予測に逆らうためではなく、予測を理解したうえで自分の判断を持つことができます。考えることとは、もっとも起こりやすい未来を受け入れることだけでなく、どの未来を選びたいのかを問い続けることでもあります。
答えではなく、理解を。