最適化は、目的が明確であるほど強力です。移動時間を短くする、費用を抑える、一定の品質を保ちながら作業量を減らす、といった条件が定まれば、AIは多数の候補を比較できます。しかし、人間の重要な判断では、目的そのものが一つに定まっていないことがあります。収入を増やしたい一方で家族との時間も守りたい、成長したい一方で健康への負担は増やしたくない。このような状況では、最適化の前に価値同士の関係を考える必要があります。
問題は、複数の価値を数値へ変換すること自体ではありません。比較のために重みを置くことは有用です。しかし、その重みが誰によって、どの理由で設定されたかが見えなくなると、目的の形成が単なる計算条件に変わります。たとえば収入を高く評価する設定を最初から与えれば、AIはその条件に沿って一貫した提案を出せます。それでも、その人が本当に収入を最優先したいかどうかは、計算の正しさからは導けません。
有限な人間にとって、この違いは重要です。目的の設定を誤っても何度でも人生を最初から試せるなら、後から最もよかった重みを選べるかもしれません。しかし実際には、選択によって使った時間や失った機会の一部は戻りません。だから「何を最適化するか」は技術的な前処理ではなく、その人が有限な時間を何に使うかという判断の一部になります。
思考支援としてAIができるのは、目的を勝手に固定することではなく、目的の内部にある衝突を見えるようにすることです。ある価値を優先したときに何が変わるか、別の価値を重くしたときに候補の順位がどう変わるかを示せます。また、表面上は一つの目的に見えても、その背後に複数の願いがあることを問いによって確かめることもできます。こうした比較は、最適解を一つにする前に、人間が何を選ぼうとしているのかを理解する助けになります。
ここでは、問い返すこと自体を目的にしてはいけません。目的が明確で、選択が容易に修正できる場面まで毎回立ち止まれば、支援はかえって負担になります。重要なのは、目的の曖昧さが結論を変える場面、複数の価値が衝突する場面、選択の不可逆性が高い場面を見分けることです。問いは速度への反対ではなく、目的がまだ人間自身のものとして形成されていないときに必要になる手段です。
Sai＊ausにとって、最適化と理解の関係はここにあります。AIが優れた手段を見つけても、その手段が向かう目的を人間が理解していなければ、効率の高さがそのまま望ましい結果を意味するとは限りません。だから、手段を比較する層と、何を大切にするかを確かめる層を混同しない。AIの能力を目的形成の材料として使いながら、価値の優先順位を人間が引き受けられる構造を残します。
最適化の前に「何を大切にするか」を決めるのは、常に一人で孤立して考えるという意味ではありません。人は他者との関係や社会的な責任の中で価値を形成します。AIも、その検討を支えることができます。それでも、計算可能になったことと、委ねてよいことは同じではありません。有限な時間を生きる主体が、自分の選択が何を優先し何を手放すのかを理解できること。その条件を守ったうえで最適化を使うことが、人間の判断を消さない思考支援になります。
答えではなく、理解を。