當目標明確時，最佳化十分有力。一旦條件確定——縮短移動時間、降低成本，或在維持一定品質水準的同時減少工作量——AI就可以比較大量候選方案。但在人類的重要判斷中，目標本身可能並非單一，也尚未確定。一個人可能既想增加收入，又想守護與家人相處的時間；也可能希望獲得成長，卻不想增加健康負擔。在這種情況下，必須在開始最佳化之前考慮各種價值之間的關係。
問題並不在於把多種價值轉換成數字這一行為本身。為了比較而賦予權重可能是有用的。但如果是誰設定了這些權重、為什麼這樣設定變得不清楚，目標的形成就會變成單純的計算條件。例如，如果從一開始就給定一個高度重視收入的設定，AI就能在這一條件下提出一致的建議。即便如此，一個人是否真的希望把收入置於其他一切之上，也無法從計算的正確性中推導出來。
對於有限的人類而言，這一區別很重要。如果設定了錯誤目標之後，我們能夠一次又一次地從頭重啟人生，那麼也許可以在事後選擇產生了最佳結果的權重。但現實中，由一次選擇所耗費的部分時間以及失去的某些機會並不會回來。因此，「應該最佳化什麼？」並不只是一個技術性的前處理步驟；它也是關於一個人將把有限時間用於何處這一判斷的一部分。
作為思考支援，AI可以做的不是自行固定目標，而是讓目標內部的衝突變得可見。它可以展示，當一種價值被優先考慮時會發生什麼變化，以及當另一種價值獲得更高權重時，候選方案的排序會如何改變。它也可以透過提問來確認，表面上看似單一的目標背後是否實際上包含多種願望。這樣的比較能夠幫助一個人在把問題歸結為一個最優解之前，理解自己究竟想要選擇什麼。
在這裡，提問本身不能成為目的。如果目標明確，而且選擇很容易撤回，那麼每次都停下來反而會使支援成為負擔。重要的是識別這樣的情形：目標的模糊性可能改變結論，多種價值彼此衝突，或者選擇具有很高的不可逆性。提問並不是對速度的反對；當目標尚未形成到人類能夠將其認作自身目標的程度時，提問是一種必要的手段。
對Sai＊aus而言，最佳化與理解正是在這裡相遇。即使AI找到了出色的手段，如果人類並不理解這一手段所指向的目標，高效率也未必意味著理想的結果。因此，不應混淆比較手段的層面與審視什麼才重要的層面。可以把AI的能力作為形成目標的材料，同時保留一種結構，使人類能夠為賦予各種價值的優先次序承擔責任。
在最佳化之前決定「什麼才重要」，並不意味著一個人必須始終獨自、孤立地思考。人們是在與他人的關係以及社會責任之中形成價值的。AI也可以支援這種審視。即便如此，已經變得可計算的事情，並不一定就是應當委託出去的事情。思考支援應當保留這樣一個條件：有限的主體能夠理解自己的選擇優先了什麼、放棄了什麼，然後在不抹去人類判斷的前提下使用最佳化。
不是答案，而是理解。