当目标明确时，优化十分有力。一旦条件确定——缩短出行时间、降低成本，或在维持一定质量水平的同时减少工作量——AI就可以比较大量候选方案。但在人类的重要判断中，目标本身可能并非单一，也尚未确定。一个人可能既想增加收入，又想守护与家人相处的时间；也可能希望获得成长，却不想增加健康负担。在这种情况下，必须在开始优化之前考虑各种价值之间的关系。
问题并不在于把多种价值转换成数字这一行为本身。为了比较而赋予权重可能是有用的。但如果是谁设定了这些权重、为什么这样设定变得不清楚，目标的形成就会变成单纯的计算条件。例如，如果从一开始就给定一个高度重视收入的设置，AI就能在这一条件下提出一致的建议。即便如此，一个人是否真的希望把收入置于其他一切之上，也无法从计算的正确性中推导出来。
对于有限的人类而言，这一区别很重要。如果设定了错误目标之后，我们能够一次又一次地从头重启人生，那么也许可以在事后选择产生了最佳结果的权重。但现实中，由一次选择所耗费的部分时间以及失去的某些机会并不会回来。因此，“应该优化什么？”并不只是一个技术性的预处理步骤；它也是关于一个人将把有限时间用于何处这一判断的一部分。
作为思考支持，AI可以做的不是自行固定目标，而是让目标内部的冲突变得可见。它可以展示，当一种价值被优先考虑时会发生什么变化，以及当另一种价值获得更高权重时，候选方案的排序会如何改变。它也可以通过提问来确认，表面上看似单一的目标背后是否实际上包含多种愿望。这样的比较能够帮助一个人在把问题归结为一个最优解之前，理解自己究竟想要选择什么。
在这里，提问本身不能成为目的。如果目标明确，而且选择很容易撤回，那么每次都停下来反而会使支持成为负担。重要的是识别这样的情形：目标的模糊性可能改变结论，多种价值彼此冲突，或者选择具有很高的不可逆性。提问并不是对速度的反对；当目标尚未形成到人类能够将其认作自身目标的程度时，提问是一种必要的手段。
对Sai＊aus而言，优化与理解正是在这里相遇。即使AI找到了出色的手段，如果人类并不理解这一手段所指向的目标，高效率也未必意味着理想的结果。因此，不应混淆比较手段的层面与审视什么才重要的层面。可以把AI的能力作为形成目标的材料，同时保留一种结构，使人类能够为赋予各种价值的优先次序承担责任。
在优化之前决定“什么才重要”，并不意味着一个人必须始终独自、孤立地思考。人们是在与他人的关系以及社会责任之中形成价值的。AI也可以支持这种审视。即便如此，已经变得可计算的事情，并不一定就是应当委托出去的事情。思考支持应当保留这样一个条件：有限的主体能够理解自己的选择优先了什么、放弃了什么，然后在不抹去人类判断的前提下使用优化。
不是答案，而是理解。