如果给AI一个“将销售额翻倍”的目标,它可以分解实现目标所需的措施,并在考虑资源和时间的情况下比较各种选项。但即使是同一个“将销售额翻倍”的目标,其理由也可能不同。是为了维持企业的持续经营,是为了筹措新的投资,是为了追赶竞争对手,还是因为组织规模扩大本身就被视为成功?目标的意义会随着理由而改变。
如果只处理目标,这些差异就会被排除在同一个目标函数之外。AI可以理性地寻找接近给定数值的方法,却无法处理为什么需要这个数值。当现实条件发生变化时,它可能会在只调整手段的同时继续维持同一个目标。然而,如果支撑目标的理由已经消失,那么在改进手段之前,可能需要先重新验证目标。
假设扩大销售额的理由是“确保足够的利润,以维持现有就业”。后来,固定成本下降,即使销售额大幅降低,也足以维持就业。此时,将销售额翻倍这一目标的必要性已经发生变化。相反,如果理由是“筹集投资资金,以便将服务提供到新的地区”,那么即使条件发生同样的变化,也可能得出不同的判断。目标的有效性无法仅从目标本身进行评估。
因此,“为什么是这个目标?”并不是补充说明,而是推理结构的一部分。如果明确地将目标与理由关联起来,就可以看出行动之后的现实影响了哪一个假设。如果理由仍然成立,它就构成继续维持目标的依据;如果理由发生变化,则可以触发重新验证。不能只是询问一次理由,然后将其固定下来。理由本身也必须被视为会随着时间和经验而变化的事物。
此外,人们并不总能从一开始就完整地解释自己的理由。一个人可能会说自己“想要成长”,但通过对话和行动,可能会逐渐明确,其实想要的是更多自由时间、得到他人的认可,或扩大社会影响。如果AI把最初的解释固定为真正的动机,那么后来出现的理解就会被当作例外处理。
这里,推理的作用并不是猜测人类隐藏的动机,而是梳理明确表达的目标和理由、行动后出现的反应以及条件变化之间存在怎样的不一致,使本人能够重新描述自己的理由。AI与其诊断说“你真正想要的是认可”,不如提出这样的问题:“你最初把成长作为理由,但最近的选择更优先考虑自由时间。这种差异会影响目标吗?”
这也不是说推理越深入越好。如果对每一个小目标都无限追问理由,行动就会变得不可能。需要深入处理的,是那些重新确认理由可能改变判断的场景——例如,改变目标的成本很高、长期影响很大,或者现实反馈了一个重要差异时。推理资源应根据目的的重要性和不确定性来分配。
在Sai*aus的内部效率表征中,在必要范围内将“这个人想做什么”与“为什么想做这件事”关联起来同样具有意义。如果只以紧凑形式保留目标,处理会更轻,但之后检验有效性所需要的依据就会丢失。反过来,也并不是保存所有背景细节就好。设计上需要保留那些可能改变未来判断的理由和假设,同时压缩不需要保留的内容。
对于支持目标实现的AI来说,准确理解给定的目的很重要。但如果人的目的可能发生变化,那么需要理解的对象就不能只是目标的措辞。只有同时表征哪些理由支撑着目标,以及条件发生哪些变化时需要重新验证,才能把行动后的现实重新反馈到目的之中。
在优化之前追问“为什么是这个目标?”,并不只是为了怀疑目标。它也可能让继续坚持目标的理由变得更加清晰。如果行动强化了理由,目标就会比以前更加稳固。如果理由发生变化,目标也可以重新打开讨论。高级推理不仅是快速到达给定的目的,也包括能够区分:在什么条件下可以继续固定这一目的,以及在什么条件下应当再次对它提出问题。
不是答案,而是理解。