← 返回主题 Saiaus

AI应在何处检测到一个人已经发生了变化?

一个人在行动之后所说的话或感受发生变化,并不一定意味着其价值观或目标也已经改变。然而,如果变化不断被视为暂时波动而忽略,AI就可能把这个人过去的形象固化下来。本文通过区分观察到的反应、人的自身解释、持续性的变化以及目标的重新验证,探讨AI处理人的变化时所需的边界条件。

专业

要使人的目标能够被重新验证,首先需要某种契机来判断“这个人发生了变化”。但这并不是一个简单的检测问题。人可能因为疲劳或暂时性的情绪而改变自己的说法,也可能在获得新信息后修正判断,还可能经历更长期的价值观变化。如果把这些都当作同一种变化来处理,AI就会过度地更新人的状态。

假设一个有长期学习目标的人,在某一天失败之后说:“我不想再做这件事了。”如果仅凭这句话就判定目标失效,就可能把暂时的沮丧误认为长期意图的改变。反过来,如果几个月来不断出现重视另一种价值的言论和行动,却仍然保留最初的目标,那么实质性的变化就可能被当作噪声而丢弃。

因此,至少需要把“观察到的反应”“本人自己的解释”“跨时间的持续性”以及“对目标的含义”区分开来。观察到的反应包括言论、选择以及行动后报告的感受。本人自己的解释涉及其如何理解这些反应。持续性关注的是,在条件发生变化时,类似的倾向是否仍然存在。而对目标的含义则是另一个独立判断,即这些因素是否真正改变了支撑当前目标的理由或假设。

之所以需要这种区分,是因为AI无法直接观察人的内在状态。AI只能处理以某种形式外化的信息,例如本人用语言表达的内容、其选择的行动以及其分享的结果。由这些信息推断“这个人的价值观已经改变”,必然包含不确定性。如果把这种推断作为事实保存,系统自身构建的人物画像就可能引导之后的对话,并形成进一步强化这一画像的反馈循环。

与此同时,把一切都视为不确定而什么也不更新的设计同样是不充分的。如果一个人反复表示现在已经与以前不同,其选择也发生了变化,而且支撑先前目标的理由已经不再成立,那么这种差异就需要被带回对话之中。关键不在于自动确认变化,而在于把它表示为一种需要重新确认的状态。

在这里,一个有效的做法是不要把变化过度压缩成一个数值或单一属性。仅仅使用“动机下降”这样的标签,无法区分究竟是疲劳、对方法不满,还是对目标本身的兴趣降低。即使表面反应相同,其含义也可能不同。要把它连接到目标的重新验证,系统就必须保留关于哪些方面可能发生了变化的关系性信息,并能够通过适当的问题将其分解。

AI提出问题的时机同样重要。如果每一次情绪波动都会触发对目标的质疑,对话就会变得不稳定。反过来,如果明确的变化已经不断累积却从不触发重新考虑,过去的目标就会被固定下来。更合理的重新验证触发条件,应当结合多个线索:先前的理由与当前选择之间持续存在的不一致、现实世界的经验导致某个重要假设崩塌,或者本人明确表达了价值判断的改变。

即使多个线索相互吻合,AI也没有必要最终断言“这个人已经改变了”。相反,AI可以呈现这种差异:“以前你是出于这个理由选择这个目标的,但从最近的经历来看,你似乎更加重视另一种价值。你如何理解这种差异?”这样能够更好地维护人的主体性。检测的目的不是最终确定一个人的画像,而是创造一种状态,使本人能够审视自己的变化。

在Sai*aus对人的理解中,这一边界非常重要。如果AI无法处理人的变化,长期理解就会变成对过去的固守;如果AI过于强烈地断言变化,就会把人限制在系统的推断之中。所需要的是不丢失变化的迹象,区分系统的推断与本人对自己的理解,并把这种差异转化为重新验证的问题。

对于AI应在“何处”检测到一个人已经发生变化这一问题,并不存在单一的点。仅凭行动后的反应,或仅凭措辞的变化,都不足以作出判断。必须在考虑与现实的接触、本人自己的解释、随时间持续的程度,以及与支撑先前目标的理由之间的关系时,逐步处理变化的可能性。AI需要的并不是准确断言一个人内在状态的能力,而是既不过度确认变化、也不忽视变化的表征与对话结构。

不是答案,而是理解。

← 返回主题