← 返回主题 Saiaus

AI应该将过去的“梦想”作为知识保存吗?

在长期AI支持中,记住过去的目标能够形成连续性。但是,如果把一个目标作为在当下仍然有效的事实来保存,人类的变化就可能被固定在过去的自我描述之中。本文探讨一种知识设计:将目标表示为可更新的状态,并使其与时间、理由、依据和当前有效性相联系。

专业

对于支持长期对话的AI而言,记住过去的目标具有明确的好处。如果能够保留几个月前制定的学习计划、工作目标或生活愿望,当事人就不必每次都从头解释一切。过去的判断也可以与当前情况进行比较。然而,“记住某件事”和“把它作为现在仍然有效的知识来处理”需要加以区分。

目标在性质上不同于已经发生的事件。“这个人在某一天说过这句话”这一事实,即使本人后来改变了想法,也仍然是关于过去的事实。相比之下,“这个人的目标是X”这样的陈述包含了对当前状态的主张。如果仅仅因为过去的一次陈述,就在不更新的情况下继续使用这一状态,那么它在历史记录上可能是准确的,却可能并不能准确地作为代表此人当前状态的知识。

因此,保存的目标除了内容之外还需要带有时间。系统不应只保留“我想创业”,而可以表示为“在某个时间点,基于特定的理由和条件,这个人曾把创业作为目标”。随后,系统可以根据之后的行动以及现实给予的反馈,区分该目标是否仍然有效、是否需要重新确认,或者是否已被本人明确改变。

与理由之间的关系同样重要。同一个目标可能具有不同的含义,这取决于当事人是追求更自由的工作方式、希望增加收入,还是希望创建一个解决特定问题的企业。如果只保存目标而丢失其理由,当条件发生变化时,系统就无法知道应当重新验证什么。反过来,如果把某个理由固定为绝对动机,那么当本人后来的理解发生变化时,又会产生另一个问题。理由也必须作为具有时间点和确定程度的信息来处理。

这里的更新并不意味着删除过去的目标。如果目标发生变化时把先前的记录抹去,就会失去解释为什么发生这种变化的路径。长期理解得益于这样的历史:这个人过去想要什么、哪些经历改变了什么,以及现在如何思考。重要的是保留旧信息,同时不把它与当前状态混为一谈。

还必须区分AI自身的推断与本人明确的陈述。即使AI根据行为变化推断出“对该目标的兴趣可能正在下降”,这也不同于本人说“我已经决定放弃这个目标”。如果以相同的确定程度保存两者,那么推断之后可能会被作为事实引用,并不必要地引导本人对自己的理解。

因此,知识表示至少需要区分:信息是谁陈述的、何时陈述、与哪些经历或理由相关、其当前有效性是否得到确认,以及它是推断还是明确的选择。并非每一个细节都必须保存,但可能改变之后判断的差异不应丢失。压缩不应只是减少信息量,而应在保留必要关系的同时,使信息更易于处理。

在Sai*aus的内部效率表达中,这种思路改变了目标的位置。目标并不是推理开始时的固定输入,而是一个其状态能够通过人类经验发生变化的要素。通过把支撑目标的理由、小的行动、现实反馈回来的差异以及人类理解的变化关联起来,系统可以保留重新考虑当前目标是否应继续有效所需要的语境。

这种设计并不是为了让AI频繁改变人类的目标。相反,它是在不把改变目标的权限交给AI的情况下,防止过去的目标自动继续成为当前的目的。系统可以指出需要重新验证,呈现过去与现在之间的差异,并把最终的意义赋予权交还给本人。这一边界使记忆的连续性与人类改变的能力能够并存。

随着AI对一个人了解得越来越多,其知识的准确性就不能再仅仅以“忘得有多少”来衡量。它必须准确保存过去的梦想,同时区分这些梦想现在是否仍然有效;把已经改变的目标作为变化的历史保留下来,而不是覆盖过去;并避免把AI的推断与人的选择混为一谈。要在时间中理解一个人,知识需要一种结构:不是把人作为固定的画像,而是作为可更新的状态来处理。

因此,“过去的梦想应该被保存吗?”这个问题并不是保存还是删除的二元选择。它们可以作为历史保留下来,而在被用作当前目的时再次检查其有效性。这样,记忆就可以成为理解一个人如何发生变化的材料,而不是把人束缚在过去的机制。长期AI知识设计需要同时实现两件事:不丢失过去,也不把现在固定在过去之上。

不是答案。是理解。

← 返回主题