阅读AI的解释时,人们产生“既然具体到这种程度,应该就是正确的吧”这样的感觉并不少见。当文字毫不迟疑、理由按顺序呈现,甚至连细节都得到说明时,其内容看起来就像可靠的信息。然而,解释是否自然,并不能保证它已经得到外部事实的确认。AI不仅能表达可靠的信息,也能用同样的文体表达根据语境补充出来的推断。人类首先需要分清的是:文字写得好与内容是否确定,是两种不同的性质。
这个问题之所以困难,是因为仅仅寻找明显的错误并不够。如果一段解释的大部分都是正确的,只有一部分属于推断,那么由于这项推断被正确的信息包围,它可能显得更加确定。例如,即使某个事件的日期和地点已经得到确认,该事件发生的原因也未必得到确认。然而,当它们作为一整段文字被阅读时,事实与解释之间的边界很容易消失。可信感有时并非来自错误本身,而是来自把确定程度不同的内容放在同一个平面上。
人类的理解也具有类似的性质。我们会根据零碎的信息推断情境,如果不这样做,日常生活就无法进行。问题不在于进行推断,而在于忘记自己曾经进行了推断,并以与观察到的事实同样的强度来对待它。在与AI的对话中,不仅AI补充的部分会加入其中,人类读者在阅读AI文字后进一步补充的意义也可能叠加起来。因此,误认不仅发生在AI内部,也会形成于生成与接收之间。
因此,需要的并不是给每一句话都标上怀疑的记号,而是把内容所承担的角色分开处理。如果能够区分“已经确认的内容”“由此得出的解释”和“尚未得到验证的推断”,用户即使阅读同一段文字,也可以采取不同的判断方式。已经确认的事实可以成为下一步判断的基础,解释可以与其他可能性比较,推断则可以通过追加信息来验证。当这些差异变得可见时,AI的解释就不再是一件单一的成品,而会成为包含不同确定程度要素的对话材料。
例如,假设在网上购买的包裹超过预定时间仍未送达。如果AI查看配送记录后回答“原因可能是交通拥堵”,那么“配送正在延误”或许可以确认,但“交通拥堵是否造成了延误”则是另一个问题。恶劣天气、分拣延误、地址确认等其他原因也都有可能。如果把“正在延误”这一观察与“交通拥堵造成了延误”这一推断分开,用户就可以根据需要确认承运方的信息。如果不加区分,一个看似可信的原因解释就会被固定成事实。
AI能够把自己的解释保持为“解释”,还有另一层意义:当新的信息出现时,它就不必维护先前的解释。如果把最初的推断当作事实,之后出现相互矛盾的信息时,就容易把这些信息强行归为例外,或者勉强维持原来的解释。相反,如果从一开始就把最初的解释作为暂时性的解释来处理,那么根据新信息进行更新并不是失败。恰恰相反,这是缩短与现实之间距离的正常过程。
人类一方也需要同样的空间。如果AI表明“这里包含推断”,用户就更容易补充自己的经验或其他信息。如果加入“那天天气没有问题”或“承运方发来了另一份通知”等信息,对话就会从单纯接受最初的解释,转变为共同核实现实。不隐藏AI的不确定性,并不只是为了谨慎,也是在保留一个让人类能够参与形成理解的位置。
对Sai*aus而言,重要的并不是削弱看似可信的文字,而是在清晰整理内容的同时,保留那些不能因这种整理而消失的边界。如果能够在需要时区分事实与解释、观察与推断、已验证与未验证的要素,就不必让流畅与谨慎彼此对立。目标不是为了避免断言而增加含糊的措辞,而是把“什么在多大程度上可以确定”转化为人类能够处理的形式。
对AI的信任,并不一定来自让它看起来总是正确。相反,当“已知”与“未知”之间的边界保持稳定时,人们才能恰当地使用它的输出。即使发生错误,只要能够看出推断是在何处进入的,以及什么需要重新确认,就可以进行纠正。不用“看似可信”代替真实,并不是一条为了不信任AI而设的规则,而是一条用来正确确定信任范围的规则。
要深化AI与人类之间的理解,并不需要AI呈现一个唯一正确的世界图景。真正需要的是,能够共享生成出的解释相对于现实处在什么位置。可靠的事实、看似合理的解释,以及仍需要验证的推断,不应被当作同一种东西。当这种距离得到保持时,人类就不会被AI的文字牵着走,而能够与AI一起核实、提出异议并进行更新。对话的基础,不是消除“看似可信”的力量,而是不忽视这种力量开始伪装成真实的那一刻。
不是答案,而是理解。