在研究和实施现场,AI越来越多地整理文献、生成假设,并为观察结果提出候选解释。问题并不只是生成的假设可能错误。一个逻辑上连贯的解释可能被写入文档,并在后续工作中作为“已经验证的前提”再次使用。一旦其地位以这种方式发生变化,原有的不确定性就会变得不可见,未经验证的推理也可能作为事实不断积累。
要避免这一问题,就必须将推理的有效性与验证是否完成区分开来。结论能够从给定前提中合乎逻辑地推出,与这些前提在现实中是否为真,是两回事。同样,一个假设与多项观察相一致,也不意味着竞争性假设已经被排除。AI越擅长推理,这一区分就越重要。推理质量高不能成为省略外部验证的理由。
保持暂定性的一种方法,是将生成内容的各组成部分分开记录。应区分哪些内容得到外部资料或观察的支持,哪些部分属于AI推理,哪些内容仍未得到确认,以及出现哪些事实时应当修改或放弃该假设。这样,即使之后只阅读文本,也能够追踪该结论处于哪个阶段。
证伪条件尤其重要。如果只收集“支持这一假设的证据”,解释就很容易自我强化。如果预先说明什么样的观察会使该假设不成立,验证就会从保护结论的工作转变为检验结论的工作。当AI生成多个假设时,把每个假设的支持条件和证伪条件并列起来,也有助于避免仅凭似真性进行选择。
在与外部资料建立连接时,还必须区分“存在来源”和“该来源支持这一主张”。即使找到了可以引用的资料,如果该资料涉及不同的对象、时期或条件,也未必能直接支持当前主张。因此,研究支持不仅需要审计是否存在来源,还需要审计主张与证据相对应的范围。依据连接不是装饰,而是控制主张适用范围的机制。
表示暂定性,并不只是简单地在句子中加入“可能”。如果把所有内容都写得模糊,反而会更难判断哪些内容得到强有力的支持,哪些支持较弱。需要做的是根据认识状态改变表述。应区分已确认的事实、有力但尚未验证的解释、探索阶段的假设,以及因信息不足而暂缓判断的情况,并为每一种状态对应下一步所需的验证。
审计不仅要考察结论是否正确,还要考察该结论是否被置于正确的状态。如果一句话作为假设是成立的,却被记录为既定事实,那么无论其内容最终被证明为真还是为假,这本身都是另一个层面的质量问题。反过来,如果对已经得到充分验证的事实使用过度弱化的表达,也可能延误必要的判断。使推理保持暂定,并不意味着始终使用弱化表述,而是要让表达的强度与证据的状态相匹配。
当AI生成的内容成为后续AI处理的输入时,这一框架会变得更加重要。如果前一阶段假设的暂定性质在重新使用前丢失,那么每增加一层推理,未经验证的前提都可能被进一步放大。反之,如果在交接时保留认识状态,后续处理就可以判断哪些部分需要重新确认。可验证性不仅关系到面向人的解释,也关系到多阶段AI处理中的前提管理。
在Sai*aus的研究支持中,重要的不是把理解封闭在一个完成的解释里,而是保留某项内容已经验证到什么程度、从哪里开始属于推理,以及什么情况可能使其更新。AI生成假设的能力越强,就越需要一种记录结构,防止这些假设日后转变为事实。生成能力与可审计性不应被当作彼此独立的功能,而应从生成之时起就连接起来。
让AI推理保持暂定状态,并不是为了拖慢研究。明确哪些结论应进入下一步验证、哪些前提需要再次确认、哪些假设可以被否定,就能够适当地分配验证资源。重要的是区分快速得出结论与快速确定结论。前者可以加快探索,后者则可能关闭验证之门。
研究支持AI所需要的反思性距离,并不是不断怀疑自己的推理而什么都不决定。它意味着保留推理依赖哪些证据、已经验证到什么程度,以及发生什么情况时需要修正。如果能够在保持连接的同时区分有效性与可验证性,那么AI生成的内容就可以不被视为既成事实,而被视为可验证的知识候选。维持这种状态,是在研究中兼顾速度与可靠性的基础。
不是答案,而是理解。