质疑前提会扩大思考的自由。然而,如果我们问“为什么采用这个前提?”,接下来还可以问“什么标准使这个理由显得有效?”,继而再问“选择这个标准的依据是什么?”原则上,把问题向上移动一个层级的操作并没有终点。这并不是哲学所特有的问题;在人与AI的协作中也会出现。如果AI质疑用户的前提,并继续追问每个回答背后的目的和价值标准,那么对话即使变得更加精确,也可能失去回到判断与行动的能力。
因此,不能简单地把元层级思考理解为“抽象层级越高越好”。在对象层级,我们处理的是选择什么、写什么、采取什么行动等具体问题。向上一层,我们可以考察支撑这些判断的前提和目的。再向上一层,我们可以考察选择这些前提本身所依据的标准。然而,每提高一次抽象程度,也都会产生远离具体情境的成本。元层级的价值并不取决于其高度本身,而取决于它是否发现了在对象层级看不见的差异,以及能否把这些差异重新带回具体判断之中。
由此产生了停止条件的问题。第一个条件是,移动到元层级之后,是否发现了能够改变对象层级选择的新差异。假设我们不确定两个方案中该选哪一个,而考察更高层级的目的后发现,只有其中一个与原本的目的不一致。在这种情况下,移动到元层级对判断具有价值。相反,如果再向上一层既不改变对选项的评价,也不产生新的信息需求,那么这种上升与其说是在深化理解,不如说可能只是在用不同的词汇描述同一个问题。
第二个条件涉及通过进一步的元层级考察所获得的信息价值,与延迟判断所付出的成本之间的关系。对安全有严重影响的决定,与可以轻易撤回的日常选择,并不需要相同深度的考察。当结果不可逆、影响范围广且不确定性高时,就有理由更深入地考察前提和评价标准。另一方面,在可以低成本尝试、观察结果并进行修正的情境中,通过小规模行动获得的信息,可能比等待对前提进行完整验证更有价值。因此,停止条件不仅取决于抽象意义上的正确性,也取决于可逆性和信息价值。
第三个条件是责任。上升到元层级,并不是一种让责任主体消失的操作。即使我们理解“价值标准本身是相对的”或“存在其他可选的前提”,在现实情境中仍然必须有人作出判断并承担其后果。能够比较多种价值体系,与能够无限期推迟判断,是两回事。事实上,元层级思考越成熟,就越重要的是:在理解自己的判断并非唯一必然结论的同时,仍然能够说明为什么在这些条件下要采用这一选择。
在包含AI的对话系统中,这个停止问题变得更加重要。AI可以在短时间内补充人类没有想到的前提、反例和其他评价维度。这种能力支持元层级思考,但同时也可能近乎无限地增加可供考察的问题数量。如果每增加一个问题,都会让人产生“也许还有什么尚未考虑”的感觉,那么就会出现一个悖论:能力越强的AI,反而越可能让决策难以结束。因此,良好的支持并不是提出最多的问题,而是区分哪些尚未考察的事项可能相对于当前目的改变判断。
在这里,需要维持人类与AI之间的非对称性。AI可以生成更多视角,指出前提之间的矛盾,并比较条件改变时的后果。但是,要接受哪种损失、优先哪种价值,以及何时在仍有不确定性的情况下转入行动,并不能仅由推理量决定。AI可以提出停止的建议,但这并不意味着它会自动承担为该停止点进行正当化的责任。人类在判断中的主体性,不体现在能够比AI考虑更多问题,而是也体现在划定充分考察与行动之间的边界。
然而,如果把停止条件变成固定规则,就会产生另一个问题。“思考三个层级后就停止”“确认两个反对意见就足够了”之类的形式标准,会忽视问题的严重性和不确定性。重要的不是层级数量,而是当前判断对条件变化的敏感性。改变前提会不会改变结论?新的证据会不会逆转评价?是否存在被忽略的利益相关者?行动之后还能不能修正?当对这些条件的敏感性降低时,可以认为继续提高抽象层级的边际价值也在下降。
对于Sai*aus而言,拥有元层级的意义也在这里。重点不是让对话走向无休止的自我分析,而是把对象层级产生的不适感暂时提升到元层级,确认差异究竟存在于前提、目的还是评价标准之中,然后再把结果带回一个具体问题。重要的不是上升,而是往返。当这种往返能够成立时,元层级思考就不再是延迟行动的附加反思,而会成为一种机制:在必要范围内重新组织判断的表征,并再次把它连接到现实。
从这个角度看,元层级思考至少可能朝两个方向失败。一个是固定在对象层级,即使前提已经改变,也继续优化同一个问题。另一个是不断质疑前提,直到“任何判断都只有暂时性的依据”这一事实变成不采取行动的理由。前者是思考的僵化,后者是思考的无限后退。所需要的并不是在两者之间设置一个简单的妥协点,而是一种能够根据问题性质在对象层级与元层级之间移动的可变结构。
如果要评价这种结构,仅仅问“思考得有多深?”是不够的。我们需要考察:移动到元层级是否发现了重要前提,是否明确了可能改变判断的条件,是否把不确定性所在之处分离开来,是否使最终选择的理由变得可解释,以及是否能在必要的时点回到具体行动。元层级思考的质量,不应由抽象程度的高低来评价,而应由它是否产生了对象层级无法获得的理解,以及这种理解是否重新连接到了判断来评价。
能够从高一层进行思考很重要,但不能仅凭这一点定义智能的成熟。与能够质疑自己的前提、甚至考察这种质疑背后的前提同样重要的是,知道在哪里停止追问,接受暂时性的理解,并回到现实。元层级不是思考的避难所,而是从另一种形式重新审视对象层级的临时位置。上升、发现差异、返回。只有当这一循环成立时,元层级思考才不会成为无止境的自我反思,而会成为人类与AI更新判断的一种实践结构。
不是答案,而是理解。