当AI推荐某个选项时，问它“你为什么这样想？”，它会给出一套有条理的理由。它可能会说，条件A被优先考虑，选项B存在某个缺点，或者这一选择更适合目的C。这样的解释有助于比较判断所依据的理由。但文字易读且逻辑连贯，并不意味着可以把它视为AI在产生输出的过程中内部所发生处理的直接记录。
即使在人与人之间，我们有时也会在行动之后才把理由说出来。解释作为一种表达形式具有价值，因为它能让他人审视某项判断，但解释性的陈述与原因本身并不相同。对于AI，这一区分更加重要。生成的解释是根据给定上下文构成的输出；它并不是模型复杂内部计算过程完整且可供人阅读的转录。
这并不要求我们得出“AI的解释毫无意义”的结论。我们可以通过解释审视一些内容：它明确采用了哪些假设，它声称哪些条件很重要，它如何比较不同选项，以及它是否承认不确定性。这些内容能为人类审视输出提供线索。重要的是，不要把解释当作“直接揭示内部情况的证据”，而要把它当作“可以被审视的外部表述”。
这一区分在研究中尤其重要。即使我们让AI解释某个假设的理由，仅凭这一解释也不能证明该假设是正确的。我们需要核查原始资料、观察结果、相反证据以及其他可能的解释。AI能够以自信的语气写作，与关于外部世界是否存在充分证据是两回事。不用解释的流畅性替代证据的强度，是验证的起点。
在与AI的对话中问“为什么？”的价值，并不在于提取某个隐藏的内部过程，而在于把判断转化为人类可以审视的形式。如果我们问“你把哪些信息当作事实？”“哪些地方存在假设？”以及“什么变化会改变结论？”，就更容易发现输出中的薄弱之处。这并不是完全理解AI内部的方法，但它可以帮助我们明确人类还需要进一步验证什么。
元层次思考不仅可以用来从稍微抽离的位置审视我们自己的思考方式，也可以用来重新审视我们自认为已经了解了AI的哪些方面。我们可以区分“能够解释一个理由”和“能够观察一个原因”，区分“看似合理”和“得到经核实证据支持”，也区分“前后一致”和“正确”。有了这些区分，我们就能避免高估AI的解释，同时仍把它们作为有用的审视材料。
向AI问“为什么？”很重要。但我们还需要再次追问，这个回答究竟是在回答哪一种问题。我们需要的不是能够完全窥视AI内部的幻觉，而是能够让我们验证判断并在必要时加以修正的材料。了解解释的局限，并不意味着不信任AI。它意味着理解解释可以使用到什么程度，以及从哪里开始必须由外部证据或人类判断来进行核查。
不是答案，而是理解。