當AI推薦某個選項時，問它「你為什麼這樣想？」，它會給出一套有條理的理由。它可能會說，條件A被優先考量，選項B存在某個缺點，或者這一選擇更適合目的C。這樣的解釋有助於比較判斷所依據的理由。但文字易讀且邏輯連貫，並不意味著可以把它視為AI在產生輸出的過程中內部所發生處理的直接記錄。
即使在人與人之間，我們有時也會在行動之後才把理由說出來。解釋作為一種表達形式具有價值，因為它能讓他人檢視某項判斷，但解釋性的陳述與原因本身並不相同。對於AI，這一區分更加重要。生成的解釋是根據給定脈絡構成的輸出；它並不是模型複雜內部計算過程完整且可供人閱讀的轉錄。
這並不要求我們得出「AI的解釋毫無意義」的結論。我們可以透過解釋檢視一些內容：它明確採用了哪些假設，它聲稱哪些條件很重要，它如何比較不同選項，以及它是否承認不確定性。這些內容能為人類檢視輸出提供線索。重要的是，不要把解釋當作「直接揭示內部情況的證據」，而要把它當作「可以被檢視的外部表述」。
這一區分在研究中尤其重要。即使我們讓AI解釋某個假設的理由，僅憑這一解釋也不能證明該假設是正確的。我們需要核查原始資料、觀察結果、相反證據以及其他可能的解釋。AI能夠以自信的語氣寫作，與關於外部世界是否存在充分證據是兩回事。不用解釋的流暢性取代證據的強度，是驗證的起點。
在與AI的對話中問「為什麼？」的價值，並不在於提取某個隱藏的內部過程，而在於把判斷轉化為人類可以檢視的形式。如果我們問「你把哪些資訊當作事實？」「哪些地方存在假設？」以及「什麼變化會改變結論？」，就更容易發現輸出中的薄弱之處。這並不是完全理解AI內部的方法，但它可以幫助我們明確人類還需要進一步驗證什麼。
元層次思考不僅可以用來從稍微抽離的位置檢視我們自己的思考方式，也可以用來重新檢視我們自認為已經了解了AI的哪些方面。我們可以區分「能夠解釋一個理由」和「能夠觀察一個原因」，區分「看似合理」和「得到經核實證據支持」，也區分「前後一致」和「正確」。有了這些區分，我們就能避免高估AI的解釋，同時仍把它們作為有用的檢視材料。
向AI問「為什麼？」很重要。但我們還需要再次追問，這個回答究竟是在回答哪一種問題。我們需要的不是能夠完全窺視AI內部的幻覺，而是能夠讓我們驗證判斷並在必要時加以修正的材料。了解解釋的局限，並不意味著不信任AI。它意味著理解解釋可以使用到什麼程度，以及從哪裡開始必須由外部證據或人類判斷來進行核查。
不是答案，而是理解。