質疑前提會擴大思考的自由。然而,如果我們問「為什麼採用這個前提?」,接下來還可以問「什麼標準使這個理由顯得有效?」,繼而再問「選擇這個標準的依據是什麼?」原則上,把問題向上移動一個層級的操作並沒有終點。這並不是哲學所特有的問題;在人與AI的協作中也會出現。如果AI質疑使用者的前提,並繼續追問每個回答背後的目的和價值標準,那麼對話即使變得更加精確,也可能失去回到判斷與行動的能力。
因此,不能簡單地把元層級思考理解為「抽象層級越高越好」。在對象層級,我們處理的是選擇什麼、寫什麼、採取什麼行動等具體問題。向上一層,我們可以考察支撐這些判斷的前提和目的。再向上一層,我們可以考察選擇這些前提本身所依據的標準。然而,每提高一次抽象程度,也都會產生遠離具體情境的成本。元層級的價值並不取決於其高度本身,而取決於它是否發現了在對象層級看不見的差異,以及能否把這些差異重新帶回具體判斷之中。
由此產生了停止條件的問題。第一個條件是,移動到元層級之後,是否發現了能夠改變對象層級選擇的新差異。假設我們不確定兩個方案中該選哪一個,而考察更高層級的目的後發現,只有其中一個與原本的目的不一致。在這種情況下,移動到元層級對判斷具有價值。相反,如果再向上一層既不改變對選項的評價,也不產生新的資訊需求,那麼這種上升與其說是在深化理解,不如說可能只是在用不同的詞彙描述同一個問題。
第二個條件涉及透過進一步的元層級考察所獲得的資訊價值,與延遲判斷所付出的成本之間的關係。對安全有嚴重影響的決定,與可以輕易撤回的日常選擇,並不需要相同深度的考察。當結果不可逆、影響範圍廣且不確定性高時,就有理由更深入地考察前提和評價標準。另一方面,在可以低成本嘗試、觀察結果並進行修正的情境中,透過小規模行動獲得的資訊,可能比等待對前提進行完整驗證更有價值。因此,停止條件不僅取決於抽象意義上的正確性,也取決於可逆性和資訊價值。
第三個條件是責任。上升到元層級,並不是一種讓責任主體消失的操作。即使我們理解「價值標準本身是相對的」或「存在其他可選的前提」,在現實情境中仍然必須有人作出判斷並承擔其後果。能夠比較多種價值體系,與能夠無限期推遲判斷,是兩回事。事實上,元層級思考越成熟,就越重要的是:在理解自己的判斷並非唯一必然結論的同時,仍然能夠說明為什麼在這些條件下要採用這一選擇。
在包含AI的對話系統中,這個停止問題變得更加重要。AI可以在短時間內補充人類沒有想到的前提、反例和其他評價維度。這種能力支援元層級思考,但同時也可能近乎無限地增加可供考察的問題數量。如果每增加一個問題,都會讓人產生「也許還有什麼尚未考慮」的感覺,那麼就會出現一個悖論:能力越強的AI,反而越可能讓決策難以結束。因此,良好的支援並不是提出最多的問題,而是區分哪些尚未考察的事項可能相對於當前目的改變判斷。
在這裡,需要維持人類與AI之間的非對稱性。AI可以生成更多視角,指出前提之間的矛盾,並比較條件改變時的後果。但是,要接受哪種損失、優先哪種價值,以及何時在仍有不確定性的情況下轉入行動,並不能僅由推理量決定。AI可以提出停止的建議,但這並不意味著它會自動承擔為該停止點進行正當化的責任。人類在判斷中的主體性,不體現在能夠比AI考慮更多問題,而是也體現在劃定充分考察與行動之間的邊界。
然而,如果把停止條件變成固定規則,就會產生另一個問題。「思考三個層級後就停止」「確認兩個反對意見就足夠了」之類的形式標準,會忽視問題的嚴重性和不確定性。重要的不是層級數量,而是當前判斷對條件變化的敏感性。改變前提會不會改變結論?新的證據會不會逆轉評價?是否存在被忽略的利害關係人?行動之後還能不能修正?當對這些條件的敏感性降低時,可以認為繼續提高抽象層級的邊際價值也在下降。
對於Sai*aus而言,擁有元層級的意義也在這裡。重點不是讓對話走向無休止的自我分析,而是把對象層級產生的不適感暫時提升到元層級,確認差異究竟存在於前提、目的還是評價標準之中,然後再把結果帶回一個具體問題。重要的不是上升,而是往返。當這種往返能夠成立時,元層級思考就不再是延遲行動的附加反思,而會成為一種機制:在必要範圍內重新組織判斷的表徵,並再次把它連接到現實。
從這個角度看,元層級思考至少可能朝兩個方向失敗。一個是固定在對象層級,即使前提已經改變,也繼續最佳化同一個問題。另一個是不斷質疑前提,直到「任何判斷都只有暫時性的依據」這一事實變成不採取行動的理由。前者是思考的僵化,後者是思考的無限後退。所需要的並不是在兩者之間設置一個簡單的妥協點,而是一種能夠根據問題性質在對象層級與元層級之間移動的可變結構。
如果要評價這種結構,僅僅問「思考得有多深?」是不夠的。我們需要考察:移動到元層級是否發現了重要前提,是否明確了可能改變判斷的條件,是否把不確定性所在之處分離開來,是否使最終選擇的理由變得可解釋,以及是否能在必要的時點回到具體行動。元層級思考的品質,不應由抽象程度的高低來評價,而應由它是否產生了對象層級無法獲得的理解,以及這種理解是否重新連接到了判斷來評價。
能夠從高一層進行思考很重要,但不能僅憑這一點定義智能的成熟。與能夠質疑自己的前提、甚至考察這種質疑背後的前提同樣重要的是,知道在哪裡停止追問,接受暫時性的理解,並回到現實。元層級不是思考的避難所,而是從另一種形式重新審視對象層級的臨時位置。上升、發現差異、返回。只有當這一循環成立時,元層級思考才不會成為無止境的自我反思,而會成為人類與AI更新判斷的一種實踐結構。
不是答案,而是理解。