在研究與實作現場,AI越來越常整理文獻、生成假設,並為觀察結果提出候選解釋。問題不只是生成的假設可能錯誤。一個邏輯上連貫的解釋可能被納入文件,之後又在後續工作中作為「已經驗證的前提」再次使用。一旦其地位以這種方式改變,原有的不確定性就會變得不可見,未經驗證的推理也可能作為事實不斷累積。
要避免這個問題,就必須將推理的有效性與驗證是否完成區分開來。結論能夠從既定前提中合乎邏輯地推出,與這些前提在現實中是否為真,是兩回事。同樣,一個假設與多項觀察一致,也不代表競爭性假設已被排除。AI越擅長推理,這項區分就越重要。推理品質高不能成為省略外部驗證的理由。
維持暫定性的一種方法,是將生成內容的各個組成部分分開記錄。應區分哪些內容受到外部資料或觀察支持、哪些部分屬於AI推理、哪些內容仍未確認,以及出現哪些事實時應修改或放棄該假設。如此一來,即使日後只閱讀文字,也能追蹤該結論目前處於哪一個階段。
證偽條件尤其重要。如果只蒐集「支持這項假設的證據」,解釋很容易自我強化。如果預先指出什麼樣的觀察會使假設不成立,驗證就會從保護結論的工作轉變為檢驗結論的工作。當AI生成多個假設時,把各自的支持條件與證偽條件並列,也有助於避免僅依似真性做出選擇。
在與外部資料建立連結時,也必須區分「存在來源」與「該來源支持這項主張」。即使找到可引用的資料,如果該資料處理的是不同的對象、時期或條件,也未必能直接支持目前的主張。因此,研究支援不僅需要稽核是否存在來源,也需要稽核主張與證據相互對應的範圍。依據連結不是裝飾,而是控制主張適用範圍的機制。
呈現暫定性,並不只是簡單地在句子中加上「可能」。如果把所有內容都寫得模糊,反而會更難判斷哪些內容受到強力支持、哪些支持較弱。需要的是依照認識狀態改變表述。應區分已確認的事實、有力但尚未驗證的解釋、探索階段的假設,以及因資訊不足而暫緩判斷的情況,並為每一種狀態對應下一步所需的驗證。
稽核不僅要檢查結論是否正確,也要檢查該結論是否被置於正確的狀態。如果一句話作為假設是成立的,卻被記錄為既定事實,那麼無論其內容最終被證明為真或假,這本身都是另一個層面的品質問題。反過來,如果對已充分驗證的事實使用過度弱化的表述,也可能延誤必要的判斷。使推理保持暫定,並不意味著總是弱化表述,而是讓表達的強度與證據的狀態相符。
當AI生成的內容成為後續AI處理的輸入時,這套框架會更加重要。如果前一階段假設的暫定性在再次使用前遺失,那麼每增加一層推理,未經驗證的前提都可能被進一步放大。反之,如果在交接時保留認識狀態,後續處理就能判斷哪些部分需要重新確認。可驗證性不只關係到面向人的解釋,也關係到多階段AI處理中的前提管理。
在Sai*aus的研究支援中,重要的不是把理解封閉在一個完成的解釋裡,而是保留某項內容已驗證到什麼程度、從哪裡開始屬於推理,以及什麼情況可能使其更新。AI生成假設的能力越強,就越需要一種記錄結構,防止這些假設日後轉變為事實。生成能力與可稽核性不應被視為彼此分離的功能,而應從生成之時起就連接起來。
讓AI推理保持暫定狀態,並不是為了拖慢研究。明確哪些結論應進入下一步驗證、哪些前提需要再次確認、哪些假設可以被否定,就能適當分配驗證資源。重要的是區分快速產生結論與快速確定結論。前者可以加速探索,後者則可能關閉驗證之門。
研究支援AI所需要的反思性距離,並不是不斷懷疑自己的推理而什麼都不決定。它意味著保留推理依賴哪些證據、已驗證到什麼程度,以及發生什麼情況時需要修正。如果能在保持連結的同時區分有效性與可驗證性,那麼AI生成的內容就可以不被視為既成事實,而被視為可驗證的知識候選。維持這種狀態,是在研究中兼顧速度與可靠性的基礎。
不是答案,而是理解。