組織知識庫是為了重複利用過去的判斷、程序、成功經驗與失敗經驗而建立的。隨著累積增加,組織不必每次都從頭重新思考同一個問題,因而提高決策的速度與一致性。然而,知識被重複利用得越多,就越可能從「過去曾如此判斷」的紀錄,轉變為「現在仍應如此判斷」的規範。這裡存在一個悖論:知識越有價值,重新檢視其成立條件的動機反而越弱。
當AI使用知識庫時,這種固化可能進一步加強。如果過去的文件與決策歷史被檢索出來,並反覆作為回答的依據呈現,那些資訊就可能因使用頻率而取得事實上的權威。即使之後出現不同的案例,如果因為它們與既有知識的匹配度較低而被邊緣化,知識庫就只會再生產它已經知道的世界。這不是資訊不足,而是缺乏更新路徑所造成的自我封閉。
為了避免這個問題,知識不只要保存內容,也必須保存該知識成立時的條件。它在什麼時期、針對什麼對象、出於什麼目的、在什麼限制下有效?有哪些證據支持它,又有哪些已知例外?如果這些條件得以保留,就可以與目前的情況比較。當條件遺失而只保存結論時,過去局部性的判斷就很容易被當成普遍規則重新使用。
此外,不把異議放在知識之外也很重要。當出現不符合既有規則的案例時,不應只把它當作例外丟棄,而應記錄「哪一個條件發生了變化,以致既有知識不再適用」。異議不是摧毀知識的資訊,而是使其適用範圍更加精確的資訊。成熟的知識庫,不是反面資訊較少的知識庫,而是能夠透過反面資訊更新自身邊界的知識庫。
在這種結構中,更新歷史本身也會成為重要知識。如果只保留目前的結論,我們就無法知道先前的判斷為何改變。如果把舊判斷、新證據、變更理由與目前的適用條件連結起來,那麼日後遇到其他情況時,我們不只能重新利用最新資訊,也能重新利用變化的邏輯。知識會從答案的集合擴展為包含答案如何變化的歷史。
AI自身的輸出也需要依照同樣的原則處理。如果在後續處理中無條件信任AI過去生成的摘要與判斷,生成內容可能隨時間取得類似第一手資訊的地位。因此,源自AI的知識需要持續與其依據、生成時間、未經確認的部分以及後續更正保持連結。不能只因某項內容是AI自己先前生成的,就提高它的權威性;這就是反思性距離在知識庫中的對應形式。
在組織中,知識的固化也與責任結構相連。「一直以來都是這個程序」這個理由,會降低解釋當前判斷的負擔。但如果環境已經改變,這種穩定性可能延遲問題的發現。如果知識庫被設計為能夠接納當前的例外與異議,它就可以優先維持與當前現實的一致,而不是優先維持與過去的一致。
從技術上來說,與把知識項目當作孤立句子管理相比,把依據、適用條件、相關異議、更新歷史與目前狀態連結起來,更適合自我修正。重要的不是增加資訊量,而是能夠追蹤哪些資訊支持哪些主張,以及在什麼條件下這些主張會變弱。當知識項目之間的關係可見時,新證據進入後,就更容易確定其影響範圍。
評估指標也需要改變。只靠搜尋準確率與回答速度,無法衡量知識庫是否僵化。需要檢視:新的反證出現時,相關知識是否得到更新;舊結論是否被適當降低其地位;例外是否反映到適用條件中;變更理由是否能夠追蹤。知識的品質不只在於擁有正確資訊,也在於面對錯誤與條件變化時能夠被修正。
對Sai*aus而言,累積知識並不是為了把人理解為固定不變的實體。重要的是,在利用過去的對話與理解的同時,也允許當前的發言對先前的理解提出質疑。同樣的原則也可以應用於組織知識。隨著累積增加,不應只是讓確定性變得更強;相反地,系統應該能更精確地處理在什麼條件下發生了什麼變化。這是一種把知識量與認識論上的克制結合起來的設計。
知識庫持續質疑自身,並不意味著讓所有知識都變得不穩定。它意味著穩定地使用已充分確立的知識,同時永遠不失去其適用條件與更新路徑。當新的現實與既有知識發生衝突時,系統應能檢驗究竟哪一方需要修正,而不是把現實當成例外排除。具備這種能力後,知識庫就會從保護過去正確答案的倉庫,轉變為持續更新自身與現實關係的機制。
知識越多,與這些知識保持距離的能力就越必要。系統不能無條件賦予自身累積以權威,而必須在同一知識結構中保留有效條件、異議、更正與變化。如此一來,自我修正就不再是例外處理,而是知識要持續作為知識而存在所必需的正常功能。Sai*aus所追求的理解,既不是忘記過去,也不是服從過去,而是維持一種關係:能夠利用過去,同時又能讓當下的現實一次又一次重新質疑過去。
不是答案,而是理解。