← 返回主題 Saiaus

AI應該將過去的「夢想」作為知識保存嗎?

在長期AI支援中,記住過去的目標能夠形成連續性。但是,如果把一個目標作為在當下仍然有效的事實來保存,人類的變化就可能被固定在過去的自我描述之中。本文探討一種知識設計:將目標表示為可更新的狀態,並使其與時間、理由、依據和當前有效性相連結。

專業

對於支援長期對話的AI而言,記住過去的目標具有明確的好處。如果能夠保留幾個月前制定的學習計畫、工作目標或生活願望,當事人就不必每次都從頭解釋一切。過去的判斷也可以與當前情況進行比較。然而,「記住某件事」和「把它作為現在仍然有效的知識來處理」需要加以區分。

目標在性質上不同於已經發生的事件。「這個人在某一天說過這句話」這一事實,即使本人後來改變了想法,也仍然是關於過去的事實。相比之下,「這個人的目標是X」這樣的陳述包含了對當前狀態的主張。如果僅僅因為過去的一次陳述,就在不更新的情況下繼續使用這一狀態,那麼它在歷史記錄上可能是準確的,卻可能並不能準確地作為代表此人當前狀態的知識。

因此,保存的目標除了內容之外還需要帶有時間。系統不應只保留「我想創業」,而可以表示為「在某個時間點,基於特定的理由和條件,這個人曾把創業作為目標」。隨後,系統可以根據之後的行動以及現實給予的回饋,區分該目標是否仍然有效、是否需要重新確認,或者是否已被本人明確改變。

與理由之間的關係同樣重要。同一個目標可能具有不同的含義,這取決於當事人是追求更自由的工作方式、希望增加收入,還是希望建立一個解決特定問題的企業。如果只保存目標而丟失其理由,當條件發生變化時,系統就無法知道應當重新驗證什麼。反過來,如果把某個理由固定為絕對動機,那麼當本人後來的理解發生變化時,又會產生另一個問題。理由也必須作為具有時間點和確定程度的資訊來處理。

這裡的更新並不意味著刪除過去的目標。如果目標發生變化時把先前的記錄抹去,就會失去解釋為什麼發生這種變化的路徑。長期理解得益於這樣的歷史:這個人過去想要什麼、哪些經驗改變了什麼,以及現在如何思考。重要的是保留舊資訊,同時不把它與當前狀態混為一談。

還必須區分AI自身的推斷與本人明確的陳述。即使AI根據行為變化推斷出「對該目標的興趣可能正在下降」,這也不同於本人說「我已經決定放棄這個目標」。如果以相同的確定程度保存兩者,那麼推斷之後可能會被作為事實引用,並不必要地引導本人對自己的理解。

因此,知識表示至少需要區分:資訊是誰陳述的、何時陳述、與哪些經驗或理由相關、其當前有效性是否得到確認,以及它是推斷還是明確的選擇。並非每一個細節都必須保存,但可能改變之後判斷的差異不應丟失。壓縮不應只是減少資訊量,而應在保留必要關係的同時,使資訊更易於處理。

在Sai*aus的內部效率表達中,這種思路改變了目標的位置。目標並不是推理開始時的固定輸入,而是一個其狀態能夠透過人類經驗發生變化的要素。透過把支撐目標的理由、小的行動、現實回饋回來的差異以及人類理解的變化關聯起來,系統可以保留重新考慮當前目標是否應繼續有效所需要的脈絡。

這種設計並不是為了讓AI頻繁改變人類的目標。相反,它是在不把改變目標的權限交給AI的情況下,防止過去的目標自動繼續成為當前的目的。系統可以指出需要重新驗證,呈現過去與現在之間的差異,並把最終的意義賦予權交還給本人。這一邊界使記憶的連續性與人類改變的能力能夠並存。

隨著AI對一個人了解得越來越多,其知識的準確性就不能再僅僅以「忘得有多少」來衡量。它必須準確保存過去的夢想,同時區分這些夢想現在是否仍然有效;把已經改變的目標作為變化的歷史保留下來,而不是覆蓋過去;並避免把AI的推斷與人的選擇混為一談。要在時間中理解一個人,知識需要一種結構:不是把人作為固定的圖像,而是作為可更新的狀態來處理。

因此,「過去的夢想應該被保存嗎?」這個問題並不是保存還是刪除的二元選擇。它們可以作為歷史保留下來,而在被用作當前目的時再次檢查其有效性。這樣,記憶就可以成為理解一個人如何發生變化的材料,而不是把人束縛在過去的機制。長期AI知識設計需要同時實現兩件事:不丟失過去,也不把現在固定在過去之上。

不是答案。是理解。

← 返回主題