← 返回主題 Saiaus

AI應在何處偵測到一個人已經發生了變化?

一個人在行動之後所說的話或感受發生變化,並不一定意味著其價值觀或目標也已經改變。然而,如果變化不斷被視為暫時波動而忽略,AI就可能把這個人過去的形象固定下來。本文透過區分觀察到的反應、人的自身詮釋、持續性的變化以及目標的重新驗證,探討AI處理人的變化時所需的邊界條件。

專業

要使人的目標能夠被重新驗證,首先需要某種契機來判斷「這個人發生了變化」。但這並不是一個簡單的偵測問題。人可能因為疲勞或暫時性的情緒而改變自己的說法,也可能在獲得新資訊後修正判斷,還可能經歷更長期的價值觀變化。如果把這些都當作同一種變化來處理,AI就會過度地更新人的狀態。

假設一個有長期學習目標的人,在某一天失敗之後說:「我不想再做這件事了。」如果僅憑這句話就判定目標失效,就可能把暫時的沮喪誤認為長期意圖的改變。反過來,如果幾個月來不斷出現重視另一種價值的言論和行動,卻仍然保留最初的目標,那麼實質性的變化就可能被當作雜訊而丟棄。

因此,至少需要把「觀察到的反應」「本人自己的詮釋」「跨時間的持續性」以及「對目標的含義」區分開來。觀察到的反應包括言論、選擇以及行動後回報的感受。本人自己的詮釋涉及其如何理解這些反應。持續性關注的是,在條件發生變化時,類似的傾向是否仍然存在。而對目標的含義則是另一個獨立判斷,即這些因素是否真正改變了支撐當前目標的理由或假設。

之所以需要這種區分,是因為AI無法直接觀察人的內在狀態。AI只能處理以某種形式外化的資訊,例如本人用語言表達的內容、其選擇的行動以及其分享的結果。由這些資訊推斷「這個人的價值觀已經改變」,必然包含不確定性。如果把這種推斷作為事實保存,系統自身建立的人物圖像就可能引導之後的對話,並形成進一步強化這一圖像的回饋循環。

與此同時,把一切都視為不確定而什麼也不更新的設計同樣是不充分的。如果一個人反覆表示現在已經與以前不同,其選擇也發生了變化,而且支撐先前目標的理由已經不再成立,那麼這種差異就需要被帶回對話之中。關鍵不在於自動確認變化,而在於把它表示為一種需要重新確認的狀態。

在這裡,一個有效的做法是不要把變化過度壓縮成一個數值或單一屬性。僅僅使用「動機下降」這樣的標籤,無法區分究竟是疲勞、對方法不滿,還是對目標本身的興趣降低。即使表面反應相同,其含義也可能不同。要把它連接到目標的重新驗證,系統就必須保留關於哪些方面可能發生了變化的關係性資訊,並能夠透過適當的問題將其分解。

AI提出問題的時機同樣重要。如果每一次情緒波動都會觸發對目標的質疑,對話就會變得不穩定。反過來,如果明確的變化已經不斷累積卻從不觸發重新考慮,過去的目標就會被固定下來。更合理的重新驗證觸發條件,應當結合多個線索:先前的理由與當前選擇之間持續存在的不一致、現實世界的經驗導致某個重要假設崩塌,或者本人明確表達了價值判斷的改變。

即使多個線索相互吻合,AI也沒有必要最終斷言「這個人已經改變了」。相反,AI可以呈現這種差異:「以前你是出於這個理由選擇這個目標的,但從最近的經歷來看,你似乎更加重視另一種價值。你如何理解這種差異?」這樣能夠更好地維持人的主體性。偵測的目的不是最終確定一個人的圖像,而是創造一種狀態,使本人能夠審視自己的變化。

在Sai*aus對人的理解中,這一邊界非常重要。如果AI無法處理人的變化,長期理解就會變成對過去的固守;如果AI過於強烈地斷言變化,就會把人限制在系統的推斷之中。所需要的是不遺失變化的跡象,區分系統的推斷與本人對自己的理解,並把這種差異轉化為重新驗證的問題。

對於AI應在「何處」偵測到一個人已經發生變化這一問題,並不存在單一的點。僅憑行動後的反應,或僅憑措辭的變化,都不足以作出判斷。必須在考慮與現實的接觸、本人自己的詮釋、隨時間持續的程度,以及與支撐先前目標的理由之間的關係時,逐步處理變化的可能性。AI需要的並不是準確斷言一個人內在狀態的能力,而是既不過度確認變化、也不忽視變化的表徵與對話結構。

不是答案,而是理解。

← 返回主題