← 返回主題 Saiaus

在最佳化之前,AI能否推理「為什麼是這個目標」?

即使兩個目標完全相同,選擇它們的理由不同,所需要的支援以及重新驗證目標的條件也可能不同。本文探討:當目標不被視為唯一輸入,而是與支撐它的理由、假設和價值聯繫起來進行表徵時,AI的推理會如何改變。

專業

如果給AI一個「將銷售額翻倍」的目標,它可以分解實現目標所需的措施,並在考量資源和時間的情況下比較各種選項。但即使是同一個「將銷售額翻倍」的目標,其理由也可能不同。是為了維持企業的持續經營,是為了籌措新的投資,是為了追趕競爭對手,還是因為組織規模擴大本身就被視為成功?目標的意義會隨著理由而改變。

如果只處理目標,這些差異就會被排除在同一個目標函數之外。AI可以理性地尋找接近給定數值的方法,卻無法處理為什麼需要這個數值。當現實條件發生變化時,它可能會在只調整手段的同時繼續維持同一個目標。然而,如果支撐目標的理由已經消失,那麼在改進手段之前,可能需要先重新驗證目標。

假設擴大銷售額的理由是「確保足夠的利潤,以維持現有就業」。後來,固定成本下降,即使銷售額大幅降低,也足以維持就業。此時,將銷售額翻倍這一目標的必要性已經發生變化。相反,如果理由是「籌集投資資金,以便將服務提供到新的地區」,那麼即使條件發生同樣的變化,也可能得出不同的判斷。目標的有效性無法僅從目標本身進行評估。

因此,「為什麼是這個目標?」並不是補充說明,而是推理結構的一部分。如果明確地將目標與理由關聯起來,就可以看出行動之後的現實影響了哪一個假設。如果理由仍然成立,它就構成繼續維持目標的依據;如果理由發生變化,則可以觸發重新驗證。不能只是詢問一次理由,然後將其固定下來。理由本身也必須被視為會隨著時間和經驗而變化的事物。

此外,人們並不總能從一開始就完整地解釋自己的理由。一個人可能會說自己「想要成長」,但透過對話和行動,可能會逐漸明確,其實想要的是更多自由時間、得到他人的認可,或擴大社會影響。如果AI把最初的解釋固定為真正的動機,那麼後來出現的理解就會被當作例外處理。

這裡,推理的作用並不是猜測人類隱藏的動機,而是梳理明確表達的目標和理由、行動後出現的反應以及條件變化之間存在怎樣的不一致,使本人能夠重新描述自己的理由。AI與其診斷說「你真正想要的是認可」,不如提出這樣的問題:「你最初把成長作為理由,但最近的選擇更優先考慮自由時間。這種差異會影響目標嗎?」

這也不是說推理越深入越好。如果對每一個小目標都無限追問理由,行動就會變得不可能。需要深入處理的,是那些重新確認理由可能改變判斷的場景——例如,改變目標的成本很高、長期影響很大,或者現實回饋了一個重要差異時。推理資源應根據目的的重要性和不確定性來分配。

在Sai*aus的內部效率表徵中,在必要範圍內將「這個人想做什麼」與「為什麼想做這件事」關聯起來同樣具有意義。如果只以緊湊形式保留目標,處理會更輕,但之後檢驗有效性所需要的依據就會丟失。反過來,也並不是保存所有背景細節就好。設計上需要保留那些可能改變未來判斷的理由和假設,同時壓縮不需要保留的內容。

對於支援目標實現的AI來說,準確理解給定的目的很重要。但如果人的目的可能發生變化,那麼需要理解的對象就不能只是目標的措辭。只有同時表徵哪些理由支撐著目標,以及條件發生哪些變化時需要重新驗證,才能把行動後的現實重新回饋到目的之中。

在最佳化之前追問「為什麼是這個目標?」,並不只是為了懷疑目標。它也可能讓繼續堅持目標的理由變得更加清晰。如果行動強化了理由,目標就會比以前更加穩固。如果理由發生變化,目標也可以重新開放討論。高階推理不僅是快速到達給定的目的,也包括能夠區分:在什麼條件下可以繼續固定這一目的,以及在什麼條件下應當再次對它提出問題。

不是答案,而是理解。

← 返回主題