當我們向AI提問時,它有時會給出看不出猶豫的回答。如果理由和例子組織得很好,前後銜接也很自然,這種解釋就可能看起來像是在報告某個正確的事實。但是,語言自然與內容已經在現實中得到驗證,並不是一回事。AI並不一定是直接觀察眼前的世界,再把它轉寫成文字;它會根據被提供的資訊和可利用的知識,建構出符合問題的解釋。從一開始,AI所生成的內容與實際正在發生的事情之間,就存在著距離。
這種距離並不是AI特有的問題。人也會賦予自己看到和聽到的事件以意義,有時還會把這種意義與事件本身混為一談。例如,僅僅因為某個人比平時回覆得晚,我們可能就會想:「對方生氣了。」回覆較晚這一點可以觀察到,但對方是否生氣,如果沒有其他資訊,就無法確定。即便如此,一種解釋越顯得自然,我們就越容易忘記自己在中間加入的推論。問題並不在於進行解釋,而在於把解釋提升為現實本身。
在與AI的對話中,這種混淆更容易發生。AI可以把觀察到的事實、一般知識以及從上下文得出的推論,表達成一段流暢連貫的文字。因此,已經得到確認的資訊到哪裡結束、解釋又從哪裡開始,有時會變得難以看清。流暢性有助於理解,但也可能掩蓋不同類型資訊之間的邊界。因此,重要的並不是懷疑AI的文字,以至於什麼都不相信,而是不要忘記:在同一段文字中,可能同時存在確定程度不同的內容。
這裡所需要的,是一種把我們心中產生的「印象」與我們對這種印象作出的「判斷」區分開來的方式。即使某件事看起來是某種樣子,我們也沒有必要僅憑這一點就認定它確實如此。如果先拉開一點距離,我們就可以整理為:「到這裡為止可以確認」「從這裡開始屬於解釋」「這一部分仍然未知」。把這種態度應用到與AI的關係中,就會出現一種新的使用AI生成內容的方式:不是拒絕它,而是一邊判斷它處於怎樣的認知階段,一邊加以利用。
例如,假設AI針對旅行計畫回答:「這條路線最合適。」即使所需時間和距離已經得到確認,「最合適」這一結論仍然包含了對什麼更重要的判斷,例如費用、擁擠程度、步行便利性以及轉乘負擔等。使用者是帶著年幼的孩子出行,還是攜帶大型行李,也會改變這一結論的含義。即使可以計算的資訊是正確的,由此得出的評價也不會自動成為現實。分辨這種差異,就是與生成內容保持距離的一種具體方式。
保持距離並不會降低AI的價值。相反,這是更準確地利用AI所擅長之處的條件。AI可以整理大量資訊、比較可能的解釋,並揭示人類可能忽略的關係。然而,這種能力越強,生成出來的解釋也可能越有說服力。當說服力增強時,我們所需要的並不是在無條件信任與完全不信任之間二選一,而是保持足夠的距離,從而能夠追問:「這個解釋基於什麼?它有多確定?哪些部分仍然只是解釋?」
從這個角度來看,沒有必要把AI的「自省」理解為像人類那樣審視自己的內心。更重要的是一種紀律,使AI不會立刻把自己生成的推理和解釋當作已經確定的現實。AI必須保留這樣一種區分:能夠生成某種解釋,與這種解釋確實在現實中成立,並不是一回事。有了這種區分,AI就可以在需要驗證的地方進行驗證,在資訊不足的地方指出資訊不足,並在存在多種解釋的地方避免把其中一種固定下來。
人的一方也會發生同樣的變化。當我們只從AI那裡得到一個完成的答案時,往往只會評價答案本身的內容。但是,一旦生成內容與現實之間的距離變得可見,就會出現這些問題:「我真正作為事實知道的是什麼?」「AI補充了什麼?」「這個結論建立在什麼假設之上?」AI的輸出不再是思考的終點,而成為再次確認現實的入口。在這裡,AI的角色也會從替我們決定正確答案的存在,轉變為使判斷結構變得可見的存在。
這種距離不僅是為了避免錯誤而必要。它也是人能夠保有自己判斷的必要條件。如果AI的解釋被當作現實本身,人就更難把解釋之外的經驗和價值帶入其中。相反,如果把生成內容放在一種解釋的位置上,人就可以回應:「我的情況條件不同」「我想優先考慮這個價值」「那個假設並不適用」。正因為保留了距離,AI的知識與人的經驗才不必被當作同一種東西,也因此留下了讓兩者進行對話的空間。
對於Sai*aus而言,這種思考方式並不只是意味著增加更多謹慎的措辭。重要的是,不要把AI擁有的資訊、它根據這些資訊建構出的解釋、仍然無法確定的部分以及留給人類的判斷,過早地封閉成一個答案。理解並不意味著把一切都確定下來。它也意味著能夠處理這些邊界:什麼已經知道,什麼仍然未知,以及從哪裡開始需要人的價值判斷。這些邊界越清晰,人就越能夠在保有自己判斷的同時與AI對話,而不是僅僅服從AI的輸出。
AI越先進,這一原則反而越重要。面對準確度較低的AI,人們也許很容易產生懷疑。但是,對於表現得非常自然、並且在許多情況下都很有用的AI,一次錯誤的確定反而更容易被忽視。僅僅提升能力並不能解決這個問題。真正需要的是,在擁有高能力的同時,不把這種能力所生成的東西與世界本身等同起來。智慧的強大與同自身生成內容保持距離的紀律並不衝突;兩者需要被同時設計。
AI所思考的,並不是現實本身。但這也並不意味著AI生成的內容沒有價值。正因為我們理解生成內容與現實之間存在距離,才可以把AI的推理作為假設來使用,對需要確認的部分進行驗證,並與自己的經驗和價值相對照。Sai*aus所追求的理解,同樣不是把答案強加給現實,而是讓人與AI在不失去這種距離的情況下共同接近現實。不要急於把生成出來的東西變成已經確定的世界。這樣的克制,會為AI和人雙方都留下進行判斷的餘地。
不是答案,而是理解。