← 返回主題 Saiaus

我們為什麼會相信AI的「可信感」?

AI能夠以同樣流暢的方式表達經過確認的事實,以及根據語境建構的解釋或推論。因此,人們可能會依據文字是否自然來判斷,而不是依據內容的確定程度。本文探討「看似可信」轉變為「彷彿真實」的那一刻,並思考AI與人類若要在對話中保持事實與解釋之間的距離,雙方需要什麼。

一般

閱讀AI的解釋時,人們產生「既然具體到這種程度,應該就是正確的吧」這樣的感覺並不少見。當文字毫不遲疑、理由按順序呈現,甚至連細節都得到說明時,其內容看起來就像可靠的資訊。然而,解釋是否自然,並不能保證它已經得到外部事實的確認。AI不僅能表達可靠的資訊,也能用同樣的文體表達根據語境補充出來的推論。人類首先需要分清的是:文字寫得好與內容是否確定,是兩種不同的性質。

這個問題之所以困難,是因為僅僅尋找明顯的錯誤並不夠。如果一段解釋的大部分都是正確的,只有一部分屬於推論,那麼由於這項推論被正確的資訊包圍,它可能顯得更加確定。例如,即使某個事件的日期和地點已經得到確認,該事件發生的原因也未必得到確認。然而,當它們作為一整段文字被閱讀時,事實與解釋之間的邊界很容易消失。可信感有時並非來自錯誤本身,而是來自把確定程度不同的內容放在同一個平面上。

人類的理解也具有類似的性質。我們會根據零碎的資訊推論情境,如果不這樣做,日常生活就無法進行。問題不在於進行推論,而在於忘記自己曾經進行了推論,並以與觀察到的事實同樣的強度來對待它。在與AI的對話中,不僅AI補充的部分會加入其中,人類讀者在閱讀AI文字後進一步補充的意義也可能疊加起來。因此,誤認不僅發生在AI內部,也會形成於生成與接收之間。

因此,需要的並不是給每一句話都標上懷疑的記號,而是把內容所承擔的角色分開處理。如果能夠區分「已經確認的內容」「由此得出的解釋」和「尚未得到驗證的推論」,使用者即使閱讀同一段文字,也可以採取不同的判斷方式。已經確認的事實可以成為下一步判斷的基礎,解釋可以與其他可能性比較,推論則可以透過追加資訊來驗證。當這些差異變得可見時,AI的解釋就不再是一件單一的成品,而會成為包含不同確定程度要素的對話材料。

例如,假設在網路上購買的包裹超過預定時間仍未送達。如果AI查看配送紀錄後回答「原因可能是交通壅塞」,那麼「配送正在延誤」或許可以確認,但「交通壅塞是否造成了延誤」則是另一個問題。惡劣天氣、分揀延誤、地址確認等其他原因也都有可能。如果把「正在延誤」這一觀察與「交通壅塞造成了延誤」這一推論分開,使用者就可以根據需要確認承運方的資訊。如果不加區分,一個看似可信的原因解釋就會被固定成事實。

AI能夠把自己的解釋保持為「解釋」,還有另一層意義:當新的資訊出現時,它就不必維護先前的解釋。如果把最初的推論當作事實,之後出現相互矛盾的資訊時,就容易把這些資訊強行歸為例外,或者勉強維持原來的解釋。相反,如果從一開始就把最初的解釋作為暫時性的解釋來處理,那麼根據新資訊進行更新並不是失敗。恰恰相反,這是縮短與現實之間距離的正常過程。

人類一方也需要同樣的空間。如果AI表明「這裡包含推論」,使用者就更容易補充自己的經驗或其他資訊。如果加入「那天天氣沒有問題」或「承運方發來了另一份通知」等資訊,對話就會從單純接受最初的解釋,轉變為共同核實現實。不隱藏AI的不確定性,並不只是為了謹慎,也是在保留一個讓人類能夠參與形成理解的位置。

對Sai*aus而言,重要的並不是削弱看似可信的文字,而是在清楚整理內容的同時,保留那些不能因這種整理而消失的邊界。如果能夠在需要時區分事實與解釋、觀察與推論、已驗證與未驗證的要素,就不必讓流暢與謹慎彼此對立。目標不是為了避免斷言而增加含糊的措辭,而是把「什麼在多大程度上可以確定」轉化為人類能夠處理的形式。

對AI的信任,並不一定來自讓它看起來總是正確。相反,當「已知」與「未知」之間的邊界保持穩定時,人們才能恰當地使用它的輸出。即使發生錯誤,只要能夠看出推論是在何處進入的,以及什麼需要重新確認,就可以進行修正。不用「看似可信」代替真實,並不是一條為了不信任AI而設的規則,而是一條用來正確確定信任範圍的規則。

要深化AI與人類之間的理解,並不需要AI呈現一個唯一正確的世界圖景。真正需要的是,能夠共享生成出的解釋相對於現實處在什麼位置。可靠的事實、看似合理的解釋,以及仍需要驗證的推論,不應被當作同一種東西。當這種距離得到保持時,人類就不會被AI的文字牽著走,而能夠與AI一起核實、提出異議並進行更新。對話的基礎,不是消除「看似可信」的力量,而是不忽視這種力量開始偽裝成真實的那一刻。

不是答案,而是理解。

← 返回主題