เมื่อ AI แนะนำตัวเลือกหนึ่ง การถามว่า “ทำไมคุณจึงคิดเช่นนั้น?” จะทำให้ได้คำอธิบายเหตุผลที่จัดเรียงไว้อย่างเป็นระบบ AI อาจบอกว่าให้ความสำคัญกับเงื่อนไข A ตัวเลือก B มีข้อเสียบางประการ หรือทางเลือกนี้เหมาะกับจุดประสงค์ C มากกว่า คำอธิบายเช่นนี้มีประโยชน์ในการเปรียบเทียบเหตุผลประกอบการตัดสิน แต่การที่ข้อความอ่านง่ายและมีความสอดคล้องไม่ได้หมายความว่าเราจะถือว่าข้อความนั้นเป็นบันทึกโดยตรงของการประมวลผลที่เกิดขึ้นภายใน AI ระหว่างทางไปสู่การสร้างผลลัพธ์ได้
แม้แต่ระหว่างมนุษย์ด้วยกัน บางครั้งเราก็ถ่ายทอดเหตุผลออกมาเป็นคำพูดหลังจากที่ได้ลงมือทำไปแล้ว คำอธิบายมีคุณค่าในฐานะรูปแบบการนำเสนอที่ทำให้อีกคนหนึ่งสามารถตรวจสอบการตัดสินได้ แต่ข้อความที่ใช้อธิบายกับสาเหตุเองไม่ใช่สิ่งเดียวกัน สำหรับ AI ความแตกต่างนี้ยิ่งสำคัญขึ้น คำอธิบายที่สร้างขึ้นเป็นผลลัพธ์ที่ประกอบขึ้นจากบริบทที่ได้รับ ไม่ใช่การถอดบันทึกอย่างสมบูรณ์ในรูปแบบที่มนุษย์อ่านได้ของการคำนวณภายในอันซับซ้อนของโมเดล
นั่นไม่ได้หมายความว่าเราจำเป็นต้องสรุปว่า “คำอธิบายของ AI ไม่มีความหมาย” มีหลายสิ่งที่เราสามารถตรวจสอบผ่านคำอธิบายได้ เช่น คำอธิบายนั้นยอมรับสมมติฐานใดอย่างชัดเจน ระบุว่าเงื่อนไขใดสำคัญ เปรียบเทียบทางเลือกอย่างไร และยอมรับความไม่แน่นอนหรือไม่ สิ่งเหล่านี้เป็นเบาะแสให้มนุษย์ใช้ตรวจสอบผลลัพธ์ สิ่งสำคัญคือการปฏิบัติต่อคำอธิบายไม่ใช่ในฐานะ “หลักฐานที่เปิดเผยสิ่งที่อยู่ภายในโดยตรง” แต่เป็น “การนำเสนอภายนอกที่สามารถตรวจสอบได้”
ความแตกต่างนี้สำคัญเป็นพิเศษในการวิจัย แม้เราจะขอให้ AI อธิบายเหตุผลของสมมติฐาน คำอธิบายเพียงอย่างเดียวก็ไม่ได้พิสูจน์ว่าสมมติฐานนั้นถูกต้อง เราจำเป็นต้องตรวจสอบแหล่งข้อมูลต้นฉบับ ข้อสังเกต หลักฐานที่ขัดแย้ง และคำอธิบายทางเลือก ความสามารถของ AI ในการเขียนอย่างมั่นใจเป็นคนละเรื่องกับการมีหลักฐานเพียงพอเกี่ยวกับโลกภายนอก การไม่ใช้ความลื่นไหลของคำอธิบายมาแทนความหนักแน่นของหลักฐานคือจุดเริ่มต้นของการตรวจสอบยืนยัน
คุณค่าของการถามว่า “ทำไม?” ในบทสนทนากับ AI ไม่ได้อยู่ที่การดึงกระบวนการภายในที่ซ่อนอยู่ออกมา แต่อยู่ที่การเปลี่ยนการตัดสินให้อยู่ในรูปแบบที่มนุษย์สามารถตรวจสอบได้ หากเราถามว่า “คุณถือว่าข้อมูลใดเป็นข้อเท็จจริง?” “สมมติฐานอยู่ตรงไหน?” และ “การเปลี่ยนแปลงอะไรจะทำให้ข้อสรุปเปลี่ยนไป?” เราจะพบจุดอ่อนของผลลัพธ์ได้ง่ายขึ้น นี่ไม่ใช่วิธีที่จะเข้าใจภายในของ AI ได้อย่างสมบูรณ์ แต่สามารถทำให้ชัดเจนขึ้นว่ามนุษย์จำเป็นต้องตรวจสอบอะไรเพิ่มเติม
การคิดในระดับเมตาสามารถใช้ได้ไม่เพียงเพื่อมองวิธีคิดของเราเองจากจุดที่ถอยออกมาอีกหนึ่งขั้น แต่ยังใช้เพื่อทบทวนสิ่งที่เราเชื่อว่าเราได้เรียนรู้เกี่ยวกับ AI อีกด้วย เราสามารถแยก “การสามารถอธิบายเหตุผลได้” ออกจาก “การสามารถสังเกตสาเหตุได้” แยก “ดูสมเหตุสมผล” ออกจาก “มีหลักฐานที่ผ่านการตรวจสอบรองรับ” และแยก “สอดคล้องกัน” ออกจาก “ถูกต้อง” เมื่อมีการแยกเช่นนี้ เราจะหลีกเลี่ยงการให้คุณค่ากับคำอธิบายของ AI มากเกินไป ขณะเดียวกันก็ยังใช้คำอธิบายเหล่านั้นเป็นข้อมูลที่มีประโยชน์สำหรับการตรวจสอบได้
การถาม AI ว่า “ทำไม?” เป็นเรื่องสำคัญ แต่เรายังต้องถามอีกครั้งว่าคำตอบนั้นเป็นคำตอบของคำถามประเภทใด สิ่งที่เราต้องการไม่ใช่ภาพลวงตาว่าเราสามารถมองเข้าไปภายใน AI ได้อย่างสมบูรณ์ แต่เป็นข้อมูลที่ช่วยให้เราตรวจสอบการตัดสินและแก้ไขได้หากจำเป็น การรู้ขอบเขตของคำอธิบายไม่ได้หมายถึงการไม่ไว้วางใจ AI แต่หมายถึงการเข้าใจว่าเราสามารถใช้คำอธิบายได้ถึงจุดใด และตั้งแต่จุดใดเป็นต้นไปที่หลักฐานภายนอกหรือการตัดสินของมนุษย์ต้องเข้ามาทำหน้าที่ตรวจสอบ
ไม่ใช่คำตอบ แต่คือความเข้าใจ