เมื่ออ่านคำอธิบายของ AI การรู้สึกว่า “ถ้าระบุได้ละเอียดขนาดนี้ ก็น่าจะถูกต้อง” ไม่ใช่เรื่องแปลก เมื่อข้อความไม่มีความลังเล เหตุผลถูกนำเสนอเป็นลำดับ และแม้แต่รายละเอียดก็ได้รับการอธิบาย เนื้อหานั้นอาจดูเหมือนข้อมูลที่เชื่อถือได้ อย่างไรก็ตาม ความเป็นธรรมชาติของคำอธิบายไม่ได้รับประกันว่าคำอธิบายนั้นได้รับการยืนยันด้วยข้อเท็จจริงภายนอกแล้ว AI สามารถถ่ายทอดไม่เพียงข้อมูลที่เชื่อถือได้ แต่ยังรวมถึงข้ออนุมานที่เติมขึ้นจากบริบทด้วยรูปแบบการเขียนเดียวกัน สิ่งแรกที่มนุษย์ต้องแยกให้ออกคือ การเขียนที่ดีและความแน่นอนของเนื้อหาเป็นคุณสมบัติคนละอย่างกัน
ปัญหานี้ยากเพราะการมองหาเพียงข้อผิดพลาดที่ชัดเจนนั้นไม่เพียงพอ หากคำอธิบายส่วนใหญ่ถูกต้องและมีเพียงส่วนเดียวที่เป็นข้ออนุมาน ข้ออนุมานนั้นอาจดูแน่นอนยิ่งขึ้นเพราะถูกล้อมรอบด้วยข้อมูลที่ถูกต้อง ตัวอย่างเช่น แม้ว่าวันที่และสถานที่ของเหตุการณ์จะได้รับการยืนยันแล้ว แต่เหตุผลที่เหตุการณ์นั้นเกิดขึ้นอาจยังไม่ได้รับการยืนยัน ถึงกระนั้น เมื่ออ่านทั้งหมดเป็นข้อความชิ้นเดียว เส้นแบ่งระหว่างข้อเท็จจริงกับคำอธิบายก็เลือนหายได้ง่าย ความดูสมเหตุสมผลอาจเกิดขึ้นไม่ใช่จากข้อผิดพลาดเอง แต่จากการวางสิ่งที่มีระดับความแน่นอนต่างกันไว้บนระนาบเดียวกัน
ความเข้าใจของมนุษย์ก็มีลักษณะคล้ายกัน เราอนุมานสถานการณ์จากข้อมูลที่เป็นชิ้นส่วน และชีวิตประจำวันคงดำเนินไปไม่ได้หากไม่ทำเช่นนั้น ปัญหาไม่ได้อยู่ที่การอนุมาน แต่อยู่ที่การลืมว่าเราได้อนุมานบางสิ่ง และปฏิบัติต่อสิ่งนั้นด้วยน้ำหนักเท่ากับข้อเท็จจริงที่สังเกตได้ ในการสนทนากับ AI ไม่เพียงส่วนที่ AI เติมขึ้นเท่านั้น แต่ความหมายที่ผู้อ่านมนุษย์เติมต่อจากการอ่านข้อความของ AI ก็อาจซ้อนทับกันได้ ดังนั้น การรับรู้ผิดจึงไม่ได้เกิดขึ้นเฉพาะภายใน AI แต่ยังก่อตัวขึ้นระหว่างการสร้างและการรับสารด้วย
สิ่งที่จำเป็นไม่ใช่การทำเครื่องหมายสงสัยไว้กับทุกประโยค แต่คือการแยกบทบาทของเนื้อหาออกจากกัน หากเราแยก “สิ่งที่ได้รับการยืนยันแล้ว” “การตีความที่ได้มาจากสิ่งนั้น” และ “ข้ออนุมานที่ยังไม่ได้รับการตรวจสอบ” ผู้ใช้ก็สามารถอ่านข้อความเดียวกันแต่ตัดสินด้วยวิธีที่ต่างกันได้ ข้อเท็จจริงที่ได้รับการยืนยันแล้วสามารถเป็นพื้นฐานสำหรับการตัดสินครั้งต่อไป การตีความสามารถเปรียบเทียบกับความเป็นไปได้อื่น และข้ออนุมานสามารถตรวจสอบด้วยข้อมูลเพิ่มเติม เมื่อมองเห็นความแตกต่าง คำอธิบายของ AI จะไม่ใช่ผลิตภัณฑ์สำเร็จรูปเพียงชิ้นเดียว แต่จะกลายเป็นวัสดุสำหรับการสนทนาที่ประกอบด้วยองค์ประกอบซึ่งมีระดับความแน่นอนแตกต่างกัน
สมมติว่าพัสดุที่ซื้อทางออนไลน์ยังมาไม่ถึงแม้เลยเวลาที่กำหนดไว้แล้ว หาก AI ดูประวัติการจัดส่งแล้วตอบว่า “สาเหตุน่าจะมาจากการจราจรติดขัด” การที่พัสดุล่าช้าอาจเป็นสิ่งที่ยืนยันได้ แต่การจราจรติดขัดเป็นสาเหตุจริงหรือไม่นั้นเป็นอีกเรื่องหนึ่ง สภาพอากาศเลวร้าย ความล่าช้าในการคัดแยก การตรวจสอบที่อยู่ หรือสาเหตุอื่นก็เป็นไปได้เช่นกัน หากแยกการสังเกตว่า “กำลังล่าช้า” ออกจากข้ออนุมานว่า “การจราจรติดขัดทำให้ล่าช้า” ผู้ใช้ก็สามารถตรวจสอบข้อมูลจากบริษัทขนส่งได้ตามความจำเป็น หากไม่แยกออกจากกัน คำอธิบายสาเหตุที่ดูสมเหตุสมผลจะถูกตรึงไว้เป็นข้อเท็จจริง
การที่ AI สามารถรักษาการตีความของตนเองไว้ในฐานะการตีความมีความหมายอีกประการหนึ่ง คือเมื่อมีข้อมูลใหม่เข้ามา AI ก็ไม่จำเป็นต้องปกป้องคำอธิบายก่อนหน้าอีกต่อไป หากข้ออนุมานแรกถูกปฏิบัติราวกับเป็นข้อเท็จจริง เมื่อภายหลังมีข้อมูลที่ขัดแย้งกัน ข้อมูลนั้นอาจถูกยัดให้เป็นข้อยกเว้น หรือคำอธิบายเดิมอาจถูกฝืนรักษาไว้ ในทางกลับกัน หากตั้งแต่แรกถือว่าคำอธิบายแรกเป็นสิ่งชั่วคราว การปรับปรุงตามข้อมูลใหม่ก็ไม่ใช่ความล้มเหลว แต่เป็นกระบวนการปกติในการลดระยะห่างจากความเป็นจริง
มนุษย์ก็ต้องการพื้นที่แบบเดียวกัน หาก AI ระบุว่า “สิ่งนี้มีข้ออนุมานอยู่ด้วย” ผู้ใช้ก็สามารถเพิ่มเติมประสบการณ์ของตนเองหรือข้อมูลอื่นได้ง่ายขึ้น หากเพิ่มข้อมูล เช่น “วันนั้นไม่มีปัญหาเรื่องสภาพอากาศ” หรือ “บริษัทขนส่งส่งประกาศอีกแบบหนึ่งมา” การสนทนาจะเปลี่ยนจากความสัมพันธ์ที่เพียงยอมรับคำอธิบายแรก ไปเป็นความสัมพันธ์ที่ร่วมกันตรวจสอบความเป็นจริง การไม่ปกปิดความไม่แน่นอนของ AI ไม่ได้หมายถึงเพียงการระมัดระวัง แต่ยังเป็นการรักษาพื้นที่ให้มนุษย์มีส่วนร่วมในการก่อรูปความเข้าใจด้วย
สำหรับ Sai＊aus สิ่งสำคัญไม่ใช่การทำให้ข้อความที่ดูสมเหตุสมผลอ่อนลง แต่คือการจัดระเบียบให้ชัดเจน พร้อมกับรักษาเส้นแบ่งที่ไม่ควรหายไปเพราะการจัดระเบียบนั้น หากสามารถแยกข้อเท็จจริงกับการตีความ การสังเกตกับข้ออนุมาน และสิ่งที่ยืนยันแล้วกับสิ่งที่ยังไม่ได้ยืนยันได้เมื่อจำเป็น ความลื่นไหลกับความระมัดระวังก็ไม่จำเป็นต้องเป็นสิ่งตรงข้ามกัน เป้าหมายไม่ใช่การเพิ่มถ้อยคำคลุมเครือเพื่อหลีกเลี่ยงการยืนยัน แต่คือการทำให้ระดับความแน่นอนอยู่ในรูปแบบที่มนุษย์สามารถจัดการได้
ความไว้วางใจใน AI ไม่จำเป็นต้องเกิดจากการทำให้มันดูเหมือนถูกต้องอยู่เสมอ ตรงกันข้าม มนุษย์สามารถใช้ผลลัพธ์ของมันได้อย่างเหมาะสมเมื่อเส้นแบ่งระหว่างสิ่งที่รู้กับสิ่งที่ไม่รู้ยังคงมั่นคง เมื่อเกิดข้อผิดพลาด หากมองเห็นได้ว่าข้ออนุมานเข้ามาตรงไหนและควรตรวจสอบอะไรอีกครั้ง ก็สามารถแก้ไขได้ การไม่ใช้ความดูสมเหตุสมผลแทนความจริงไม่ใช่กฎเพื่อไม่ให้ไว้วางใจ AI แต่เป็นกฎสำหรับกำหนดขอบเขตของความไว้วางใจอย่างถูกต้อง
การทำให้ความเข้าใจระหว่าง AI กับมนุษย์ลึกซึ้งขึ้น ไม่ได้ต้องการให้ AI นำเสนอภาพโลกที่ถูกต้องเพียงภาพเดียว สิ่งที่ต้องการคือการสามารถร่วมกันรับรู้ได้ว่าคำอธิบายที่สร้างขึ้นนั้นอยู่ ณ ตำแหน่งใดเมื่อเทียบกับความเป็นจริง ข้อเท็จจริงที่เชื่อถือได้ การตีความที่ดูสมเหตุสมผล และข้ออนุมานที่ยังต้องตรวจสอบ ไม่ควรถูกปฏิบัติว่าเป็นสิ่งเดียวกัน เมื่อรักษาระยะห่างนั้นไว้ มนุษย์ก็สามารถตรวจสอบ คัดค้าน และปรับปรุงร่วมกับ AI แทนที่จะถูกข้อความของ AI พาไป พื้นฐานของการสนทนาไม่ใช่การขจัดพลังของความดูสมเหตุสมผล แต่คือการไม่ละสายตาจากช่วงเวลาที่พลังนั้นเริ่มปลอมตัวเป็นความจริง
ไม่ใช่คำตอบ แต่คือความเข้าใจ