ในการแก้ปัญหาด้วย AI การปรับปรุงเฉพาะส่วนสามารถดำเนินไปได้อย่างรวดเร็วมาก เป้าหมายอย่างการย่อข้อความ การลดต้นทุน การลดเวลาประมวลผล หรือการจัดอันดับตัวเลือกนั้นค่อนข้างระบุให้ชัดเจนได้ง่ายและสามารถปรับให้เหมาะที่สุดซ้ำ ๆ ได้ อย่างไรก็ตาม การปรับปรุงเป้าหมายเฉพาะไม่ได้รับประกันว่าจะเข้าใกล้จุดมุ่งหมายระดับสูงขึ้น หากจุดมุ่งหมายเริ่มต้นคือ “ลดภาระของผู้ใช้” แต่การประเมินค่อย ๆ มุ่งเพียง “ลดจำนวนขั้นตอนการใช้งานให้เหลือน้อยที่สุด” จำนวนขั้นตอนอาจลดลง ขณะที่ความยากในการทำความเข้าใจกลับเพิ่มขึ้น
ในการตรวจจับปัญหานี้ การเก็บจุดมุ่งหมายไว้เพียงในรูปประโยคหนึ่งจากช่วงเริ่มต้นของบทสนทนายังไม่เพียงพอ จำเป็นต้องแยกเก็บจุดมุ่งหมายระดับสูง คำถามปัจจุบัน ข้อจำกัดที่ใช้อยู่ เกณฑ์ชี้วัดการประเมิน และผลลัพธ์ที่สร้างขึ้น โดยคำนึงถึงความสัมพันธ์ระหว่างองค์ประกอบเหล่านี้ คำถามปัจจุบันกำลังกล่าวถึงส่วนใดของจุดมุ่งหมายระดับสูง เกณฑ์ชี้วัดการประเมินเป็นตัวแทนของจุดมุ่งหมายที่ใช้ได้หรือไม่ ข้อจำกัดที่เพิ่มเข้ามาระหว่างทางได้เปลี่ยนจุดมุ่งหมายหรือไม่ การเบี่ยงเบนจากจุดมุ่งหมายปรากฏในฐานะการเปลี่ยนแปลงของความสัมพันธ์ระหว่างองค์ประกอบ มากกว่าจะเป็นความผิดพลาดขององค์ประกอบใดองค์ประกอบหนึ่ง
อย่างไรก็ตาม ไม่ควรตัดสินว่าการออกห่างจากจุดมุ่งหมายเริ่มต้นทุกกรณีเป็นความผิดปกติ ข้อเท็จจริงใหม่อาจปรากฏขึ้นผ่านบทสนทนา และผู้ใช้อาจเปลี่ยนจุดมุ่งหมายอย่างชอบธรรมได้ ตัวอย่างเช่น แผนอาจเริ่มด้วยจุดมุ่งหมายว่า “เดินทางให้ใช้เวลาสั้นที่สุดเท่าที่เป็นไปได้” แต่หลังจากได้รับข้อมูลใหม่ด้านความปลอดภัย อาจเปลี่ยนเป็น “ให้ความสำคัญกับความปลอดภัย แม้จะใช้เวลานานขึ้นเล็กน้อย” ในกรณีนี้มีความแตกต่างจากจุดมุ่งหมายเริ่มต้น แต่ไม่ใช่ความล้มเหลว หากเป็นผลจากการปรับปรุงความเข้าใจ
ดังนั้น สิ่งที่ควรตรวจจับไม่ใช่เพียงความแตกต่าง แต่คือเส้นทางที่จุดมุ่งหมายเปลี่ยนแปลง จำเป็นต้องแยกแยะว่าการเปลี่ยนแปลงนั้นได้รับการอนุมัติอย่างชัดเจน มีข้อมูลใหม่รองรับอย่างสมเหตุสมผล หรือถูกแทนที่โดยปริยายระหว่างการไล่ตามเกณฑ์ที่วัดได้ง่าย AI สามารถแสดงความแตกต่างจากบทสนทนาก่อนหน้าและชี้ว่า “เดิมทีความปลอดภัยเป็นเงื่อนไข แต่การเปรียบเทียบในปัจจุบันใช้เพียงต้นทุนเท่านั้น” อย่างไรก็ตาม การเปลี่ยนแปลงนั้นยอมรับได้หรือไม่ยังคงเป็นเรื่องที่ผู้ใช้ต้องตัดสิน
กลไกสำหรับตรวจจับการเบี่ยงเบนจากจุดมุ่งหมายยังเผชิญกับปัญหาการแจ้งเตือนผิดด้วย จุดมุ่งหมายของมนุษย์ไม่สามารถแสดงออกเป็นประโยคที่ชัดเจนเพียงประโยคเดียวได้เสมอไป และคุณค่าหลายประการอาจอยู่ในภาวะตึงเครียดต่อกัน หาก AI เตือนทุกความแตกต่างเล็กน้อยของถ้อยคำว่าเป็นการเปลี่ยนจุดมุ่งหมาย บทสนทนาจะถูกครอบงำด้วยการยืนยันซ้ำ ๆ ในทางกลับกัน หากความไวต่ำเกินไป การเปลี่ยนแปลงสำคัญของเกณฑ์คุณค่าอาจถูกมองข้าม สิ่งที่จำเป็นคือการเน้นไม่ใช่ความตรงกันของถ้อยคำ แต่เป็นความแตกต่างที่อาจเปลี่ยนผลของการตัดสิน
ในฐานะหลักการสำหรับการนำไปใช้ การย้อนติดตามความสัมพันธ์ระหว่างจุดมุ่งหมายกับวิธีการเป็นระยะ ๆ มีประโยชน์ แทนที่จะถามเพียงว่า “ผลลัพธ์นี้ตอบคำถามปัจจุบันหรือไม่” เรากลับไปถามว่า “คำถามนี้มีส่วนต่อจุดมุ่งหมายใด” และ “มีเหตุผลอะไรที่รองรับความคาดหมายว่า เมื่อเกณฑ์การประเมินนี้ดีขึ้น จุดมุ่งหมายระดับสูงก็จะดีขึ้นด้วย” การตรวจสอบย้อนกลับนี้ทำให้สามารถแยกการประเมินคุณภาพของผลลัพธ์ออกจากการประเมินความสอดคล้องกับจุดมุ่งหมายได้
ตรงนี้มีพื้นที่ให้การคิดระดับอภิของมนุษย์เชื่อมต่อกับการสนับสนุนของ AI มนุษย์เป็นผู้รับผิดชอบต่อความหมายและคุณค่าของจุดมุ่งหมาย แต่ในบทสนทนาที่ยาวนานอาจลืมเงื่อนไขก่อนหน้า หรือถูกตัวเลขตรงหน้าดึงความสนใจไป AI สามารถช่วยชดเชยการมองข้ามเช่นนี้ได้ด้วยการเปรียบเทียบประวัติและทำให้เงื่อนไขที่เปลี่ยนไปมองเห็นได้ ในขณะเดียวกัน AI เองก็ปรับตัวอย่างมากตามบริบทปัจจุบัน ดังนั้น การฝากการรักษาจุดมุ่งหมายไว้กับ AI ทั้งหมดจึงไม่จำเป็นว่าจะเพียงพอ การตรวจสอบจุดมุ่งหมายจำเป็นต้องได้รับการออกแบบให้เป็นการดำเนินการที่แยกต่างหาก
ความสามารถในการตรวจจับการเบี่ยงเบนจากจุดมุ่งหมายไม่ใช่ความสามารถของ AI ในการรู้ “จุดมุ่งหมายที่แท้จริง” จุดมุ่งหมายของมนุษย์อาจก่อตัวขึ้นผ่านบทสนทนา และจุดมุ่งหมายที่ขัดแย้งกันอาจดำรงอยู่พร้อมกันได้ ดังนั้น สิ่งที่ AI ทำได้คือแสดงความไม่สอดคล้องที่เกิดขึ้นระหว่างจุดมุ่งหมายที่ประกาศไว้ คำถามปัจจุบัน เกณฑ์การประเมิน และผลลัพธ์ แล้วกระตุ้นให้มีการพิจารณาใหม่ สิ่งสำคัญไม่ใช่การอนุมานและตรึงจุดมุ่งหมายไว้ แต่คือการทำให้ความเป็นไปได้ที่จุดมุ่งหมายอาจเปลี่ยนไปอยู่ในรูปที่มนุษย์สามารถนำมาพิจารณาได้
จากมุมมองนี้ AI ที่มีความสามารถสูงขึ้นไม่ได้ทำให้การตรวจสอบจุดมุ่งหมายหมดความจำเป็น ตรงกันข้าม ยิ่งการปรับให้เหมาะที่สุดเฉพาะส่วนรวดเร็วขึ้น และยิ่งสามารถสร้างผลลัพธ์ที่โน้มน้าวใจได้จำนวนมากในวงกว้าง การเบี่ยงเบนของทิศทางก็ยิ่งสังเกตได้ยากขึ้น แทนที่จะลดทอนความสามารถของ AI เพื่อความปลอดภัย เราจำเป็นต้องมีอีกชั้นหนึ่งที่สามารถตรวจสอบทิศทางซึ่งความสามารถนั้นกำลังมุ่งไป การออกแบบควรทำให้ทั้งความเร็วและการตรวจสอบทิศทางหมุนเวียนร่วมกัน แทนที่จะมองว่าเป็นสิ่งตรงข้ามกัน
การถามว่า “เพื่ออะไร” ไม่ใช่เพียงเทคนิคการตั้งคำถาม เมื่อมนุษย์และ AI สำรวจร่วมกัน มันคือการดำเนินการเพื่อตรวจสอบว่าคำถามปัจจุบันยังเชื่อมโยงกับจุดมุ่งหมายระดับสูงอยู่หรือไม่ แทนที่จะปล่อยให้จุดมุ่งหมาย คำถาม และผลลัพธ์ไหลไปเพียงทิศทางเดียว เราจำเป็นต้องมีเส้นทางย้อนกลับจากผลลัพธ์ไปยังคำถาม และจากคำถามกลับไปยังจุดมุ่งหมาย เมื่อมีวงจรนี้ AI ไม่เพียงช่วยเร่งวิธีการเท่านั้น แต่ยังช่วยให้มนุษย์ค้นพบได้ว่าวิธีการได้ทิ้งจุดมุ่งหมายไว้ข้างหลังหรือไม่
ไม่ใช่คำตอบ แต่คือความเข้าใจ