การทำให้เป้าหมายของมนุษย์สามารถตรวจสอบความถูกต้องซ้ำได้ จำเป็นต้องมีสิ่งกระตุ้นบางอย่างเพื่อใช้ตัดสินว่า “บุคคลนั้นเปลี่ยนไปแล้ว” ก่อน แต่เรื่องนี้ไม่ใช่ปัญหาการตรวจจับที่เรียบง่าย มนุษย์อาจเปลี่ยนสิ่งที่พูดเพราะความเหนื่อยล้าหรืออารมณ์ชั่วคราว อาจแก้ไขการตัดสินหลังได้รับข้อมูลใหม่ หรืออาจเกิดการเปลี่ยนแปลงของค่านิยมในระยะยาว หากทั้งหมดนี้ถูกปฏิบัติว่าเป็นการเปลี่ยนแปลงประเภทเดียวกัน AI จะอัปเดตสภาวะของมนุษย์อย่างรุนแรงเกินไป
สมมติว่าบุคคลที่มีเป้าหมายการเรียนรู้ระยะยาวกล่าวหลังจากล้มเหลวในวันหนึ่งว่า “ฉันไม่อยากทำสิ่งนี้อีกแล้ว” หากคำพูดนั้นเพียงอย่างเดียวทำให้เป้าหมายหมดความใช้ได้ ความท้อแท้ชั่วคราวอาจถูกเข้าใจผิดว่าเป็นการเปลี่ยนเจตนาในระยะยาว ในทางกลับกัน หากยังคงรักษาเป้าหมายเดิมไว้ ทั้งที่คำพูดและการกระทำที่ให้ความสำคัญกับค่านิยมอีกแบบหนึ่งเกิดขึ้นซ้ำเป็นเวลาหลายเดือน การเปลี่ยนแปลงที่มีสาระสำคัญก็อาจถูกทิ้งไปในฐานะสัญญาณรบกวน
ดังนั้น อย่างน้อยที่สุด จำเป็นต้องแยก “ปฏิกิริยาที่สังเกตได้” “การตีความของตัวบุคคลเอง” “ความคงอยู่ข้ามเวลา” และ “นัยต่อเป้าหมาย” ออกจากกัน ปฏิกิริยาที่สังเกตได้รวมถึงคำพูด การเลือก และความรู้สึกที่รายงานหลังการกระทำ การตีความของบุคคลหมายถึงวิธีที่บุคคลนั้นเข้าใจปฏิกิริยาเหล่านั้น ความคงอยู่ตั้งคำถามว่าแนวโน้มที่คล้ายกันยังคงอยู่หรือไม่เมื่อเงื่อนไขเปลี่ยนไป ส่วนนัยต่อเป้าหมายเป็นการตัดสินแยกต่างหากว่าปัจจัยเหล่านี้เปลี่ยนเหตุผลหรือข้อสมมติที่ค้ำจุนเป้าหมายปัจจุบันจริงหรือไม่
การแยกเช่นนี้จำเป็น เพราะ AI ไม่สามารถสังเกตสภาวะภายในของมนุษย์ได้โดยตรง AI สามารถทำงานได้เฉพาะกับข้อมูลที่ถูกแสดงออกมาภายนอกในรูปแบบใดรูปแบบหนึ่ง เช่น สิ่งที่บุคคลถ่ายทอดออกมาเป็นคำพูด การกระทำที่บุคคลเลือก และผลลัพธ์ที่บุคคลแบ่งปัน การอนุมานใด ๆ จากข้อมูลเหล่านี้ว่า “ค่านิยมของบุคคลนั้นเปลี่ยนไปแล้ว” ล้วนมีความไม่แน่นอน หากการอนุมานถูกบันทึกไว้เป็นข้อเท็จจริง ภาพของบุคคลที่ระบบสร้างขึ้นเองอาจชี้นำบทสนทนาในภายหลัง และสร้างวงจรป้อนกลับที่ยิ่งเสริมความแข็งแรงให้กับภาพนั้น
ขณะเดียวกัน การออกแบบที่ถือว่าทุกอย่างไม่แน่นอนและไม่อัปเดตอะไรเลยก็ไม่เพียงพอเช่นกัน หากบุคคลกล่าวซ้ำ ๆ ว่าตอนนี้สิ่งต่าง ๆ แตกต่างออกไป การเลือกของเขาเปลี่ยนไป และเหตุผลที่เคยค้ำจุนเป้าหมายก่อนหน้านี้ไม่เป็นจริงอีกต่อไป ความแตกต่างนั้นจำเป็นต้องถูกนำกลับเข้าสู่บทสนทนา ประเด็นสำคัญไม่ใช่การยืนยันการเปลี่ยนแปลงโดยอัตโนมัติ แต่คือการแสดงมันในฐานะสภาวะที่ต้องได้รับการยืนยันใหม่
ในที่นี้ สิ่งที่เป็นประโยชน์คือไม่บีบอัดการเปลี่ยนแปลงมากเกินไปให้เหลือเพียงตัวเลขหรือคุณลักษณะเดียว ป้ายกำกับอย่าง “แรงจูงใจลดลง” ไม่สามารถแยกได้ว่าเป็นความเหนื่อยล้า ความไม่พอใจต่อวิธีการ หรือความสนใจในตัวเป้าหมายเองที่ลดลง ปฏิกิริยาบนพื้นผิวแบบเดียวกันอาจมีความหมายต่างกัน เพื่อเชื่อมโยงสิ่งนี้เข้ากับการตรวจสอบความถูกต้องของเป้าหมายอีกครั้ง ระบบต้องเก็บรักษาข้อมูลเชิงความสัมพันธ์เกี่ยวกับสิ่งที่อาจเปลี่ยนไป และสามารถแยกองค์ประกอบของข้อมูลนั้นผ่านคำถามที่เหมาะสม
จังหวะเวลาที่ AI ถามคำถามก็สำคัญเช่นกัน หากความผันผวนทางอารมณ์ทุกครั้งทำให้เกิดการตั้งคำถามต่อเป้าหมาย บทสนทนาจะไม่มั่นคง หากแม้แต่การเปลี่ยนแปลงที่ชัดเจนซึ่งสะสมขึ้นก็ไม่เคยกระตุ้นให้มีการพิจารณาใหม่ เป้าหมายเดิมก็จะถูกตรึงไว้ สิ่งกระตุ้นที่สมเหตุสมผลกว่าสำหรับการตรวจสอบความถูกต้องซ้ำควรรวมเบาะแสหลายอย่าง ได้แก่ ความไม่สอดคล้องอย่างต่อเนื่องระหว่างเหตุผลเดิมกับการเลือกในปัจจุบัน การพังทลายของข้อสมมติสำคัญจากประสบการณ์ในโลกจริง หรือการเปลี่ยนแปลงในการตัดสินคุณค่าที่บุคคลนั้นระบุไว้อย่างชัดเจน
แม้เมื่อเบาะแสหลายอย่างสอดคล้องกัน AI ก็ไม่จำเป็นต้องประกาศข้อสรุปสุดท้ายว่า “บุคคลนั้นเปลี่ยนไปแล้ว” แต่สามารถนำเสนอความแตกต่างแทนว่า “ก่อนหน้านี้คุณเลือกเป้าหมายนี้ด้วยเหตุผลนี้ แต่จากประสบการณ์ล่าสุด ดูเหมือนว่าคุณกำลังให้น้ำหนักกับค่านิยมอีกอย่างมากขึ้น คุณเข้าใจความแตกต่างนี้อย่างไร?” วิธีนี้ช่วยรักษาความเป็นผู้กระทำของมนุษย์ได้ดีกว่า จุดประสงค์ของการตรวจจับไม่ใช่การสรุปภาพของบุคคลให้ตายตัว แต่คือการสร้างสภาวะที่บุคคลนั้นสามารถตรวจสอบการเปลี่ยนแปลงของตนเองได้
ขอบเขตนี้สำคัญต่อการทำความเข้าใจมนุษย์ใน Sai＊aus หาก AI ไม่สามารถจัดการกับการเปลี่ยนแปลงของมนุษย์ได้ ความเข้าใจในระยะยาวจะกลายเป็นการยึดติดกับอดีต หาก AI ยืนยันการเปลี่ยนแปลงอย่างหนักแน่นเกินไป ก็จะจำกัดบุคคลไว้ภายในการอนุมานของระบบ สิ่งที่จำเป็นคือการรักษาสัญญาณของการเปลี่ยนแปลง แยกการอนุมานออกจากความเข้าใจตนเองของบุคคล และเปลี่ยนความแตกต่างนั้นให้เป็นคำถามสำหรับการตรวจสอบความถูกต้องซ้ำ
ไม่มีจุดเดียวที่ AI ควร “ตรวจจับ” ว่ามนุษย์เปลี่ยนไปแล้ว ทั้งปฏิกิริยาหลังการกระทำเพียงอย่างเดียวและการเปลี่ยนแปลงถ้อยคำเพียงอย่างเดียวต่างก็ไม่เพียงพอ ความเป็นไปได้ของการเปลี่ยนแปลงต้องถูกจัดการอย่างเป็นขั้นเป็นตอน โดยพิจารณาการสัมผัสกับความเป็นจริง การตีความของบุคคล ความคงอยู่ตามเวลา และความสัมพันธ์กับเหตุผลที่เคยค้ำจุนเป้าหมายก่อนหน้า AI ไม่จำเป็นต้องมีความสามารถในการกล่าวสภาวะภายในของบุคคลได้อย่างถูกต้อง สิ่งที่ AI ต้องการคือรูปแบบการแทนและโครงสร้างบทสนทนาที่ไม่ยืนยันการเปลี่ยนแปลงมากเกินไป และไม่มองข้ามมัน
ไม่ใช่คำตอบ แต่คือความเข้าใจ