การหาค่าที่เหมาะสมที่สุดมีพลังเมื่อเป้าหมายชัดเจน เมื่อกำหนดเงื่อนไขแล้ว เช่น ลดเวลาเดินทาง ลดค่าใช้จ่าย หรือลดปริมาณงานโดยยังคงรักษาระดับคุณภาพไว้ในระดับหนึ่ง AI สามารถเปรียบเทียบทางเลือกจำนวนมากได้ แต่ในการตัดสินใจที่สำคัญของมนุษย์ เป้าหมายเองอาจไม่ได้มีเพียงหนึ่งเดียวหรือยังไม่ได้ข้อยุติ คนคนหนึ่งอาจต้องการเพิ่มรายได้พร้อมกับรักษาเวลาที่ใช้กับครอบครัวไว้ หรืออาจต้องการเติบโตโดยไม่เพิ่มภาระต่อสุขภาพของตน ในสถานการณ์เช่นนี้ จำเป็นต้องพิจารณาความสัมพันธ์ระหว่างคุณค่าต่าง ๆ ก่อนเริ่มการหาค่าที่เหมาะสมที่สุด
ปัญหาไม่ได้อยู่ที่การแปลงคุณค่าหลายประการให้เป็นตัวเลข การกำหนดน้ำหนักเพื่อใช้เปรียบเทียบอาจมีประโยชน์ แต่เมื่อไม่ชัดเจนว่าใครเป็นผู้กำหนดน้ำหนักเหล่านั้นและเพราะเหตุใด การก่อรูปเป้าหมายก็จะกลายเป็นเพียงเงื่อนไขในการคำนวณ ตัวอย่างเช่น หากตั้งค่าไว้ตั้งแต่ต้นให้รายได้มีน้ำหนักสูง AI ก็สามารถให้ข้อเสนอแนะที่สอดคล้องกันภายใต้เงื่อนไขนั้นได้ ถึงกระนั้น การที่บุคคลนั้นต้องการให้รายได้มีความสำคัญเหนือสิ่งอื่นทั้งหมดจริงหรือไม่ ก็ไม่สามารถอนุมานได้จากความถูกต้องของการคำนวณ
สำหรับมนุษย์ที่มีข้อจำกัด ความแตกต่างนี้มีความสำคัญ หากหลังจากกำหนดเป้าหมายผิดแล้ว เราสามารถเริ่มต้นชีวิตใหม่จากศูนย์ได้ครั้งแล้วครั้งเล่า เราอาจเลือกน้ำหนักที่ให้ผลลัพธ์ดีที่สุดได้ในภายหลัง แต่ในความเป็นจริง เวลาบางส่วนที่ใช้ไปและโอกาสบางอย่างที่สูญเสียไปจากการเลือกนั้นไม่ย้อนกลับมา ดังนั้น “อะไรควรได้รับการหาค่าที่เหมาะสมที่สุด?” จึงไม่ใช่เพียงขั้นตอนการประมวลผลเบื้องต้นทางเทคนิค แต่เป็นส่วนหนึ่งของการตัดสินว่าบุคคลหนึ่งจะใช้เวลาที่มีอยู่อย่างจำกัดไปกับอะไร
ในฐานะเครื่องมือสนับสนุนการคิด AI สามารถทำให้ความขัดแย้งภายในเป้าหมายมองเห็นได้ แทนที่จะกำหนดเป้าหมายขึ้นเอง AI สามารถแสดงให้เห็นว่าอะไรเปลี่ยนไปเมื่อให้ความสำคัญกับคุณค่าหนึ่ง และอันดับของทางเลือกเปลี่ยนไปอย่างไรเมื่อให้น้ำหนักกับอีกคุณค่าหนึ่งมากขึ้น นอกจากนี้ ด้วยการตั้งคำถาม AI ยังสามารถตรวจสอบได้ว่าสิ่งที่ดูเผิน ๆ เหมือนเป็นเป้าหมายเดียว แท้จริงแล้วมีความปรารถนาหลายประการอยู่ภายในหรือไม่ การเปรียบเทียบเช่นนี้สามารถช่วยให้บุคคลเข้าใจว่าตนกำลังพยายามเลือกอะไร ก่อนที่จะลดทอนปัญหาให้เหลือคำตอบที่เหมาะสมที่สุดเพียงหนึ่งเดียว
ในที่นี้ การตั้งคำถามต้องไม่กลายเป็นจุดหมายในตัวมันเอง หากเป้าหมายชัดเจนและการเลือกสามารถย้อนกลับได้โดยง่าย การหยุดทุกครั้งกลับจะทำให้การสนับสนุนกลายเป็นภาระ สิ่งสำคัญคือการระบุสถานการณ์ที่ความคลุมเครือของเป้าหมายอาจเปลี่ยนข้อสรุป คุณค่าหลายประการขัดแย้งกัน หรือการเลือกมีลักษณะที่ย้อนกลับไม่ได้ในระดับสูง คำถามไม่ใช่การต่อต้านความรวดเร็ว แต่เป็นวิธีการที่จำเป็นเมื่อเป้าหมายยังไม่ได้ก่อรูปเป็นสิ่งที่มนุษย์สามารถรับรู้ได้ว่าเป็นของตนเอง
สำหรับ Sai＊aus นี่คือจุดที่การหาค่าที่เหมาะสมที่สุดและความเข้าใจมาบรรจบกัน แม้ AI จะค้นพบวิธีการที่ยอดเยี่ยม ประสิทธิภาพที่สูงก็ไม่ได้หมายความว่าจะนำไปสู่ผลลัพธ์ที่พึงปรารถนาเสมอไป หากมนุษย์ไม่เข้าใจเป้าหมายที่วิธีการนั้นมุ่งไป ดังนั้น จึงไม่ควรปะปนชั้นที่เปรียบเทียบวิธีการกับชั้นที่พิจารณาว่าอะไรสำคัญ ความสามารถของ AI สามารถใช้เป็นวัตถุดิบสำหรับการก่อรูปเป้าหมายได้ พร้อมกับรักษาโครงสร้างที่มนุษย์สามารถรับผิดชอบต่อลำดับความสำคัญที่มอบให้แก่คุณค่าต่าง ๆ
การตัดสินว่า “อะไรสำคัญ” ก่อนการหาค่าที่เหมาะสมที่สุด ไม่ได้หมายความว่าบุคคลต้องคิดตามลำพังและโดดเดี่ยวอยู่เสมอ มนุษย์ก่อรูปคุณค่าภายในความสัมพันธ์กับผู้อื่นและความรับผิดชอบทางสังคม AI ก็สามารถสนับสนุนการพิจารณานั้นได้เช่นกัน ถึงกระนั้น สิ่งที่สามารถคำนวณได้แล้วไม่จำเป็นต้องเป็นสิ่งที่ควรมอบหมายให้ผู้อื่นตัดสิน การสนับสนุนการคิดควรรักษาเงื่อนไขที่ทำให้ผู้กระทำที่มีข้อจำกัดสามารถเข้าใจได้ว่าการเลือกของตนให้ความสำคัญกับอะไรและละทิ้งอะไร จากนั้นจึงใช้การหาค่าที่เหมาะสมที่สุดโดยไม่ลบเลือนการตัดสินของมนุษย์
ไม่ใช่คำตอบ แต่คือความเข้าใจ