يكون التحسين قوياً عندما يكون الهدف واضحاً. فبمجرد تحديد الشروط — تقصير وقت التنقل، أو خفض التكاليف، أو تقليل عبء العمل مع الحفاظ على مستوى معين من الجودة — يستطيع الذكاء الاصطناعي مقارنة العديد من الخيارات. لكن في الأحكام البشرية المهمة، قد لا يكون الهدف نفسه واحداً أو مستقراً. فقد يرغب شخص في زيادة دخله مع الحفاظ أيضاً على الوقت الذي يقضيه مع أسرته، أو في السعي إلى النمو من دون زيادة العبء على صحته. وفي مثل هذه الحالات، يجب النظر في العلاقة بين القيم قبل بدء التحسين.
لا تكمن المشكلة في فعل تحويل القيم المتعددة إلى أرقام. فقد يكون تعيين أوزان للمقارنة مفيداً. لكن عندما يصبح من غير الواضح من الذي حدد تلك الأوزان ولماذا، يتحول تشكيل الهدف إلى مجرد شرط حسابي. فعلى سبيل المثال، إذا تم منذ البداية اعتماد إعداد يمنح الدخل وزناً مرتفعاً، يستطيع الذكاء الاصطناعي تقديم توصيات متسقة وفق ذلك الشرط. ومع ذلك، لا يمكن استنتاج ما إذا كان الشخص يريد حقاً إعطاء الدخل الأولوية فوق كل شيء آخر من صحة الحساب وحدها.
بالنسبة إلى البشر المحدودين، لهذا الاختلاف أهمية. فلو كان بإمكاننا أن نبدأ الحياة من جديد مراراً بعد تحديد هدف خاطئ، فقد نتمكن لاحقاً من اختيار الأوزان التي أنتجت أفضل نتيجة. لكن في الواقع، لا يعود بعض الوقت الذي استُهلك بسبب اختيار ما، ولا بعض الفرص التي فُقدت بسببه. لذلك فإن سؤال «ما الذي ينبغي تحسينه؟» ليس مجرد خطوة تقنية للمعالجة المسبقة؛ بل هو جزء من الحكم المتعلق بما سيستخدم فيه الشخص وقته المحدود.
بوصفه دعماً للتفكير، يستطيع الذكاء الاصطناعي أن يجعل التعارضات داخل الهدف مرئية بدلاً من أن يثبت الهدف بنفسه. ويمكنه أن يبين ما الذي يتغير عندما تُعطى الأولوية لقيمة ما، وكيف يتغير ترتيب الخيارات عندما تُمنح قيمة أخرى وزناً أكبر. ومن خلال الأسئلة، يمكنه أيضاً التحقق مما إذا كان ما يبدو ظاهرياً هدفاً واحداً يحتوي في الواقع على رغبات متعددة. ويمكن لمثل هذه المقارنات أن تساعد الشخص على فهم ما الذي يحاول اختياره قبل اختزال المشكلة في حل أمثل واحد.
هنا، يجب ألا يصبح طرح الأسئلة غاية في ذاته. فإذا كان الهدف واضحاً وكان الاختيار قابلاً للعكس بسهولة، فإن التوقف في كل مرة سيجعل الدعم عبئاً بدلاً من ذلك. والمهم هو تحديد الحالات التي يمكن أن يؤدي فيها غموض الهدف إلى تغيير النتيجة، أو تتعارض فيها قيم متعددة، أو يكون الاختيار شديد اللاعكسية. السؤال ليس اعتراضاً على السرعة؛ بل هو وسيلة ضرورية عندما لا يكون الهدف قد تشكل بعد بوصفه شيئاً يستطيع الإنسان أن يتعرف إليه باعتباره هدفه الخاص.
بالنسبة إلى Sai＊aus، هنا يلتقي التحسين بالفهم. فحتى إذا وجد الذكاء الاصطناعي وسيلة ممتازة، فإن الكفاءة العالية لا تعني بالضرورة نتيجة مرغوبة إذا كان الإنسان لا يفهم الهدف الذي تتجه إليه تلك الوسيلة. لذلك لا ينبغي الخلط بين المستوى الذي يقارن الوسائل والمستوى الذي يفحص ما الذي يهم. ويمكن استخدام قدرات الذكاء الاصطناعي مادةً لتشكيل الأهداف مع الحفاظ على بنية يستطيع البشر ضمنها تحمّل مسؤولية الأولوية الممنوحة للقيم.
إن تقرير «ما الذي يهم» قبل التحسين لا يعني أن على الشخص أن يفكر دائماً بمفرده وفي عزلة. فالناس يشكلون القيم ضمن علاقاتهم مع الآخرين ومسؤولياتهم الاجتماعية. ويمكن للذكاء الاصطناعي أيضاً دعم هذا الفحص. ومع ذلك، فما أصبح قابلاً للحساب ليس بالضرورة ما ينبغي تفويضه. وينبغي لدعم التفكير أن يحافظ على الشرط الذي يتيح للفاعلين المحدودين فهم ما الذي تعطيه اختياراتهم الأولوية وما الذي يتخلون عنه، ثم استخدام التحسين من دون محو الحكم البشري.
ليست إجابات. بل فهم.