في حل المشكلات باستخدام الذكاء الاصطناعي، يمكن أن تتقدم التحسينات المحلية بسرعة كبيرة. فالأهداف مثل تقصير النص، وخفض التكلفة، وتقليل وقت المعالجة، أو ترتيب المرشحين يسهل نسبيًا تحديدها بوضوح ويمكن تحسينها بصورة تكرارية. ومع ذلك، فإن تحسين هدف محلي لا يضمن التقدم نحو غرض أعلى مستوى. فإذا كان الغرض الأولي هو «تقليل العبء على المستخدم»، لكن التقييم أخذ يركز تدريجيًا فقط على «تقليل عدد العمليات إلى الحد الأدنى»، فقد ينخفض عدد العمليات بينما تزداد صعوبة الفهم.
لاكتشاف هذه المشكلة، لا يكفي مجرد الاحتفاظ بالغرض في صورة جملة من بداية الحوار. بل يجب إبقاء الغرض الأعلى مستوى، والسؤال الحالي، والقيود السارية، ومقاييس التقييم، والناتج المتولد عناصر متميزة من حيث كيفية ارتباط بعضها ببعض. أي جزء من الغرض الأعلى مستوى يعالجه السؤال الحالي؟ هل مقياس التقييم مؤشر بديل صالح للغرض؟ هل أدى قيد أُضيف أثناء المسار إلى تغيير الغرض؟ فالانحراف عن الغرض يظهر بدرجة أقل كخطأ في عنصر منفرد، وبدرجة أكبر كتغير في العلاقات بين العناصر.
ومع ذلك، لا ينبغي الحكم على كل ابتعاد عن الغرض الأولي بأنه أمر غير طبيعي. فقد تظهر حقائق جديدة من خلال الحوار، وقد يغير المستخدم الغرض بصورة مشروعة. فعلى سبيل المثال، قد تبدأ خطة بغرض «السفر في أقصر وقت ممكن»، لكنها بعد ظهور معلومات جديدة تتعلق بالسلامة قد تتغير إلى «إعطاء الأولوية للسلامة حتى لو استغرق الأمر وقتًا أطول قليلًا». في هذه الحالة يوجد اختلاف عن الغرض الأولي، لكنه ليس فشلًا؛ بل هو نتيجة لتحديث الفهم.
لذلك، ما ينبغي اكتشافه ليس مجرد الاختلاف، بل المسار الذي تغير الغرض من خلاله. نحتاج إلى التمييز بين ما إذا كان التغيير قد أُقر صراحةً، أو بُرر بمعلومات جديدة، أو حدث كاستبدال ضمني أثناء السعي وراء مقياس يسهل قياسه. يستطيع الذكاء الاصطناعي إظهار الفروق عن الحوار السابق والإشارة إلى أن «السلامة كانت في الأصل شرطًا، لكن المقارنة الحالية تستخدم التكلفة وحدها». ومع ذلك، يظل الحكم على ما إذا كان هذا التغيير مقبولًا من اختصاص المستخدم.
تواجه آلية اكتشاف الانحراف عن الغرض أيضًا مشكلة الإنذارات الكاذبة. فلا يمكن دائمًا التعبير عن أغراض البشر في جملة واحدة واضحة، وقد توجد قيم متعددة في حالة توتر فيما بينها. فإذا حذر الذكاء الاصطناعي من كل اختلاف طفيف في الصياغة باعتباره تغييرًا في الغرض، فسوف يهيمن طلب التأكيد على الحوار. وإذا كانت الحساسية منخفضة أكثر من اللازم، فقد تُغفل تغييرات مهمة في معايير القيم. المطلوب هو التركيز لا على تطابق الكلمات، بل على الفروق القادرة على تغيير نتيجة الحكم.
كمبدأ للتنفيذ، من المفيد تتبع العلاقة بين الغرض والوسائل في الاتجاه العكسي على فترات منتظمة. فبدلًا من أن نسأل فقط: «هل يجيب هذا الناتج عن السؤال الحالي؟»، نعود إلى السؤالين: «إلى أي غرض يسهم هذا السؤال؟» و«ما الأساس الذي يدعم توقع أن يؤدي تحسين معيار التقييم هذا أيضًا إلى تحسين الغرض الأعلى مستوى؟». تتيح هذه المراجعة العكسية فصل تقييم جودة الناتج عن تقييم مدى ملاءمته للغرض.
يوجد هنا مجال لربط التفكير البشري على المستوى الفوقي بدعم الذكاء الاصطناعي. يتحمل البشر معنى الأغراض وقيمتها، لكنهم قد ينسون الشروط السابقة خلال حوار طويل أو يستحوذ الرقم الموجود أمامهم على انتباههم. يستطيع الذكاء الاصطناعي المساعدة في تعويض مثل هذه السهوات من خلال مقارنة السجل وإظهار الشروط التي تغيرت. وفي الوقت نفسه، يتكيف الذكاء الاصطناعي نفسه بقوة مع السياق الحالي، ولذلك فإن ترك الحفاظ على الغرض بالكامل للذكاء الاصطناعي ليس بالضرورة كافيًا. يجب تصميم التحقق من الغرض كعملية مستقلة.
إن القدرة على اكتشاف الانحراف عن الغرض ليست قدرة الذكاء الاصطناعي على معرفة «الغرض الحقيقي». فقد تتشكل أغراض البشر من خلال الحوار، وقد تتعايش أغراض متعارضة. لذلك، ما يستطيع الذكاء الاصطناعي فعله هو إظهار أوجه عدم الاتساق التي تنشأ بين الأغراض المعلنة، والأسئلة الحالية، ومعايير التقييم، والنواتج، والحث على إعادة النظر. المهم ليس استنتاج الغرض وتثبيته، بل جعل احتمال أن يكون الغرض قد تغير متاحًا للفحص البشري.
من هذا المنظور، لا يجعل الذكاء الاصطناعي الأكثر قدرة التحقق من الغرض أمرًا غير ضروري. بل على العكس، كلما أصبح التحسين المحلي أسرع وأمكن توليد مزيد من النواتج المقنعة على نطاق واسع، أصبح من الأصعب ملاحظة الانحراف في الاتجاه. وبدلًا من إضعاف قدرة الذكاء الاصطناعي من أجل السلامة، نحتاج إلى طبقة أخرى يمكن فيها فحص الاتجاه الذي تتجه إليه تلك القدرة. ينبغي أن يجعل التصميم السرعة والتحقق من الاتجاه يدوران معًا في دورة، بدلًا من التعامل معهما بوصفهما متعارضين.
إن سؤال «لأي غرض؟» ليس مجرد أسلوب لطرح الأسئلة. فعندما يستكشف البشر والذكاء الاصطناعي معًا، يكون ذلك عملية للتحقق مما إذا كان السؤال الحالي لا يزال متصلًا بالغرض الأعلى مستوى. وبدلًا من السماح للغرض والسؤال والناتج بالتدفق في اتجاه واحد فقط، نحتاج إلى مسار عودة من الناتج إلى السؤال ومن السؤال إلى الغرض. ومع وجود هذه الدورة، لا يستطيع الذكاء الاصطناعي تسريع الوسائل فحسب، بل يمكنه أيضًا دعم البشر في اكتشاف ما إذا كانت الوسائل قد تركت الغرض وراءها.
ليست إجابات. بل فهم.