عندما يوصي الذكاء الاصطناعي بخيار معين، فإن سؤاله «لماذا فكرت بهذه الطريقة؟» ينتج عرضًا منظمًا للأسباب. فقد يقول إن الشرط A مُنح الأولوية، أو إن الخيار B له عيب معين، أو إن هذا الاختيار أنسب للغرض C. وتفيد مثل هذه التفسيرات في مقارنة أسس الحكم. لكن كون النص سهل القراءة ومتماسكًا لا يعني أنه يمكن اعتباره سجلًا مباشرًا للمعالجة التي حدثت داخل الذكاء الاصطناعي في الطريق إلى إنتاج المخرَج.
حتى بين البشر، نصوغ أحيانًا الأسباب بالكلمات بعد أن نكون قد تصرفنا. وللتفسير قيمة بوصفه تمثيلًا يتيح لشخص آخر فحص حكم ما، لكن العبارة التفسيرية والسبب نفسه ليسا شيئًا واحدًا. ومع الذكاء الاصطناعي يصبح هذا التمييز أكثر أهمية. فالتفسير المُنشأ هو مخرَج بُني انطلاقًا من السياق المعطى؛ وليس نسخًا كاملًا قابلًا للقراءة البشرية للحسابات الداخلية المعقدة للنموذج.
ولا يقتضي ذلك أن نستنتج أن «تفسيرات الذكاء الاصطناعي بلا معنى». فهناك أمور يمكننا فحصها من خلال التفسير: ما الافتراضات التي يتبناها صراحة، وما الشروط التي يقول إنها مهمة، وكيف يقارن البدائل، وما إذا كان يقر بعدم اليقين. وتوفر هذه الأمور دلائل للبشر عند فحص المخرَج. والمهم هو التعامل مع التفسير لا باعتباره «دليلًا يكشف الداخل مباشرة»، بل باعتباره «تمثيلًا خارجيًا يمكن فحصه».
ويكتسب هذا التمييز أهمية خاصة في البحث. فحتى إذا طلبنا من الذكاء الاصطناعي شرح أسباب فرضية ما، فإن التفسير وحده لا يثبت صحة الفرضية. علينا التحقق من المصادر الأصلية والملاحظات والأدلة المخالفة والتفسيرات البديلة. وقدرة الذكاء الاصطناعي على الكتابة بثقة أمر منفصل عن وجود أدلة كافية بشأن العالم الخارجي. وعدم إحلال طلاقة التفسير محل قوة الأدلة هو نقطة البداية للتحقق.
إن قيمة سؤال «لماذا؟» في الحوار مع الذكاء الاصطناعي لا تكمن في استخراج عملية داخلية خفية، بل في تحويل الحكم إلى صيغة يستطيع البشر فحصها. فإذا سألنا «ما المعلومات التي تعاملت معها بوصفها حقائق؟» و«أين توجد الافتراضات؟» و«ما التغيير الذي سيغير الاستنتاج؟»، أصبح من الأسهل تحديد نقاط الضعف في المخرَج. وهذه ليست طريقة لفهم داخل الذكاء الاصطناعي فهمًا كاملًا، لكنها قد توضح ما يحتاج البشر إلى التحقق منه أيضًا.
يمكن استخدام التفكير على المستوى الفوقي ليس فقط للنظر إلى طريقتنا في التفكير من خطوة إلى الخارج، بل أيضًا لإعادة النظر فيما نعتقد أننا تعلمناه عن الذكاء الاصطناعي. ويمكننا التمييز بين «القدرة على شرح سبب» و«القدرة على ملاحظة علة»، وبين «المعقول» و«المدعوم بأدلة جرى التحقق منها»، وبين «المتسق» و«الصحيح». وبوجود هذه الفروق يمكننا تجنب المبالغة في تقدير تفسيرات الذكاء الاصطناعي، مع الاستمرار في استخدامها مادة مفيدة للفحص.
من المهم أن نسأل الذكاء الاصطناعي «لماذا؟». لكن علينا أيضًا أن نسأل مرة أخرى: ما نوع السؤال الذي تمثل هذه الاستجابة جوابًا عنه؟ ما نحتاج إليه ليس وهم النظر بالكامل إلى داخل الذكاء الاصطناعي، بل مادة تتيح لنا التحقق من حكم ما ومراجعته عند الضرورة. ومعرفة حدود التفسير لا تعني عدم الثقة بالذكاء الاصطناعي. بل تعني فهم المدى الذي يمكن فيه استخدام التفسير، والنقطة التي يجب بعدها أن تتولى الأدلة الخارجية أو الأحكام البشرية عملية التحقق.
ليست إجابات. بل فهم.