إن جعل الأهداف البشرية قابلة لإعادة التحقق يتطلب أولًا وجود محفّز ما للحكم بأن «الشخص قد تغيّر». لكن هذه ليست مسألة اكتشاف بسيطة. فقد يغيّر الناس ما يقولونه بسبب الإرهاق أو انفعال مؤقت، أو يراجعون حكمًا بعد تلقي معلومات جديدة، أو يمرون بتغيّر أطول أمدًا في القيم. وإذا عوملت كل هذه الحالات بوصفها النوع نفسه من التغيّر، فسيقوم الذكاء الاصطناعي بتحديث حالة الإنسان بصورة مفرطة.
لنفترض أن شخصًا لديه هدف تعلّم طويل الأمد قال بعد يوم واحد من الفشل: «لم أعد أريد القيام بهذا». إذا كان هذا التصريح وحده كافيًا لإبطال الهدف، فقد يُساء تفسير الإحباط المؤقت على أنه تغيّر طويل الأمد في النية. وعلى العكس، إذا جرى الحفاظ على الهدف الأصلي رغم تكرار أقوال وأفعال تعطي الأولوية لقيمة مختلفة على مدى أشهر، فقد يُطرح تغيّر جوهري جانبًا باعتباره ضوضاء.
لذلك، ينبغي على الأقل الفصل بين «رد الفعل الملحوظ»، و«تفسير الشخص نفسه»، و«الاستمرارية عبر الزمن»، و«الآثار المترتبة على الهدف». وتشمل ردود الفعل الملحوظة الأقوال والاختيارات والمشاعر التي يُبلَّغ عنها بعد الفعل. ويتعلق تفسير الشخص بكيفية فهمه لتلك الردود. أما الاستمرارية فتسأل عما إذا كان اتجاه مماثل يظل قائمًا عندما تتغير الظروف. وتمثل الآثار المترتبة على الهدف حكمًا منفصلًا بشأن ما إذا كانت هذه العوامل تغيّر بالفعل الأسباب أو الافتراضات التي تدعم الهدف الحالي.
هذا الفصل ضروري لأن الذكاء الاصطناعي لا يستطيع ملاحظة الحالة الداخلية للإنسان مباشرة. ولا يمكنه العمل إلا مع معلومات جرى إظهارها خارجيًا بشكل ما، مثل ما يعبّر عنه الشخص بالكلمات، والأفعال التي يختارها، والنتائج التي يشاركها. وأي استنتاج من هذه المعلومات بأن «قيم الشخص قد تغيّرت» ينطوي على عدم يقين. وإذا حُفظ هذا الاستنتاج بوصفه حقيقة، فقد توجّه الصورة التي أنشأها النظام نفسه عن الشخص الحوارات اللاحقة، وتُنشئ حلقة تغذية راجعة تعزز تلك الصورة أكثر.
وفي الوقت نفسه، فإن التصميم الذي يعامل كل شيء على أنه غير يقيني ولا يحدّث شيئًا هو أيضًا غير كافٍ. فإذا قال الشخص مرارًا إن الأمور أصبحت مختلفة الآن، وتغيّرت اختياراته، ولم تعد الأسباب التي كانت تدعم الهدف السابق قائمة، فينبغي إعادة هذا الاختلاف إلى الحوار. والمهم ليس تأكيد التغيّر تلقائيًا، بل تمثيله بوصفه حالة تتطلب تأكيدًا متجددًا.
ومن المفيد هنا عدم ضغط التغيّر بصورة مفرطة في رقم واحد أو سمة واحدة. فتسمية مثل «انخفض الدافع» لا تستطيع التمييز بين الإرهاق، وعدم الرضا عن الطريقة، وتراجع الاهتمام بالهدف نفسه. وقد يحمل رد الفعل الظاهري نفسه معاني مختلفة. ولربط ذلك بإعادة التحقق من الهدف، يجب على النظام الاحتفاظ بمعلومات علائقية حول ما قد يكون قد تغيّر، وأن يكون قادرًا على تفكيكها من خلال أسئلة مناسبة.
كما أن توقيت أسئلة الذكاء الاصطناعي مهم. فإذا أدى كل تقلب عاطفي إلى التشكيك في الهدف، أصبح الحوار غير مستقر. وإذا لم تؤدِّ حتى التغيّرات الواضحة المتراكمة إلى إعادة النظر، أصبح الهدف القديم ثابتًا. وتجمع المحفزات الأكثر معقولية لإعادة التحقق بين عدة قرائن: عدم تطابق مستمر بين الأسباب السابقة والاختيارات الحالية، أو انهيار افتراض مهم بفعل تجربة في العالم الواقعي، أو تغيّر صريح في الحكم القيمي يعلنه الشخص.
حتى عندما تتوافق عدة قرائن، لا يحتاج الذكاء الاصطناعي إلى إصدار إعلان نهائي بأن «الشخص قد تغيّر». بل يمكنه بدلًا من ذلك عرض الاختلاف: «في السابق اخترت هذا الهدف لهذا السبب، لكن في تجاربك الأخيرة يبدو أنك تمنح قيمة أخرى وزنًا أكبر. كيف تفهم هذا الاختلاف؟» وهذا يحافظ على فاعلية الإنسان بصورة أفضل. فالغرض من الاكتشاف ليس تثبيت صورة نهائية للشخص، بل إنشاء حالة يستطيع فيها الشخص فحص تغيّره بنفسه.
هذه الحدود مهمة لفهم الإنسان في Sai＊aus. فإذا لم يستطع الذكاء الاصطناعي التعامل مع التغيّر البشري، أصبح الفهم طويل الأمد تثبيتًا على الماضي. وإذا أكد الذكاء الاصطناعي التغيّر بقوة مفرطة، فإنه يحصر الشخص داخل استنتاج النظام. والمطلوب هو الحفاظ على علامات التغيّر، والتمييز بين الاستنتاج وفهم الشخص لنفسه، وتحويل الاختلاف إلى سؤال لإعادة التحقق.
لا توجد نقطة واحدة ينبغي عندها للذكاء الاصطناعي أن «يكتشف» أن الإنسان قد تغيّر. فلا يكفي رد فعل بعد فعل بمفرده، ولا يكفي تغيّر في الصياغة بمفرده. ويجب التعامل مع احتمال التغيّر تدريجيًا من خلال النظر في الاحتكاك بالواقع، وتفسير الشخص نفسه، والاستمرارية عبر الزمن، والعلاقة بالأسباب التي كانت تدعم الهدف السابق. لا يحتاج الذكاء الاصطناعي إلى القدرة على التصريح بالحالة الداخلية للشخص بصورة صحيحة. بل يحتاج إلى تمثيلات وبنى حوار لا تبالغ في تأكيد التغيّر ولا تغفله.
ليست إجابات. بل فهم.