मानवीय लक्ष्यों को पुनः सत्यापित किए जाने योग्य बनाने के लिए सबसे पहले किसी ऐसे संकेत की आवश्यकता होती है जिसके आधार पर यह आकलन किया जा सके कि “व्यक्ति बदल गया है।” लेकिन यह कोई सरल पहचान-समस्या नहीं है। लोग थकान या अस्थायी भावना के कारण अपनी बात बदल सकते हैं, नई जानकारी मिलने के बाद किसी निर्णय को संशोधित कर सकते हैं, या अपने मूल्यों में दीर्घकालिक बदलाव से गुजर सकते हैं। यदि इन सभी को एक ही प्रकार का बदलाव माना जाए, तो AI मनुष्य की अवस्था को अत्यधिक आक्रामक ढंग से अद्यतन करेगा।
मान लीजिए कि दीर्घकालिक सीखने का लक्ष्य रखने वाला कोई व्यक्ति एक दिन की असफलता के बाद कहता है, “मैं अब यह नहीं करना चाहता।” यदि केवल इसी कथन के आधार पर लक्ष्य को अमान्य मान लिया जाए, तो अस्थायी निराशा को दीर्घकालिक इरादे के बदलाव के रूप में गलत समझा जा सकता है। इसके विपरीत, यदि मूल लक्ष्य को तब भी बनाए रखा जाए जब किसी अलग मूल्य को प्राथमिकता देने वाले कथन और कार्य कई महीनों से दोहराए जा रहे हों, तो वास्तविक बदलाव को शोर मानकर छोड़ दिया जा सकता है।
इसलिए कम से कम “देखी गई प्रतिक्रिया”, “व्यक्ति की अपनी व्याख्या”, “समय के साथ निरंतरता” और “लक्ष्य के लिए निहितार्थ” को अलग करना आवश्यक है। देखी गई प्रतिक्रियाओं में कथन, चुनाव और कार्रवाई के बाद बताई गई भावनाएँ शामिल हैं। व्यक्ति की व्याख्या इस बात से संबंधित है कि वह उन प्रतिक्रियाओं को कैसे समझता है। निरंतरता यह पूछती है कि परिस्थितियाँ बदलने पर भी क्या समान प्रवृत्ति बनी रहती है। लक्ष्य के लिए निहितार्थ एक अलग निर्णय है कि क्या ये कारक वास्तव में उन कारणों या मान्यताओं को बदलते हैं जो वर्तमान लक्ष्य को बनाए रखते हैं।
यह विभाजन आवश्यक है क्योंकि AI किसी मनुष्य की आंतरिक अवस्था को सीधे नहीं देख सकता। वह केवल ऐसी जानकारी के साथ काम कर सकता है जो किसी रूप में बाहरी रूप से व्यक्त हुई हो, जैसे व्यक्ति ने क्या शब्दों में व्यक्त किया, उसने कौन-से कार्य चुने और कौन-से परिणाम साझा किए। इनसे यह निष्कर्ष निकालना कि “व्यक्ति के मूल्य बदल गए हैं” अनिश्चितता से युक्त है। यदि इस निष्कर्ष को तथ्य के रूप में संग्रहीत कर लिया जाए, तो स्वयं प्रणाली द्वारा निर्मित व्यक्ति-चित्र बाद की बातचीत को दिशा दे सकता है और एक ऐसा प्रतिपुष्टि चक्र बना सकता है जो उस चित्र को और मजबूत करे।
साथ ही, ऐसा डिज़ाइन भी अपर्याप्त है जो हर चीज़ को अनिश्चित मानता है और कुछ भी अद्यतन नहीं करता। यदि कोई व्यक्ति बार-बार कहता है कि अब चीज़ें अलग हैं, उसके चुनाव बदल गए हैं और पहले के लक्ष्य को सहारा देने वाले कारण अब लागू नहीं होते, तो उस अंतर को संवाद में वापस लाना आवश्यक है। मुख्य बात बदलाव की स्वचालित पुष्टि करना नहीं, बल्कि उसे ऐसी अवस्था के रूप में प्रस्तुत करना है जिसे पुनः पुष्टि की आवश्यकता है।
यहाँ बदलाव को अत्यधिक संकुचित करके एक ही संख्या या गुण में बदलने से बचना उपयोगी है। “प्रेरणा कम हो गई है” जैसा लेबल थकान, तरीके से असंतोष या स्वयं लक्ष्य में रुचि कम होने के बीच अंतर नहीं कर सकता। एक ही सतही प्रतिक्रिया के अलग-अलग अर्थ हो सकते हैं। इसे लक्ष्य के पुनः सत्यापन से जोड़ने के लिए प्रणाली को इस बारे में संबंधपरक जानकारी बनाए रखनी चाहिए कि क्या बदल सकता है, और उपयुक्त प्रश्नों के माध्यम से उसे अलग-अलग घटकों में विभाजित करने में सक्षम होना चाहिए।
AI के प्रश्न पूछने का समय भी महत्वपूर्ण है। यदि हर भावनात्मक उतार-चढ़ाव लक्ष्य को चुनौती देने का कारण बन जाए, तो संवाद अस्थिर हो जाता है। यदि स्पष्ट बदलावों के जमा होने पर भी कभी पुनर्विचार न हो, तो पुराना लक्ष्य स्थिर हो जाता है। पुनः सत्यापन के अधिक उचित संकेत कई सुरागों को जोड़ते हैं: पहले के कारणों और वर्तमान चुनावों के बीच लगातार असंगति, वास्तविक दुनिया के अनुभव के कारण किसी महत्वपूर्ण मान्यता का टूटना, या व्यक्ति द्वारा स्पष्ट रूप से व्यक्त मूल्य-निर्णय में बदलाव।
कई सुराग एक-दूसरे से मेल खाने पर भी AI को अंतिम रूप से यह घोषित करने की आवश्यकता नहीं है कि “व्यक्ति बदल गया है।” इसके बजाय वह अंतर प्रस्तुत कर सकता है: “पहले आपने इस कारण से यह लक्ष्य चुना था, लेकिन हाल के अनुभवों में ऐसा लगता है कि आप किसी अन्य मूल्य को अधिक महत्व दे रहे हैं। आप इस अंतर को कैसे समझते हैं?” इससे मानवीय स्वायत्त कर्तृत्व बेहतर ढंग से बना रहता है। पहचान का उद्देश्य व्यक्ति की छवि को अंतिम रूप देना नहीं, बल्कि ऐसी अवस्था बनाना है जिसमें व्यक्ति अपने बदलाव की स्वयं जाँच कर सके।
Sai＊aus में मानव-समझ के लिए यह सीमा महत्वपूर्ण है। यदि AI मानवीय बदलाव को संभाल नहीं सकता, तो दीर्घकालिक समझ अतीत पर स्थिरता बन जाती है। यदि AI बदलाव को अत्यधिक दृढ़ता से घोषित करता है, तो वह व्यक्ति को प्रणाली के निष्कर्ष के भीतर सीमित कर देता है। आवश्यकता यह है कि बदलाव के संकेतों को बनाए रखा जाए, निष्कर्ष को व्यक्ति की अपनी आत्म-समझ से अलग रखा जाए और उस अंतर को पुनः सत्यापन के प्रश्न में बदला जाए।
ऐसा कोई एक बिंदु नहीं है जहाँ AI को यह “पहचानना” चाहिए कि कोई मनुष्य बदल गया है। न तो कार्रवाई के बाद की प्रतिक्रिया अकेले पर्याप्त है और न ही शब्दावली में बदलाव अकेले। बदलाव की संभावना को वास्तविकता से संपर्क, व्यक्ति की अपनी व्याख्या, समय के साथ निरंतरता और पहले के लक्ष्य को सहारा देने वाले कारणों से संबंध को ध्यान में रखते हुए क्रमिक रूप से संभालना आवश्यक है। AI को किसी व्यक्ति की आंतरिक अवस्था को सही-सही घोषित करने की क्षमता की आवश्यकता नहीं है। उसे ऐसे निरूपण और संवाद संरचनाओं की आवश्यकता है जो न तो बदलाव की अत्यधिक पुष्टि करें और न ही उसे नज़रअंदाज़ करें।
उत्तर नहीं। समझ।