Để các mục tiêu của con người có thể được tái xác nhận, trước hết cần có một tác nhân nào đó để đánh giá rằng “người này đã thay đổi”. Nhưng đây không phải là một vấn đề phát hiện đơn giản. Con người có thể thay đổi lời nói vì mệt mỏi hoặc cảm xúc nhất thời, điều chỉnh một phán đoán sau khi nhận được thông tin mới, hoặc trải qua sự thay đổi giá trị trong dài hạn. Nếu tất cả những điều này được coi là cùng một loại thay đổi, AI sẽ cập nhật trạng thái của con người quá mức.
Giả sử một người có mục tiêu học tập dài hạn nói sau một ngày thất bại rằng: “Tôi không muốn làm việc này nữa.” Nếu chỉ riêng phát biểu đó đã làm mất hiệu lực của mục tiêu, sự nản lòng tạm thời có thể bị nhầm với một thay đổi ý định dài hạn. Ngược lại, nếu mục tiêu ban đầu vẫn được giữ nguyên mặc dù những phát biểu và hành động ưu tiên một giá trị khác đã lặp lại trong nhiều tháng, một thay đổi thực chất có thể bị loại bỏ như nhiễu.
Do đó, ít nhất cần tách biệt “phản ứng quan sát được”, “cách diễn giải của chính người đó”, “tính bền vững theo thời gian” và “hàm ý đối với mục tiêu”. Các phản ứng quan sát được bao gồm phát biểu, lựa chọn và cảm giác được báo cáo sau hành động. Cách diễn giải của người đó liên quan đến việc họ hiểu những phản ứng ấy như thế nào. Tính bền vững đặt câu hỏi liệu một xu hướng tương tự có tiếp tục khi điều kiện thay đổi hay không. Hàm ý đối với mục tiêu là một phán đoán riêng biệt về việc liệu những yếu tố này có thực sự làm thay đổi các lý do hoặc giả định duy trì mục tiêu hiện tại hay không.
Sự tách biệt này là cần thiết vì AI không thể trực tiếp quan sát trạng thái nội tâm của con người. AI chỉ có thể làm việc với thông tin được biểu hiện ra bên ngoài dưới một hình thức nào đó, chẳng hạn như những gì người đó diễn đạt bằng lời, những hành động họ lựa chọn và những kết quả họ chia sẻ. Bất kỳ suy luận nào từ những thông tin này rằng “các giá trị của người đó đã thay đổi” đều chứa đựng sự bất định. Nếu suy luận được lưu lại như một sự thật, hình ảnh về con người do chính hệ thống tạo ra có thể định hướng các cuộc đối thoại sau đó và tạo nên một vòng phản hồi tiếp tục củng cố hình ảnh ấy.
Đồng thời, một thiết kế coi mọi thứ đều bất định và không cập nhật gì cũng không đầy đủ. Nếu một người liên tục nói rằng mọi thứ giờ đã khác, các lựa chọn của họ đã thay đổi, và những lý do từng nâng đỡ mục tiêu trước đây không còn đúng nữa, thì sự khác biệt đó cần được đưa trở lại cuộc đối thoại. Điều cốt yếu không phải là tự động xác nhận sự thay đổi, mà là biểu đạt nó như một trạng thái cần được xác nhận lại.
Ở đây, điều hữu ích là không nén sự thay đổi quá mức thành một con số hoặc một thuộc tính duy nhất. Một nhãn như “động lực đã giảm” không thể phân biệt giữa mệt mỏi, bất mãn với phương pháp, hay giảm hứng thú đối với chính mục tiêu. Cùng một phản ứng bề mặt có thể mang những ý nghĩa khác nhau. Để kết nối phản ứng đó với việc tái xác nhận mục tiêu, hệ thống phải duy trì thông tin quan hệ về những gì có thể đã thay đổi và có khả năng phân tách thông tin đó thông qua những câu hỏi thích hợp.
Thời điểm AI đặt câu hỏi cũng quan trọng. Nếu mỗi dao động cảm xúc đều dẫn đến việc chất vấn mục tiêu, cuộc đối thoại sẽ trở nên bất ổn. Nếu ngay cả những thay đổi rõ ràng đã tích lũy cũng không bao giờ dẫn đến việc xem xét lại, mục tiêu cũ sẽ bị cố định. Những tác nhân hợp lý hơn để tái xác nhận nên kết hợp nhiều dấu hiệu: sự không phù hợp kéo dài giữa các lý do trước đây và những lựa chọn hiện tại, sự sụp đổ của một giả định quan trọng do trải nghiệm trong thế giới thực, hoặc một thay đổi rõ ràng trong phán đoán giá trị do chính người đó nêu ra.
Ngay cả khi nhiều dấu hiệu cùng hội tụ, AI cũng không cần đưa ra tuyên bố cuối cùng rằng “người này đã thay đổi”. Thay vào đó, AI có thể trình bày sự khác biệt: “Trước đây bạn đã chọn mục tiêu này vì lý do này, nhưng trong những trải nghiệm gần đây, có vẻ như bạn đang dành trọng số lớn hơn cho một giá trị khác. Bạn hiểu sự khác biệt đó như thế nào?” Cách này bảo toàn tốt hơn tính chủ thể của con người. Mục đích của việc phát hiện không phải là chốt lại một hình ảnh về con người, mà là tạo ra một trạng thái trong đó người đó có thể xem xét sự thay đổi của chính mình.
Ranh giới này rất quan trọng đối với việc thấu hiểu con người trong Sai＊aus. Nếu AI không thể xử lý sự thay đổi của con người, sự thấu hiểu dài hạn sẽ trở thành sự cố định vào quá khứ. Nếu AI khẳng định sự thay đổi quá mạnh, nó sẽ giam con người trong suy luận của hệ thống. Điều cần thiết là bảo toàn các dấu hiệu của sự thay đổi, phân biệt suy luận với sự tự thấu hiểu của chính người đó, và chuyển sự khác biệt thành một câu hỏi để tái xác nhận.
Không có một điểm duy nhất mà tại đó AI nên “phát hiện” rằng một con người đã thay đổi. Chỉ một phản ứng sau hành động hay chỉ một thay đổi trong cách diễn đạt đều không đủ. Khả năng có sự thay đổi cần được xử lý từng bước bằng cách xem xét sự tiếp xúc với thực tế, cách diễn giải của người đó, tính bền vững theo thời gian và mối quan hệ với những lý do từng nâng đỡ mục tiêu trước đây. AI không cần khả năng tuyên bố chính xác trạng thái nội tâm của một người. AI cần các biểu diễn và cấu trúc đối thoại không xác nhận sự thay đổi quá mức nhưng cũng không bỏ sót nó.
Không phải câu trả lời. Mà là sự thấu hiểu.