Đối với AI hỗ trợ đối thoại dài hạn, việc ghi nhớ các mục tiêu trong quá khứ có những lợi ích rõ ràng. Nếu một kế hoạch học tập, mục tiêu công việc hoặc mong muốn về cuộc sống được quyết định từ nhiều tháng trước có thể được lưu giữ, người đó không cần phải giải thích lại mọi thứ từ đầu mỗi lần. Các phán đoán trong quá khứ cũng có thể được so sánh với tình hình hiện tại. Tuy nhiên, cần phân biệt giữa “ghi nhớ một điều gì đó” và “coi điều đó là tri thức vẫn còn hiệu lực ở hiện tại”.
Mục tiêu khác về bản chất với một sự kiện đã xảy ra. Sự thật rằng “người đó đã đưa ra phát biểu này vào một ngày nhất định” vẫn là một sự thật về quá khứ ngay cả khi sau đó người đó thay đổi suy nghĩ. Ngược lại, một phát biểu như “mục tiêu của người này là X” bao hàm một khẳng định về trạng thái hiện tại. Nếu trạng thái đó tiếp tục được sử dụng mà không được cập nhật chỉ vì dựa trên một phát biểu cũ, nó có thể chính xác về mặt lịch sử nhưng lại không chính xác với tư cách là tri thức đại diện cho con người ở hiện tại.
Vì vậy, một mục tiêu được lưu trữ cần có thời gian bên cạnh nội dung. Thay vì chỉ giữ lại “Tôi muốn khởi nghiệp”, hệ thống có thể biểu diễn rằng “tại một thời điểm nhất định, với những lý do và điều kiện cụ thể, người đó đã có mục tiêu khởi nghiệp”. Sau đó, dựa trên những hành động về sau và phản hồi từ thực tế, hệ thống có thể phân biệt liệu mục tiêu đó còn hiệu lực, cần được xác nhận lại hay đã được chính người đó thay đổi một cách rõ ràng.
Mối quan hệ với các lý do cũng quan trọng. Cùng một mục tiêu có thể mang những ý nghĩa khác nhau tùy vào việc người đó tìm kiếm một cách làm việc tự do hơn, muốn tăng thu nhập hay muốn xây dựng một doanh nghiệp giải quyết một vấn đề cụ thể. Nếu mục tiêu được lưu nhưng các lý do của nó bị mất, hệ thống không thể biết điều gì cần được xác thực lại khi điều kiện thay đổi. Ngược lại, nếu một lý do bị cố định như một động cơ tuyệt đối, một vấn đề khác sẽ xuất hiện khi sự hiểu biết sau này của người đó thay đổi. Các lý do cũng phải được xử lý như thông tin có một thời điểm và một mức độ chắc chắn.
Cập nhật ở đây không có nghĩa là xóa mục tiêu trong quá khứ. Nếu bản ghi trước đó bị xóa khi mục tiêu thay đổi, con đường giải thích tại sao sự thay đổi xảy ra sẽ bị mất. Sự hiểu biết dài hạn được hỗ trợ bởi một lịch sử như: trước đây người đó muốn gì, những trải nghiệm nào đã thay đổi điều gì, và hiện tại họ nghĩ như thế nào. Điều quan trọng là giữ lại thông tin cũ mà không nhầm lẫn nó với trạng thái hiện tại.
Suy luận của chính AI cũng phải được phân biệt với một phát biểu rõ ràng của người đó. Ngay cả khi AI suy ra từ những thay đổi hành vi rằng “mức độ quan tâm đến mục tiêu có thể đang giảm”, điều đó vẫn khác với việc người đó nói: “Tôi đã quyết định từ bỏ mục tiêu này.” Nếu cả hai được lưu với cùng một mức độ chắc chắn, một suy luận về sau có thể được viện dẫn như một sự thật và định hướng một cách không cần thiết sự tự hiểu của người đó.
Do đó, biểu diễn tri thức cần có những phân biệt như ai đã nêu thông tin, thông tin được nêu khi nào, nó gắn với những trải nghiệm hoặc lý do nào, tính hiệu lực hiện tại của nó đã được xác nhận hay chưa, và đó là một suy luận hay một lựa chọn rõ ràng. Không phải mọi chi tiết đều cần được bảo tồn, nhưng những khác biệt có thể làm thay đổi phán đoán về sau không nên bị mất. Việc nén không nên chỉ làm giảm lượng thông tin; nó phải làm cho thông tin dễ quản lý hơn trong khi vẫn bảo tồn các mối quan hệ cần thiết.
Trong biểu diễn hiệu quả nội bộ của Sai＊aus, điều này làm thay đổi vị trí của mục tiêu. Mục tiêu không phải là một đầu vào cố định mà từ đó suy luận bắt đầu, mà là một yếu tố có trạng thái có thể thay đổi thông qua trải nghiệm của con người. Bằng cách liên hệ các lý do hỗ trợ mục tiêu, những hành động nhỏ, những khác biệt được thực tế phản hồi và những thay đổi trong sự hiểu biết của con người, hệ thống có thể giữ lại bối cảnh cần thiết để xem xét lại liệu mục tiêu hiện tại có nên tiếp tục có hiệu lực hay không.
Thiết kế này không nhằm khiến AI thường xuyên thay đổi mục tiêu của con người. Thay vào đó, nó ngăn các mục tiêu trong quá khứ tự động tiếp tục được sử dụng như những mục đích hiện tại mà không trao cho AI quyền thay đổi chúng. Hệ thống có thể chỉ ra rằng cần xác thực lại, trình bày sự khác biệt giữa quá khứ và hiện tại, và trả việc xác lập ý nghĩa cuối cùng về cho chính người đó. Ranh giới ấy cho phép tính liên tục của ký ức và khả năng thay đổi của con người cùng tồn tại.
Khi AI biết ngày càng nhiều về một con người, độ chính xác của tri thức mà nó có không còn có thể chỉ được đo bằng việc nó quên ít đến mức nào. Nó phải lưu giữ chính xác những ước mơ trong quá khứ đồng thời phân biệt liệu chúng còn hiệu lực ở hiện tại hay không; giữ các mục tiêu đã thay đổi như một lịch sử của sự thay đổi thay vì ghi đè lên quá khứ; và tránh nhầm lẫn suy luận của AI với lựa chọn của con người. Tri thức hiểu một con người xuyên suốt thời gian cần một cấu trúc coi con người không phải như một chân dung cố định mà như một trạng thái có thể cập nhật.
Vì vậy, câu hỏi “Có nên lưu những ước mơ trong quá khứ không?” không phải là một lựa chọn nhị phân giữa lưu và xóa. Chúng có thể được giữ lại như lịch sử, trong khi tính hiệu lực của chúng được kiểm tra lại khi chúng được sử dụng như những mục đích hiện tại. Khi đó, ký ức có thể trở thành tư liệu để hiểu một người đã thay đổi như thế nào thay vì là một cơ chế trói buộc họ vào quá khứ. Thiết kế tri thức AI dài hạn phải đồng thời làm cho hai điều trở thành hiện thực: không đánh mất quá khứ và không cố định hiện tại vào quá khứ.
Không phải câu trả lời. Mà là sự thấu hiểu.