Nếu AI được giao mục tiêu “tăng gấp đôi doanh số”, nó có thể phân rã các biện pháp cần thiết để đạt mục tiêu và so sánh các phương án trong khi cân nhắc nguồn lực và thời gian. Nhưng ngay cả cùng một mục tiêu tăng gấp đôi doanh số cũng có thể xuất phát từ những lý do khác nhau. Đó là điều cần thiết để duy trì khả năng tồn tại của doanh nghiệp, để tài trợ cho một khoản đầu tư mới, để bắt kịp đối thủ cạnh tranh, hay vì bản thân sự tăng trưởng của tổ chức được coi là thành công? Ý nghĩa của mục tiêu thay đổi theo lý do.
Nếu chỉ xử lý mục tiêu, những khác biệt này sẽ bị đẩy ra ngoài cùng một hàm mục tiêu. AI có thể tìm kiếm một cách hợp lý những phương thức để tiến gần đến con số đã cho mà không thể xử lý lý do tại sao con số đó lại cần thiết. Khi các điều kiện trong thế giới thực thay đổi, nó có thể giữ nguyên mục tiêu và chỉ điều chỉnh phương tiện. Tuy nhiên, nếu lý do nâng đỡ mục tiêu đã không còn, việc tái xác nhận mục tiêu có thể cần được thực hiện trước khi cải thiện phương tiện.
Giả sử lý do để mở rộng doanh số là “đảm bảo đủ lợi nhuận để duy trì việc làm hiện tại”. Sau đó, chi phí cố định giảm xuống và việc làm có thể được duy trì với mức doanh số thấp hơn đáng kể. Khi đó, tính cần thiết của mục tiêu tăng gấp đôi doanh số đã thay đổi. Ngược lại, nếu lý do là “tạo nguồn vốn đầu tư để đưa dịch vụ đến một khu vực mới”, cùng một thay đổi về điều kiện có thể dẫn đến một phán đoán khác. Tính hợp lý của một mục tiêu không thể được đánh giá chỉ từ bản thân mục tiêu.
Vì vậy, “tại sao lại là mục tiêu này?” không phải là lời giải thích bổ sung mà là một phần của cấu trúc suy luận. Nếu mục tiêu và lý do được liên hệ với nhau một cách rõ ràng, ta có thể thấy giả định nào đã bị thực tế sau hành động tác động. Nếu lý do vẫn còn, nó tạo cơ sở để tiếp tục mục tiêu; nếu lý do thay đổi, điều đó có thể kích hoạt việc tái xác nhận. Không nên chỉ hỏi lý do một lần rồi cố định nó. Bản thân lý do cũng phải được xử lý như một điều có thể thay đổi theo thời gian và trải nghiệm.
Hơn nữa, con người không phải lúc nào cũng có thể giải thích đầy đủ lý do của mình ngay từ đầu. Một người có thể nói rằng họ “muốn phát triển”, nhưng qua đối thoại và hành động, có thể trở nên rõ ràng rằng họ muốn có nhiều thời gian tự do hơn, được người khác công nhận hoặc tạo ra ảnh hưởng xã hội rộng hơn. Nếu AI cố định lời giải thích đầu tiên như động cơ thực sự, những hiểu biết xuất hiện sau đó sẽ bị coi là ngoại lệ.
Vai trò của suy luận ở đây không phải là đoán một động cơ ẩn giấu của con người. Đó là sắp xếp những điểm không khớp giữa mục tiêu và lý do đã được nêu rõ, những phản ứng xuất hiện sau hành động và những thay đổi về điều kiện, để người đó có thể mô tả lại lý do. Thay vì chẩn đoán rằng “điều bạn thực sự muốn là sự công nhận”, AI có thể hỏi: “Ban đầu bạn đưa ra sự phát triển làm lý do, nhưng những lựa chọn gần đây của bạn lại ưu tiên thời gian tự do. Sự khác biệt này có ảnh hưởng đến mục tiêu không?”
Điều này cũng không có nghĩa là làm cho suy luận sâu vô hạn. Nếu mọi mục tiêu nhỏ đều bị truy vấn vô tận về lý do, hành động sẽ trở nên bất khả thi. Cần xử lý sâu hơn ở những trường hợp mà việc kiểm tra lại lý do có thể thay đổi phán đoán — chẳng hạn khi chi phí thay đổi mục tiêu cao, tác động dài hạn lớn hoặc thực tế đã phản hồi một khác biệt quan trọng. Nguồn lực suy luận nên được phân bổ theo tầm quan trọng và mức độ bất định của mục đích.
Trong Biểu diễn Hiệu suất Nội bộ của Sai＊aus, việc liên hệ “người đó muốn làm gì” với “tại sao họ muốn làm điều đó” ở mức độ cần thiết cũng có giá trị. Chỉ giữ một mục tiêu cô đọng giúp giảm xử lý, nhưng lại làm mất cơ sở cần thiết để kiểm tra tính hợp lý về sau. Giữ lại mọi chi tiết bối cảnh cũng không phải là câu trả lời. Thiết kế phải bảo tồn những lý do và giả định có thể làm thay đổi phán đoán trong tương lai, đồng thời nén những gì không cần phải giữ lại.
Đối với AI hỗ trợ đạt mục tiêu, việc hiểu chính xác mục đích được đưa ra là điều quan trọng. Nhưng nếu mục đích của con người có thể thay đổi, đối tượng cần hiểu không thể chỉ là câu chữ của mục tiêu. Chỉ khi đồng thời biểu diễn những lý do nào nâng đỡ mục tiêu và những thay đổi điều kiện nào sẽ đòi hỏi tái xác nhận, mới có thể đưa thực tế sau hành động trở lại với mục đích.
Hỏi “tại sao lại là mục tiêu này?” trước khi tối ưu hóa không chỉ là một cách để nghi ngờ mục tiêu. Nó cũng có thể làm rõ hơn những lý do để tiếp tục. Nếu hành động củng cố lý do, mục tiêu trở nên có cơ sở vững chắc hơn trước. Nếu lý do thay đổi, mục tiêu có thể được mở lại để xem xét. Suy luận nâng cao không chỉ là nhanh chóng đạt tới một mục đích đã cho; nó còn là khả năng phân biệt những điều kiện mà dưới đó mục đích ấy có thể được giữ cố định với những điều kiện mà dưới đó nó cần được đặt câu hỏi lại.
Không phải câu trả lời. Mà là sự thấu hiểu.