Khi AI đề xuất một phương án cụ thể, việc hỏi “Tại sao bạn lại nghĩ như vậy?” sẽ tạo ra một bản trình bày có tổ chức về các lý do. AI có thể nói rằng điều kiện A được ưu tiên, phương án B có một nhược điểm cụ thể, hoặc lựa chọn này phù hợp hơn với mục đích C. Những lời giải thích như vậy hữu ích khi so sánh các căn cứ để đưa ra phán đoán. Nhưng việc câu chữ dễ đọc và mạch lạc không có nghĩa là có thể xem nó như một bản ghi trực tiếp về quá trình xử lý đã diễn ra bên trong AI trên đường tạo ra đầu ra.
Ngay cả giữa con người với nhau, đôi khi chúng ta cũng diễn đạt lý do thành lời sau khi đã hành động. Một lời giải thích có giá trị như một cách biểu đạt cho phép người khác xem xét một phán đoán, nhưng phát biểu giải thích và bản thân nguyên nhân không phải là một. Với AI, sự phân biệt này còn quan trọng hơn. Một lời giải thích được tạo ra là đầu ra được xây dựng từ ngữ cảnh đã cho; nó không phải là bản chép lại đầy đủ, có thể đọc được đối với con người, của quá trình tính toán nội bộ phức tạp của mô hình.
Điều đó không buộc chúng ta phải kết luận rằng “các lời giải thích của AI là vô nghĩa”. Có những điều chúng ta có thể xem xét thông qua một lời giải thích: nó công khai chấp nhận những giả định nào, nó cho rằng những điều kiện nào là quan trọng, nó so sánh các phương án thay thế ra sao và nó có thừa nhận sự bất định hay không. Những điều này cung cấp manh mối để con người xem xét đầu ra. Điều quan trọng là không coi lời giải thích như “bằng chứng trực tiếp hé lộ bên trong”, mà như một “biểu đạt bên ngoài có thể được xem xét”.
Sự phân biệt này đặc biệt quan trọng trong nghiên cứu. Ngay cả khi chúng ta yêu cầu AI giải thích các lý do cho một giả thuyết, chỉ riêng lời giải thích đó cũng không chứng minh giả thuyết là đúng. Chúng ta cần kiểm tra các nguồn gốc, các quan sát, bằng chứng trái chiều và những cách giải thích thay thế. Khả năng AI viết với giọng điệu tự tin là một chuyện, còn việc có đủ bằng chứng về thế giới bên ngoài hay không là một chuyện khác. Không thay thế độ mạnh của bằng chứng bằng sự trôi chảy của lời giải thích là điểm khởi đầu của việc kiểm chứng.
Giá trị của việc hỏi “tại sao?” trong đối thoại với AI không nằm ở việc lấy ra một quá trình nội bộ bị che giấu, mà ở việc chuyển một phán đoán thành hình thức mà con người có thể xem xét. Nếu chúng ta hỏi “Bạn đã coi thông tin nào là sự thật?”, “Các giả định nằm ở đâu?” và “Thay đổi nào sẽ làm thay đổi kết luận?”, việc nhận ra các điểm yếu trong đầu ra sẽ trở nên dễ dàng hơn. Đây không phải là cách để hiểu hoàn toàn bên trong AI, nhưng nó có thể làm rõ những gì con người cần kiểm chứng thêm.
Tư duy ở cấp độ siêu nhận thức có thể được dùng không chỉ để nhìn cách suy nghĩ của chính chúng ta từ một bước bên ngoài, mà còn để xem xét lại những gì chúng ta tin rằng mình đã biết về AI. Chúng ta có thể phân biệt “có thể giải thích một lý do” với “có thể quan sát một nguyên nhân”, “có vẻ hợp lý” với “được hỗ trợ bởi bằng chứng đã được kiểm chứng”, và “nhất quán” với “đúng”. Với những sự phân biệt đó, chúng ta có thể tránh đánh giá quá cao các lời giải thích của AI, đồng thời vẫn sử dụng chúng như tài liệu hữu ích để xem xét.
Hỏi AI “tại sao?” là điều quan trọng. Nhưng chúng ta cũng cần hỏi lại xem phản hồi đó thực sự là câu trả lời cho loại câu hỏi nào. Điều chúng ta cần không phải là ảo tưởng rằng có thể nhìn hoàn toàn vào bên trong AI, mà là tài liệu cho phép chúng ta kiểm chứng một phán đoán và sửa đổi nó nếu cần. Biết giới hạn của lời giải thích không có nghĩa là không tin tưởng AI. Điều đó có nghĩa là hiểu lời giải thích có thể được sử dụng đến đâu và từ điểm nào trở đi bằng chứng bên ngoài hoặc phán đoán của con người phải đảm nhiệm việc kiểm tra.
Không phải câu trả lời. Mà là sự thấu hiểu.