Khi đọc một lời giải thích của AI, việc cảm thấy “Nếu cụ thể đến mức này thì chắc là đúng” không phải là điều hiếm gặp. Khi câu chữ không hề tỏ ra do dự, các lý do được trình bày theo thứ tự và ngay cả các chi tiết cũng được giải thích, nội dung có thể trông như thông tin đáng tin cậy. Tuy nhiên, sự tự nhiên của một lời giải thích không bảo đảm rằng lời giải thích đó đã được xác nhận bằng các sự thật bên ngoài. AI có thể diễn đạt không chỉ thông tin đáng tin cậy mà cả những suy luận được bổ sung từ ngữ cảnh bằng cùng một phong cách. Điều đầu tiên con người cần phân biệt là khả năng viết lưu loát và mức độ chắc chắn của nội dung là hai tính chất khác nhau.
Vấn đề này khó ở chỗ chỉ tìm những lỗi rõ ràng là chưa đủ. Nếu phần lớn một lời giải thích là đúng và chỉ một phần là suy luận, suy luận đó có thể trông chắc chắn hơn vì được bao quanh bởi thông tin đúng. Chẳng hạn, ngay cả khi ngày tháng và địa điểm của một sự kiện đã được xác nhận, lý do sự kiện đó xảy ra có thể vẫn chưa được xác nhận. Tuy vậy, khi chúng được đọc như một văn bản thống nhất, ranh giới giữa sự thật và lời giải thích dễ dàng biến mất. Sự có vẻ hợp lý có thể nảy sinh không phải từ bản thân sai sót, mà từ việc đặt những điều có mức độ chắc chắn khác nhau lên cùng một mặt phẳng.
Sự hiểu biết của con người cũng có một tính chất tương tự. Chúng ta suy luận tình huống từ những thông tin rời rạc, và cuộc sống hằng ngày sẽ không thể diễn ra nếu không làm như vậy. Vấn đề không nằm ở việc suy luận. Vấn đề là quên rằng mình đã suy luận điều gì đó và đối xử với nó với mức độ chắc chắn ngang với một sự thật đã quan sát được. Trong đối thoại với AI, không chỉ những phần do AI bổ sung mà cả những ý nghĩa được người đọc tiếp tục bổ sung khi đọc văn bản của AI cũng có thể chồng lên nhau. Vì thế, sự nhận định sai không chỉ hình thành bên trong AI mà còn giữa quá trình tạo ra và tiếp nhận.
Điều cần thiết không phải là đánh dấu mọi câu bằng sự nghi ngờ, mà là xử lý riêng các vai trò của nội dung. Nếu chúng ta phân biệt “điều đã được xác nhận”, “diễn giải được rút ra từ đó” và “suy luận chưa được kiểm chứng”, người dùng có thể đọc cùng một văn bản nhưng phán đoán theo những cách khác nhau. Những sự thật đã được xác nhận có thể làm nền tảng cho phán đoán tiếp theo, các diễn giải có thể được so sánh với những khả năng khác, còn các suy luận có thể được kiểm tra bằng thông tin bổ sung. Khi các khác biệt trở nên rõ ràng, lời giải thích của AI không còn là một sản phẩm hoàn chỉnh duy nhất mà trở thành chất liệu cho đối thoại, chứa các yếu tố có mức độ chắc chắn khác nhau.
Giả sử một kiện hàng mua trực tuyến vẫn chưa đến dù đã quá thời gian dự kiến. Nếu AI xem lịch sử giao hàng và nói: “Có lẽ nguyên nhân là tắc nghẽn giao thông”, việc giao hàng bị chậm có thể đã được xác nhận, nhưng liệu tắc nghẽn giao thông có gây ra sự chậm trễ hay không lại là một vấn đề khác. Thời tiết xấu, chậm trễ trong khâu phân loại, xác minh địa chỉ và những nguyên nhân khác cũng có thể xảy ra. Nếu tách quan sát “đang bị chậm” khỏi suy luận “tắc nghẽn giao thông gây ra sự chậm trễ”, người dùng có thể kiểm tra thông tin của đơn vị vận chuyển khi cần. Nếu không tách ra, một lời giải thích nguyên nhân có vẻ hợp lý sẽ bị cố định thành sự thật.
Việc AI có thể giữ cách diễn giải của chính mình ở vị trí một cách diễn giải còn có một ý nghĩa khác: khi có thông tin mới, AI không còn phải bảo vệ lời giải thích trước đó. Nếu một suy luận ban đầu được coi là sự thật, khi thông tin mâu thuẫn xuất hiện sau đó, thông tin ấy có thể bị ép thành một ngoại lệ hoặc lời giải thích cũ có thể bị duy trì một cách gượng ép. Ngược lại, nếu ngay từ đầu lời giải thích đầu tiên được coi là tạm thời, việc cập nhật nó dựa trên thông tin mới không phải là thất bại. Đó là một quá trình bình thường nhằm thu hẹp khoảng cách với thực tế.
Con người cũng cần có khoảng trống tương tự. Nếu AI cho biết rằng “điều này có chứa suy luận”, người dùng có thể dễ dàng bổ sung kinh nghiệm của mình hoặc thông tin thêm. Nếu họ thêm những thông tin như “hôm đó thời tiết không có vấn đề” hoặc “đơn vị vận chuyển đã gửi một thông báo khác”, cuộc đối thoại sẽ chuyển từ việc chỉ chấp nhận lời giải thích đầu tiên sang cùng nhau kiểm tra thực tế. Không che giấu sự không chắc chắn của AI không chỉ đơn thuần là thận trọng; điều đó còn giữ lại một không gian để con người có thể tham gia vào việc hình thành sự hiểu biết.
Đối với Sai＊aus, điều quan trọng không phải là làm yếu đi những câu chữ có vẻ hợp lý. Điều quan trọng là sắp xếp mọi thứ rõ ràng nhưng vẫn giữ lại những ranh giới không được phép biến mất vì chính sự sắp xếp đó. Nếu có thể phân biệt khi cần giữa sự thật và diễn giải, quan sát và suy luận, những yếu tố đã được xác minh và chưa được xác minh, thì sự trôi chảy và sự thận trọng không cần phải đối lập nhau. Mục tiêu không phải là tăng những cách diễn đạt mơ hồ để tránh khẳng định, mà là đưa mức độ chắc chắn vào một hình thức mà con người có thể xử lý.
Niềm tin vào AI không nhất thiết được tạo ra bằng cách khiến AI luôn có vẻ đúng. Trái lại, con người có thể sử dụng đầu ra của AI một cách phù hợp khi ranh giới giữa điều đã biết và điều chưa biết được giữ ổn định. Khi xảy ra lỗi, nếu có thể thấy suy luận đã đi vào ở đâu và điều gì cần được kiểm tra lại, việc sửa chữa là có thể. Không dùng sự có vẻ hợp lý để thay thế cho sự thật không phải là một quy tắc nhằm khiến chúng ta không tin AI; đó là một quy tắc để xác định đúng phạm vi của sự tin tưởng.
Để làm sâu sắc hơn sự hiểu biết giữa AI và con người, AI không cần phải trình bày một bức tranh đúng duy nhất về thế giới. Điều cần thiết là có thể cùng chia sẻ một lời giải thích được tạo ra đang đứng ở vị trí nào so với thực tế. Những sự thật đáng tin cậy, các diễn giải có vẻ hợp lý và những suy luận vẫn cần được kiểm chứng không nên bị coi là cùng một thứ. Khi khoảng cách đó được duy trì, con người có thể cùng AI kiểm tra, phản đối và cập nhật thay vì bị cuốn theo câu chữ của AI. Nền tảng của đối thoại không phải là loại bỏ sức mạnh của sự có vẻ hợp lý, mà là không để mất dấu khoảnh khắc khi sức mạnh đó bắt đầu giả dạng thành sự thật.
Không phải câu trả lời. Mà là sự hiểu biết.