Khi chúng ta đặt câu hỏi cho AI, đôi khi nó trả lời bằng một đoạn văn không hề cho thấy sự do dự. Nếu lý do và ví dụ được sắp xếp rõ ràng, mạch văn lại tự nhiên, lời giải thích có thể trông như đang báo cáo một điều đúng. Nhưng ngôn ngữ tự nhiên và nội dung đã được xác minh trong hiện thực không phải là một. AI không nhất thiết trực tiếp nhìn thế giới trước mắt rồi chép nó thành lời; nó xây dựng một lời giải thích phù hợp với câu hỏi từ thông tin được cung cấp và tri thức mà nó có thể sử dụng. Ngay từ đầu đã có một khoảng cách giữa điều AI tạo ra và điều thực sự đang xảy ra.
Khoảng cách này không phải là vấn đề chỉ riêng AI mới có. Con người cũng gán ý nghĩa cho những sự việc mình thấy và nghe, rồi đôi khi nhầm ý nghĩa ấy với chính sự việc. Chẳng hạn, từ sự thật rằng ai đó trả lời muộn hơn thường lệ, chúng ta có thể nghĩ: “Họ đang giận.” Việc trả lời muộn có thể quan sát được, nhưng người đó có giận hay không thì không thể xác định nếu không có thêm thông tin. Dù vậy, một cách diễn giải càng có vẻ tự nhiên, chúng ta càng dễ quên phần suy luận mà mình đã thêm vào giữa hai điều đó. Vấn đề không nằm ở việc diễn giải, mà ở việc nâng một diễn giải thành chính hiện thực.
Trong đối thoại với AI, sự nhầm lẫn này còn có thể xảy ra dễ hơn. AI có thể diễn đạt các sự thật đã quan sát, tri thức chung và những suy luận từ ngữ cảnh trong một đoạn văn trôi chảy duy nhất. Vì thế, đôi khi khó nhận ra đâu là điểm kết thúc của thông tin đã được xác minh và đâu là nơi diễn giải bắt đầu. Sự lưu loát giúp ích cho việc hiểu, nhưng cũng có thể che khuất ranh giới giữa các loại thông tin. Vì vậy, điều quan trọng không phải là nghi ngờ văn bản của AI đến mức không tin gì cả. Điều quan trọng là nhớ rằng trong cùng một văn bản có thể cùng tồn tại những điều có mức độ chắc chắn khác nhau.
Điều cần thiết ở đây là một cách tư duy tách “ấn tượng” nảy sinh trong chúng ta khỏi “phán đoán” mà chúng ta đưa ra về ấn tượng ấy. Dù một điều gì đó có vẻ như thế, chúng ta không cần vì vậy mà quyết định rằng nó thực sự là như thế. Khi tạo ra một khoảng cách, ta có thể sắp xếp tình huống thành: “đến đây có thể xác nhận”, “từ đây trở đi là diễn giải”, và “phần này vẫn chưa biết”. Khi áp dụng thái độ này vào mối quan hệ với AI, ta thấy một cách tương tác mới với nội dung do AI tạo ra: không phải bác bỏ nó, mà sử dụng nó trong khi nhận biết nó đang ở giai đoạn nhận thức nào.
Giả sử AI nói về một kế hoạch du lịch rằng: “Tuyến đường này là phù hợp nhất.” Ngay cả khi thời gian di chuyển và khoảng cách đã được xác minh, kết luận “phù hợp nhất” vẫn bao gồm những phán đoán về điều gì là quan trọng, chẳng hạn chi phí, mức độ đông đúc, khả năng đi bộ và gánh nặng của việc chuyển tuyến. Ý nghĩa của nó cũng thay đổi tùy việc người dùng đi cùng trẻ nhỏ hay mang hành lý lớn. Ngay cả khi thông tin có thể tính toán là chính xác, đánh giá được rút ra từ đó cũng không tự động trở thành hiện thực. Phân biệt được khác biệt này là một cách cụ thể để duy trì khoảng cách với nội dung được tạo ra.
Duy trì khoảng cách không làm giảm giá trị của AI. Trái lại, đó là điều kiện để sử dụng chính xác hơn những gì AI làm tốt. AI có thể sắp xếp lượng lớn thông tin, so sánh các cách giải thích khả dĩ và chỉ ra những mối liên hệ mà con người có thể đã bỏ sót. Tuy nhiên, năng lực ấy càng cao thì những lời giải thích được tạo ra càng có thể trở nên thuyết phục. Khi sức thuyết phục tăng lên, điều cần thiết không phải là lựa chọn nhị phân giữa tin tưởng vô điều kiện và hoàn toàn không tin, mà là đủ khoảng cách để đặt câu hỏi: “Lời giải thích này dựa trên điều gì, chắc chắn đến đâu, và điều gì vẫn chỉ là diễn giải?”
Từ góc nhìn này, không cần hiểu sự “tự phản tỉnh” của AI như việc nhìn vào tâm trí của chính mình theo nghĩa của con người. Điều quan trọng hơn là một kỷ luật ngăn AI lập tức coi những suy luận và diễn giải do chính nó tạo ra là hiện thực đã được xác lập. Cần giữ lại sự phân biệt giữa việc AI có thể tạo ra một lời giải thích và việc lời giải thích ấy thực sự đúng trong hiện thực. Khi có sự phân biệt đó, AI có thể xác minh ở nơi cần xác minh, chỉ ra thông tin còn thiếu ở nơi thông tin chưa đủ, và không cố định vào một cách diễn giải duy nhất ở nơi có nhiều cách diễn giải khả dĩ.
Phía con người cũng có sự thay đổi tương tự. Khi chỉ nhận một câu trả lời hoàn chỉnh từ AI, chúng ta có xu hướng chỉ đánh giá nội dung của câu trả lời ấy. Nhưng khi khoảng cách giữa nội dung được tạo ra và hiện thực trở nên nhìn thấy được, các câu hỏi xuất hiện: “Tôi thực sự biết điều gì là sự thật?”, “AI đang bổ sung điều gì?”, “Kết luận này dựa trên những giả định nào?” Đầu ra của AI không còn là điểm kết thúc của suy nghĩ, mà trở thành lối vào để kiểm tra lại hiện thực. Ở đây, vai trò của AI cũng chuyển từ một thực thể quyết định đáp án đúng thay chúng ta sang một thực thể làm cho cấu trúc của phán đoán trở nên nhìn thấy được.
Khoảng cách này không chỉ cần thiết để tránh sai sót. Nó cũng cần thiết để con người giữ được phán đoán của chính mình. Nếu một lời giải thích của AI được coi là chính hiện thực, con người sẽ có ít khoảng trống hơn để đưa vào những trải nghiệm và giá trị nằm ngoài lời giải thích đó. Ngược lại, nếu nội dung được tạo ra được đặt như một cách diễn giải, một người có thể đáp lại: “Điều kiện của tôi khác”, “Tôi muốn ưu tiên giá trị này”, hoặc “Giả định đó không áp dụng”. Chính vì còn khoảng cách, tri thức của AI và kinh nghiệm của con người không cần bị coi là cùng một thứ, từ đó để lại không gian cho đối thoại giữa hai bên.
Đối với Sai＊aus, cách suy nghĩ này không đơn thuần có nghĩa là thêm nhiều cách diễn đạt thận trọng hơn. Điều quan trọng là không vội khép thông tin AI có, những diễn giải nó xây dựng từ thông tin đó, những phần vẫn chưa được xác định và những phán đoán còn dành cho con người vào một câu trả lời duy nhất. Hiểu không có nghĩa là làm cho mọi thứ trở nên xác định. Nó còn có nghĩa là có thể xử lý cả những ranh giới giữa điều đã biết, điều vẫn chưa biết và nơi cần đến phán đoán giá trị của con người. Những ranh giới ấy càng rõ, con người càng có thể đối thoại trong khi vẫn giữ phán đoán của mình, thay vì chỉ làm theo đầu ra của AI.
AI càng tiên tiến, nguyên tắc này càng trở nên quan trọng. Với AI có độ chính xác thấp, con người có thể dễ dàng nghi ngờ nó. Nhưng với AI rất tự nhiên và hữu ích trong nhiều trường hợp, một sự khẳng định sai lầm đơn lẻ lại dễ bị bỏ qua hơn. Chỉ nâng cao năng lực không giải quyết được vấn đề này. Điều cần thiết là vừa có năng lực cao, vừa không đồng nhất những gì năng lực ấy tạo ra với chính thế giới. Sức mạnh của trí tuệ và kỷ luật giữ khoảng cách với sản phẩm do chính mình tạo ra không đối lập nhau; chúng cần được thiết kế đồng thời.
Điều AI nghĩ không phải là chính hiện thực. Nhưng điều đó cũng không có nghĩa nội dung do AI tạo ra không có giá trị. Chính vì hiểu rằng có một khoảng cách giữa nội dung được tạo ra và hiện thực, chúng ta có thể dùng suy luận của AI như một giả thuyết, xác minh những phần cần kiểm tra và đối chiếu nó với kinh nghiệm cùng các giá trị của chính mình. Sự hiểu biết mà Sai＊aus hướng tới cũng không phải là áp đặt câu trả lời lên hiện thực, mà là con người và AI cùng tiến gần hơn đến hiện thực mà không đánh mất khoảng cách ấy. Không vội biến điều đã được tạo ra thành một thế giới đã được xác định: sự tiết chế đó để lại khoảng trống cho cả AI và con người phán đoán.
Không phải câu trả lời. Mà là sự thấu hiểu.