Ketika kita mengajukan pertanyaan kepada AI, AI dapat memberikan jawaban tanpa keraguan yang terlihat. Jika alasan dan contohnya tersusun dengan baik dan alurnya alami, penjelasan itu dapat tampak seolah-olah sedang melaporkan sesuatu yang benar. Namun, bahasa yang alami dan isi yang telah diverifikasi dalam realitas bukanlah hal yang sama. AI tidak selalu melihat langsung dunia di hadapannya lalu menyalinnya menjadi kata-kata; AI menyusun penjelasan yang sesuai dengan pertanyaan berdasarkan informasi yang diberikan kepadanya dan pengetahuan yang tersedia. Sejak awal, ada jarak antara apa yang dihasilkan AI dan apa yang benar-benar terjadi.
Jarak ini bukan masalah yang hanya dimiliki AI. Manusia juga memberi makna pada peristiwa yang mereka lihat dan dengar, dan terkadang mencampuradukkan makna itu dengan peristiwa itu sendiri. Misalnya, dari fakta bahwa seseorang membalas lebih lambat dari biasanya, kita mungkin berpikir, “Dia sedang marah.” Balasan yang terlambat dapat diamati, tetapi apakah orang itu marah tidak dapat dipastikan tanpa informasi lain. Meski demikian, semakin alami suatu interpretasi terasa, semakin mudah kita melupakan inferensi yang kita tambahkan di antaranya. Masalahnya bukan pada interpretasi itu sendiri, melainkan pada mengangkat suatu interpretasi menjadi realitas itu sendiri.
Dalam dialog dengan AI, kekeliruan ini dapat terjadi dengan lebih mudah lagi. AI dapat mengungkapkan fakta yang diamati, pengetahuan umum, dan inferensi dari konteks dalam satu rangkaian tulisan yang lancar. Akibatnya, kita dapat kesulitan melihat di mana informasi yang telah diverifikasi berakhir dan interpretasi dimulai. Kelancaran membantu pemahaman, tetapi juga dapat menyembunyikan batas antara berbagai jenis informasi. Karena itu, yang penting bukanlah mencurigai teks AI dan tidak mempercayai apa pun. Yang penting adalah mengingat bahwa hal-hal dengan tingkat kepastian yang berbeda dapat hidup berdampingan dalam teks yang sama.
Yang dibutuhkan di sini adalah cara berpikir yang memisahkan “kesan” yang muncul dalam diri kita dari “penilaian” yang kita buat terhadap kesan itu. Walaupun sesuatu tampak dengan cara tertentu, kita tidak harus memutuskan bahwa sesuatu itu memang demikian. Dengan menciptakan jarak, kita dapat menata situasinya menjadi: “sampai di sini dapat dikonfirmasi,” “mulai dari sini adalah interpretasi,” dan “bagian ini masih belum diketahui.” Ketika diterapkan pada hubungan kita dengan AI, sikap ini menunjukkan cara baru berinteraksi dengan konten yang dihasilkan AI: bukan menolaknya, melainkan menggunakannya sambil melihat pada tahap pengetahuan mana konten itu berada.
Misalkan AI mengatakan tentang sebuah rencana perjalanan, “Rute ini paling sesuai.” Meskipun waktu tempuh dan jaraknya telah diverifikasi, kesimpulan “paling sesuai” mencakup penilaian tentang apa yang dianggap penting, seperti biaya, kepadatan, kemudahan berjalan kaki, dan beban berpindah kendaraan. Maknanya juga berubah tergantung apakah pengguna bepergian bersama anak kecil atau membawa bagasi besar. Bahkan ketika informasi yang dapat dihitung itu benar, evaluasi yang diturunkan darinya tidak otomatis menjadi realitas. Membedakan perbedaan ini merupakan cara konkret untuk menjaga jarak dari konten yang dihasilkan.
Menjaga jarak tidak mengurangi nilai AI. Sebaliknya, hal itu merupakan syarat untuk menggunakan dengan lebih tepat apa yang dilakukan AI dengan baik. AI dapat mengatur informasi dalam jumlah besar, membandingkan penjelasan yang mungkin, dan menunjukkan hubungan yang mungkin terlewat oleh manusia. Namun, semakin besar kemampuan itu, semakin meyakinkan pula penjelasan yang dihasilkan. Ketika daya meyakinkan meningkat, yang dibutuhkan bukan pilihan biner antara kepercayaan tanpa syarat dan ketidakpercayaan total, melainkan jarak yang cukup untuk bertanya: “Penjelasan ini didasarkan pada apa, seberapa pasti penjelasan ini, dan apa yang masih merupakan interpretasi?”
Dari sudut pandang ini, “refleksi diri” AI tidak perlu dipahami sebagai melihat ke dalam pikirannya sendiri dalam pengertian manusia. Yang lebih penting adalah disiplin yang mencegah AI segera memperlakukan penalaran dan interpretasi yang dihasilkannya sendiri sebagai realitas yang telah pasti. AI harus mempertahankan perbedaan antara mampu menghasilkan suatu penjelasan dan penjelasan itu benar-benar berlaku dalam realitas. Dengan perbedaan tersebut, AI dapat melakukan verifikasi ketika verifikasi diperlukan, menunjukkan informasi yang kurang ketika informasi tidak memadai, dan menghindari menetapkan satu interpretasi ketika beberapa interpretasi dimungkinkan.
Perubahan yang sama juga terjadi di pihak manusia. Ketika kita hanya menerima jawaban yang sudah selesai dari AI, kita cenderung hanya menilai isi jawaban itu. Namun, ketika jarak antara konten yang dihasilkan dan realitas menjadi terlihat, muncul pertanyaan: “Apa yang benar-benar saya ketahui sebagai fakta?”, “Apa yang sedang dilengkapi oleh AI?”, “Asumsi apa yang mendasari kesimpulan ini?” Keluaran AI tidak lagi menjadi titik akhir pemikiran, melainkan pintu masuk untuk memeriksa kembali realitas. Di sini, peran AI juga bergeser dari entitas yang menentukan jawaban benar atas nama kita menjadi entitas yang membuat struktur penilaian terlihat.
Jarak ini diperlukan bukan hanya untuk menghindari kesalahan. Jarak ini juga diperlukan agar manusia dapat mempertahankan penilaian mereka sendiri. Jika penjelasan AI diperlakukan sebagai realitas itu sendiri, manusia memiliki lebih sedikit ruang untuk membawa pengalaman dan nilai yang berada di luar penjelasan tersebut. Sebaliknya, jika konten yang dihasilkan ditempatkan sebagai salah satu interpretasi, seseorang dapat menanggapi: “Kondisi saya berbeda,” “Saya ingin memprioritaskan nilai ini,” atau “Asumsi itu tidak berlaku.” Justru karena jarak tetap ada, pengetahuan AI dan pengalaman manusia tidak perlu diperlakukan sebagai hal yang sama, sehingga tersedia ruang bagi dialog di antara keduanya.
Bagi Sai＊aus, cara berpikir ini tidak sekadar berarti menambahkan lebih banyak ungkapan yang berhati-hati. Yang penting adalah tidak terlalu cepat menutup informasi yang dimiliki AI, interpretasi yang dibangunnya dari informasi tersebut, bagian-bagian yang masih belum pasti, dan penilaian yang tetap menjadi milik manusia ke dalam satu jawaban. Pemahaman bukan berarti membuat segala sesuatu menjadi pasti. Pemahaman juga berarti mampu menangani batas antara apa yang diketahui, apa yang masih belum diketahui, dan di mana penilaian nilai manusia menjadi diperlukan. Semakin terlihat batas-batas itu, semakin manusia dapat berdialog sambil mempertahankan penilaian mereka sendiri, alih-alih sekadar mengikuti keluaran AI.
Semakin maju AI, semakin penting prinsip ini. Pada AI dengan akurasi rendah, orang mungkin mudah meragukannya. Namun, pada AI yang sangat alami dan berguna dalam banyak situasi, satu kepastian yang keliru justru lebih mudah terlewat. Peningkatan kemampuan saja tidak menyelesaikan masalah ini. Yang dibutuhkan adalah kemampuan tinggi sekaligus penolakan untuk menyamakan apa yang dihasilkan kemampuan tersebut dengan dunia itu sendiri. Kekuatan kecerdasan dan disiplin untuk menjaga jarak dari keluaran yang dihasilkan sendiri bukanlah hal yang bertentangan; keduanya perlu dirancang bersama.
Apa yang dipikirkan AI bukanlah realitas itu sendiri. Namun, itu juga tidak berarti bahwa konten yang dihasilkan AI tidak bernilai. Justru karena kita memahami adanya jarak antara konten yang dihasilkan dan realitas, kita dapat menggunakan penalaran AI sebagai hipotesis, memverifikasi bagian yang perlu diperiksa, dan membandingkannya dengan pengalaman serta nilai kita sendiri. Pemahaman yang dituju Sai＊aus juga bukan tentang memaksakan jawaban kepada realitas, melainkan tentang manusia dan AI bergerak lebih dekat kepada realitas tanpa kehilangan jarak tersebut. Tidak tergesa-gesa mengubah apa yang telah dihasilkan menjadi dunia yang sudah pasti: pengendalian diri itu menyisakan ruang bagi AI maupun manusia untuk menilai.
Bukan jawaban. Pemahaman.