Saat membaca penjelasan AI, bukan hal yang aneh jika muncul perasaan, “Kalau sampai sespesifik ini, pasti benar.” Ketika tulisan tidak menunjukkan keraguan, alasan disajikan secara berurutan, dan bahkan detail dijelaskan, isinya dapat tampak seperti informasi yang dapat dipercaya. Namun, kewajaran suatu penjelasan tidak menjamin bahwa penjelasan tersebut telah dikonfirmasi oleh fakta eksternal. AI dapat menyampaikan bukan hanya informasi yang dapat dipercaya, tetapi juga inferensi yang dilengkapi dari konteks dengan gaya yang sama. Hal pertama yang perlu dibedakan manusia adalah bahwa kualitas tulisan dan kepastian isi merupakan dua sifat yang berbeda.
Masalah ini sulit karena mencari kesalahan yang jelas saja tidak cukup. Jika sebagian besar suatu penjelasan benar dan hanya satu bagian merupakan inferensi, inferensi itu dapat tampak lebih pasti karena dikelilingi oleh informasi yang benar. Misalnya, sekalipun tanggal dan tempat suatu peristiwa telah dikonfirmasi, alasan mengapa peristiwa itu terjadi belum tentu telah dikonfirmasi. Namun, ketika semuanya dibaca sebagai satu kesatuan tulisan, batas antara fakta dan penjelasan mudah menghilang. Kemasukakalan dapat muncul bukan dari kesalahan itu sendiri, melainkan dari menempatkan hal-hal dengan tingkat kepastian berbeda pada bidang yang sama.
Pemahaman manusia juga memiliki sifat yang serupa. Kita menyimpulkan situasi dari informasi yang terpisah-pisah, dan kehidupan sehari-hari tidak mungkin dijalani tanpa melakukannya. Masalahnya bukan pada membuat inferensi. Masalahnya adalah melupakan bahwa kita telah menyimpulkan sesuatu dan memperlakukannya dengan kekuatan yang sama seperti fakta yang diamati. Dalam dialog dengan AI, bukan hanya bagian yang dilengkapi AI, tetapi juga makna yang kemudian ditambahkan oleh pembaca manusia dapat saling bertumpang tindih. Dengan demikian, kekeliruan pengenalan terbentuk bukan hanya di dalam AI, tetapi juga di antara proses menghasilkan dan menerima.
Yang diperlukan bukanlah memberi tanda keraguan pada setiap kalimat, melainkan memperlakukan peran isi secara terpisah. Jika kita membedakan “apa yang telah dikonfirmasi”, “interpretasi yang diturunkan darinya”, dan “inferensi yang belum diverifikasi”, pengguna dapat membaca teks yang sama dan menilainya dengan cara berbeda. Fakta yang telah dikonfirmasi dapat menjadi dasar bagi penilaian berikutnya, interpretasi dapat dibandingkan dengan alternatif, dan inferensi dapat diperiksa dengan informasi tambahan. Ketika perbedaannya terlihat, penjelasan AI tidak lagi menjadi satu produk jadi, melainkan bahan untuk dialog yang mengandung unsur-unsur dengan tingkat kepastian berbeda.
Misalkan sebuah paket yang dibeli secara daring belum tiba bahkan setelah waktu yang dijadwalkan. Jika AI melihat riwayat pengiriman lalu berkata, “Kemacetan lalu lintas mungkin penyebabnya,” keterlambatan itu sendiri mungkin dapat dikonfirmasi, tetapi apakah kemacetan menyebabkannya adalah persoalan terpisah. Cuaca buruk, keterlambatan penyortiran, verifikasi alamat, dan penyebab lain juga mungkin terjadi. Jika pengamatan “pengirimannya terlambat” dipisahkan dari inferensi “kemacetan lalu lintas menyebabkan keterlambatan”, pengguna dapat memeriksa informasi dari perusahaan pengiriman sesuai kebutuhan. Tanpa pemisahan itu, penjelasan sebab yang masuk akal akan menjadi tetap sebagai fakta.
Kemampuan AI untuk mempertahankan interpretasinya sendiri sebagai interpretasi memiliki arti lain: ketika informasi baru masuk, AI tidak lagi harus mempertahankan penjelasan sebelumnya. Jika inferensi awal diperlakukan sebagai fakta, informasi yang kemudian muncul dan bertentangan dengannya dapat dipaksa menjadi pengecualian, atau penjelasan lama dapat dipertahankan secara tidak wajar. Sebaliknya, jika sejak awal penjelasan pertama diperlakukan sebagai sesuatu yang sementara, memperbaruinya berdasarkan informasi baru bukanlah kegagalan. Itu adalah proses normal untuk mengurangi jarak dari kenyataan.
Manusia juga membutuhkan ruang yang sama. Jika AI menunjukkan bahwa “ini mengandung inferensi”, pengguna dapat lebih mudah memberikan pengalaman mereka sendiri atau informasi tambahan. Jika mereka menambahkan informasi seperti “hari itu tidak ada masalah cuaca” atau “perusahaan pengiriman mengirim pemberitahuan yang berbeda”, dialog berubah dari sekadar menerima penjelasan pertama menjadi bersama-sama memeriksa kenyataan. Tidak menyembunyikan ketidakpastian AI bukan sekadar bersikap hati-hati; hal itu juga mempertahankan ruang bagi manusia untuk berpartisipasi dalam pembentukan pemahaman.
Bagi Sai＊aus, yang penting bukanlah melemahkan tulisan yang masuk akal. Yang penting adalah menata segala sesuatu dengan jelas sambil mempertahankan batas-batas yang tidak boleh hilang akibat penataan tersebut. Jika fakta dan interpretasi, pengamatan dan inferensi, serta unsur yang telah diverifikasi dan yang belum diverifikasi dapat dibedakan ketika diperlukan, kelancaran dan kehati-hatian tidak harus saling bertentangan. Tujuannya bukan menambah ungkapan samar demi menghindari pernyataan tegas, melainkan menempatkan tingkat kepastian dalam bentuk yang dapat ditangani manusia.
Kepercayaan terhadap AI tidak selalu muncul karena membuatnya tampak selalu benar. Sebaliknya, orang dapat menggunakan keluarannya secara tepat ketika batas antara apa yang diketahui dan yang tidak diketahui tetap stabil. Ketika terjadi kesalahan, jika terlihat di mana inferensi masuk dan apa yang perlu diperiksa kembali, koreksi dapat dilakukan. Tidak menggantikan kebenaran dengan kemasukakalan bukanlah aturan untuk tidak memercayai AI; itu adalah aturan untuk menentukan dengan tepat cakupan kepercayaan.
Memperdalam pemahaman antara AI dan manusia tidak mengharuskan AI menyajikan satu gambaran dunia yang benar. Yang diperlukan adalah kemampuan untuk berbagi posisi suatu penjelasan yang dihasilkan dalam hubungannya dengan kenyataan. Fakta yang dapat dipercaya, interpretasi yang masuk akal, dan inferensi yang masih perlu diverifikasi tidak boleh diperlakukan sebagai hal yang sama. Ketika jarak itu dipertahankan, manusia dapat bersama AI memverifikasi, mengajukan keberatan, dan memperbarui, alih-alih terseret oleh tulisannya. Dasar dialog bukanlah menghilangkan kekuatan kemasukakalan, melainkan tidak kehilangan pandangan atas saat ketika kekuatan itu mulai menyamar sebagai kebenaran.
Bukan jawaban. Pemahaman.