Jika AI diberi tujuan “menggandakan penjualan”, AI dapat menguraikan langkah-langkah yang diperlukan untuk mencapainya dan membandingkan pilihan dengan mempertimbangkan sumber daya dan waktu. Namun, bahkan tujuan yang sama untuk menggandakan penjualan dapat memiliki alasan yang berbeda. Apakah itu diperlukan untuk menjaga kelangsungan usaha, untuk mendanai investasi baru, untuk mengejar pesaing, atau karena pertumbuhan organisasi itu sendiri dianggap sebagai keberhasilan? Makna tujuan berubah sesuai dengan alasannya.
Jika hanya tujuan yang diproses, perbedaan-perbedaan ini terdorong ke luar fungsi tujuan yang sama. AI dapat secara rasional mencari cara untuk mendekati angka yang diberikan tanpa mampu menangani mengapa angka tersebut diperlukan. Ketika kondisi dunia nyata berubah, AI dapat mempertahankan tujuan yang sama sambil hanya merevisi sarana. Namun, jika alasan yang menopang tujuan telah hilang, validasi ulang tujuan mungkin perlu dilakukan sebelum memperbaiki sarana.
Misalkan alasan untuk meningkatkan penjualan adalah “memastikan laba yang cukup untuk mempertahankan lapangan kerja saat ini”. Kemudian, biaya tetap turun dan lapangan kerja dapat dipertahankan dengan penjualan yang jauh lebih rendah. Kebutuhan akan target menggandakan penjualan pun telah berubah. Sebaliknya, jika alasannya adalah “menciptakan dana investasi untuk menghadirkan layanan ke wilayah baru”, perubahan kondisi yang sama dapat menghasilkan penilaian yang berbeda. Keabsahan suatu tujuan tidak dapat dinilai hanya dari tujuan itu sendiri.
Karena itu, “mengapa tujuan ini?” bukanlah penjelasan tambahan, melainkan bagian dari struktur penalaran. Jika tujuan dan alasan dihubungkan secara eksplisit, menjadi mungkin untuk melihat asumsi mana yang dipengaruhi oleh kenyataan setelah tindakan. Jika alasannya tetap ada, alasan itu mendukung kelanjutan tujuan; jika berubah, hal itu dapat memicu validasi ulang. Alasan tidak seharusnya sekadar ditanyakan sekali lalu ditetapkan. Alasan itu sendiri juga harus diperlakukan sebagai sesuatu yang dapat berubah melalui waktu dan pengalaman.
Selain itu, manusia tidak selalu dapat menjelaskan alasan mereka secara lengkap sejak awal. Seseorang mungkin mengatakan bahwa ia “ingin bertumbuh”, tetapi melalui dialog dan tindakan dapat menjadi jelas bahwa ia menginginkan lebih banyak waktu luang, pengakuan dari orang lain, atau dampak sosial yang lebih luas. Jika AI menetapkan penjelasan pertama sebagai motif yang sebenarnya, pemahaman yang muncul kemudian akan diperlakukan sebagai pengecualian.
Peran penalaran di sini bukanlah menebak motif manusia yang tersembunyi. Perannya adalah menata ketidakselarasan antara tujuan dan alasan yang dinyatakan, reaksi yang muncul setelah tindakan, serta perubahan kondisi, sehingga orang tersebut dapat mendeskripsikan kembali alasannya. Alih-alih mendiagnosis, “yang sebenarnya Anda inginkan adalah pengakuan”, AI dapat bertanya, “Awalnya Anda menyebut pertumbuhan sebagai alasan, tetapi pilihan Anda belakangan ini memprioritaskan waktu luang. Apakah perbedaan ini memengaruhi tujuan?”
Ini juga bukan soal membuat penalaran menjadi dalam tanpa batas. Jika setiap tujuan kecil terus-menerus ditelusuri alasannya tanpa akhir, tindakan menjadi mustahil. Penanganan yang lebih mendalam diperlukan ketika pemeriksaan ulang terhadap alasan dapat mengubah penilaian — misalnya ketika biaya untuk mengubah tujuan tinggi, dampak jangka panjang besar, atau kenyataan telah memberikan suatu perbedaan penting. Sumber daya penalaran seharusnya dialokasikan sesuai dengan kepentingan dan ketidakpastian tujuan.
Dalam Representasi Efisiensi Internal Sai＊aus, menghubungkan “apa yang ingin dilakukan seseorang” dengan “mengapa ia ingin melakukannya” sampai tingkat yang diperlukan juga memiliki nilai. Menyimpan hanya tujuan yang ringkas mengurangi pemrosesan, tetapi menghilangkan dasar yang diperlukan untuk menguji keabsahannya kemudian. Menyimpan setiap detail latar belakang juga bukan jawabannya. Desain harus mempertahankan alasan dan asumsi yang dapat mengubah penilaian di masa depan, sambil memampatkan hal-hal yang tidak perlu dipertahankan.
Bagi AI yang mendukung pencapaian tujuan, memahami secara akurat tujuan yang diberikan adalah hal penting. Namun, jika tujuan manusia dapat berubah, objek pemahaman tidak dapat hanya berupa kata-kata dalam tujuan tersebut. Hanya dengan juga merepresentasikan alasan apa yang menopang tujuan dan perubahan kondisi apa yang akan menuntut validasi ulang, kenyataan setelah tindakan dapat dikembalikan kepada tujuan.
Menanyakan “mengapa tujuan ini?” sebelum mengoptimalkan bukan hanya cara untuk meragukan tujuan. Hal itu juga dapat memperjelas alasan untuk melanjutkannya. Jika tindakan memperkuat alasan, tujuan menjadi lebih berlandaskan daripada sebelumnya. Jika alasan berubah, tujuan dapat dibuka kembali. Penalaran tingkat lanjut bukan hanya mencapai tujuan yang diberikan dengan cepat; penalaran juga berarti mampu membedakan kondisi ketika tujuan itu boleh tetap dipertahankan dari kondisi ketika tujuan tersebut perlu dipertanyakan kembali.
Bukan jawaban. Pemahaman.