Quando poniamo una domanda all’IA, può restituire una risposta senza esitazioni visibili. Se le ragioni e gli esempi sono ben organizzati e il filo del discorso è naturale, la spiegazione può sembrare la descrizione di qualcosa di corretto. Ma un linguaggio naturale e un contenuto verificato nella realtà non sono la stessa cosa. L’IA non guarda necessariamente direttamente il mondo che ha davanti per trascriverlo in parole; costruisce una spiegazione adatta alla domanda a partire dalle informazioni che le sono state fornite e dalle conoscenze a sua disposizione. Fin dall’inizio, esiste una distanza tra ciò che l’IA genera e ciò che sta realmente accadendo.
Questa distanza non è un problema esclusivo dell’IA. Anche gli esseri umani attribuiscono significato agli eventi che vedono e sentono, e talvolta confondono quel significato con gli eventi stessi. Per esempio, dal fatto che qualcuno risponda più tardi del solito possiamo pensare: «È arrabbiato». Il ritardo della risposta può essere osservato, ma senza altre informazioni non si può stabilire se la persona sia arrabbiata. Eppure, quanto più naturale ci appare un’interpretazione, tanto più facilmente dimentichiamo l’inferenza che abbiamo aggiunto nel passaggio intermedio. Il problema non è interpretare, ma elevare un’interpretazione a realtà stessa.
Nel dialogo con l’IA, questa confusione può verificarsi ancora più facilmente. L’IA può esprimere fatti osservati, conoscenze generali e inferenze tratte dal contesto in un unico testo scorrevole. Di conseguenza, può diventare difficile vedere dove finiscono le informazioni verificate e dove inizia l’interpretazione. La fluidità aiuta la comprensione, ma può anche nascondere i confini tra diversi tipi di informazione. Ciò che conta, quindi, non è diffidare del testo dell’IA e non credere a nulla. È ricordare che nello stesso testo possono coesistere elementi con diversi gradi di certezza.
Ciò che serve qui è un modo per separare l’«impressione» che nasce in noi dal «giudizio» che formuliamo su quell’impressione. Anche se qualcosa appare in un certo modo, non dobbiamo decidere per questo che sia effettivamente così. Creando una certa distanza, possiamo organizzare la situazione in questo modo: «fin qui si può confermare», «da qui in poi si tratta di interpretazione» e «questa parte è ancora sconosciuta». Applicato al nostro rapporto con l’IA, questo atteggiamento suggerisce un nuovo modo di interagire con i contenuti generati dall’IA: non respingerli, ma utilizzarli osservando a quale stadio della conoscenza si collocano.
Supponiamo che l’IA dica di un piano di viaggio: «Questo itinerario è il più adatto». Anche se il tempo di percorrenza e la distanza sono stati verificati, la conclusione «più adatto» include giudizi su ciò che conta, come costo, affollamento, facilità di percorrenza a piedi e peso dei cambi. Il suo significato cambia anche a seconda che l’utente viaggi con un bambino piccolo o porti bagagli ingombranti. Anche quando le informazioni calcolabili sono corrette, la valutazione che ne deriva non diventa automaticamente realtà. Distinguere questa differenza è un modo concreto per mantenere la distanza dai contenuti generati.
Mantenere la distanza non riduce il valore dell’IA. Al contrario, è una condizione per utilizzare con maggiore precisione ciò che l’IA sa fare bene. L’IA può organizzare grandi quantità di informazioni, confrontare possibili spiegazioni e mostrare relazioni che gli esseri umani potrebbero aver trascurato. Tuttavia, quanto maggiore diventa questa capacità, tanto più persuasive possono risultare le spiegazioni generate. Quando aumenta la persuasività, ciò che serve non è una scelta binaria tra fiducia incondizionata e totale sfiducia, ma una distanza sufficiente per chiedersi: «Su cosa si basa questa spiegazione, quanto è certa e che cosa resta ancora interpretazione?».
Da questa prospettiva, non è necessario pensare all’«autoriflessione» dell’IA come a un guardare dentro la propria mente in senso umano. Più importante è una disciplina che impedisca all’IA di trattare immediatamente i propri ragionamenti e le proprie interpretazioni generate come realtà accertata. Deve preservare la distinzione tra il poter generare una spiegazione e il fatto che quella spiegazione trovi effettivamente riscontro nella realtà. Con questa distinzione, l’IA può verificare dove è necessaria una verifica, indicare le informazioni mancanti dove sono insufficienti ed evitare di fissare un’unica interpretazione dove ne sono possibili diverse.
Lo stesso cambiamento avviene sul versante umano. Quando riceviamo dall’IA soltanto una risposta compiuta, tendiamo a valutare soltanto il contenuto di quella risposta. Ma quando diventa visibile la distanza tra il contenuto generato e la realtà, emergono domande: «Che cosa so realmente come fatto?», «Che cosa sta completando l’IA?», «Quali presupposti stanno alla base di questa conclusione?». L’output dell’IA non diventa il punto finale del pensiero, ma un ingresso per verificare nuovamente la realtà. Qui cambia anche il ruolo dell’IA: da entità che decide al nostro posto la risposta corretta a entità che rende visibile la struttura del giudizio.
Questa distanza non è necessaria soltanto per evitare errori. È necessaria anche perché gli esseri umani mantengano il proprio giudizio. Se una spiegazione dell’IA viene trattata come la realtà stessa, le persone hanno meno spazio per introdurre esperienze e valori che si trovano al di fuori di quella spiegazione. Se invece il contenuto generato viene collocato come una delle possibili interpretazioni, una persona può rispondere: «Nel mio caso le condizioni sono diverse», «Voglio dare priorità a questo valore» oppure «Quel presupposto non si applica». Proprio perché la distanza rimane, la conoscenza dell’IA e l’esperienza umana non devono essere trattate come la stessa cosa, lasciando spazio al dialogo tra le due.
Per Sai＊aus, questo modo di pensare non significa semplicemente aggiungere formulazioni più prudenti. Ciò che conta è non chiudere troppo rapidamente in un’unica risposta le informazioni possedute dall’IA, le interpretazioni che costruisce a partire da quelle informazioni, le parti che restano irrisolte e i giudizi lasciati agli esseri umani. Comprendere non significa rendere tutto definitivo. Significa anche saper gestire i confini tra ciò che è noto, ciò che è ancora ignoto e i punti in cui diventano necessari giudizi di valore umani. Quanto più questi confini sono visibili, tanto più gli esseri umani possono dialogare mantenendo il proprio giudizio, invece di limitarsi a seguire l’output dell’IA.
Quanto più avanzata diventa l’IA, tanto più importante diventa questo principio. Con un’IA poco accurata, le persone possono dubitarne facilmente. Ma con un’IA molto naturale e utile in molti casi, una singola certezza errata può essere trascurata più facilmente. Il solo miglioramento delle capacità non risolve questo problema. Ciò che serve è un’elevata capacità insieme al rifiuto di identificare ciò che quella capacità genera con il mondo stesso. La forza dell’intelligenza e la disciplina di prendere distanza dal proprio output generato non sono opposte; devono essere progettate insieme.
Ciò che pensa l’IA non è la realtà stessa. Ma questo non significa che i contenuti generati dall’IA non abbiano valore. Proprio perché comprendiamo che esiste una distanza tra i contenuti generati e la realtà, possiamo usare il ragionamento dell’IA come un’ipotesi, verificare ciò che deve essere controllato e confrontarlo con le nostre esperienze e i nostri valori. Anche la comprensione a cui mira Sai＊aus non consiste nell’imporre risposte alla realtà, ma nell’avvicinare esseri umani e IA alla realtà senza perdere quella distanza. Non affrettarsi a trasformare ciò che è stato generato in un mondo già definito: questa moderazione lascia spazio sia all’IA sia agli esseri umani per giudicare.
Non risposte. Comprensione.