Leggendo una spiegazione di un’IA, non è insolito pensare: «Se è così specifica, dev’essere corretta». Quando il testo non mostra esitazioni, le ragioni vengono presentate in ordine e persino i dettagli vengono spiegati, il contenuto può apparire come un’informazione affidabile. Tuttavia, la naturalezza di una spiegazione non garantisce che essa sia stata confermata da fatti esterni. L’IA può esprimere nello stesso stile non solo informazioni affidabili, ma anche inferenze completate a partire dal contesto. La prima cosa che gli esseri umani devono distinguere è che la qualità della scrittura e la certezza del contenuto sono proprietà diverse.
Questo problema è difficile perché non basta cercare soltanto gli errori evidenti. Se la maggior parte di una spiegazione è corretta e solo una parte è inferita, quell’inferenza può apparire più certa perché è circondata da informazioni corrette. Per esempio, anche se la data e il luogo di un evento sono confermati, la ragione per cui l’evento si è verificato potrebbe non esserlo. Eppure, quando vengono letti come un unico testo, il confine tra fatto e spiegazione scompare facilmente. La plausibilità può nascere non dall’errore in sé, ma dal collocare sullo stesso piano elementi con diversi gradi di certezza.
La comprensione umana ha una caratteristica simile. Inferiamo situazioni da informazioni frammentarie e la vita quotidiana sarebbe impossibile senza farlo. Il problema non è fare inferenze. È dimenticare di aver inferito qualcosa e trattarlo con la stessa forza di un fatto osservato. Nel dialogo con l’IA possono sovrapporsi non solo le parti completate dall’IA, ma anche i significati ulteriormente aggiunti dal lettore umano. Il riconoscimento errato, quindi, si forma non solo all’interno dell’IA, ma anche tra generazione e ricezione.
Ciò che serve non è contrassegnare ogni frase con un segno di sospetto, ma trattare separatamente i ruoli dei suoi contenuti. Se distinguiamo «ciò che è stato confermato», «l’interpretazione che ne deriva» e «l’inferenza che non è ancora stata verificata», gli utenti possono leggere lo stesso testo e giudicarlo in modo diverso. I fatti confermati possono servire come base per il giudizio successivo, le interpretazioni possono essere confrontate con alternative e le inferenze possono essere verificate con informazioni aggiuntive. Una volta rese visibili le differenze, una spiegazione dell’IA non è più un unico prodotto finito, ma materiale per il dialogo contenente elementi con diversi gradi di certezza.
Supponiamo che un pacco acquistato online non sia arrivato neppure dopo l’orario previsto. Se l’IA guarda la cronologia della consegna e dice: «Probabilmente la causa è la congestione del traffico», il ritardo in sé può essere confermato, ma che la congestione lo abbia causato è una questione distinta. Anche il maltempo, ritardi nello smistamento, la verifica dell’indirizzo e altre cause sono possibili. Se l’osservazione «è in ritardo» viene separata dall’inferenza «la congestione del traffico ha causato il ritardo», l’utente può controllare le informazioni del corriere secondo necessità. Senza questa separazione, una spiegazione causale plausibile si fissa come fatto.
Il fatto che l’IA possa mantenere la propria interpretazione come interpretazione ha un altro significato: quando arrivano nuove informazioni, non deve più difendere la sua spiegazione precedente. Se un’inferenza iniziale viene trattata come un fatto, informazioni contraddittorie emerse in seguito possono essere costrette nel ruolo di eccezione, oppure la spiegazione può essere mantenuta in modo innaturale. Se la prima spiegazione viene trattata fin dall’inizio come provvisoria, aggiornarla alla luce di nuove informazioni non è un fallimento. È un normale processo di riduzione della distanza dalla realtà.
Gli esseri umani hanno bisogno dello stesso spazio. Se l’IA indica che «questo include un’inferenza», gli utenti possono più facilmente restituire la propria esperienza o informazioni aggiuntive. Se aggiungono informazioni come «quel giorno non c’erano problemi meteorologici» o «il corriere ha inviato un avviso diverso», il dialogo passa dal limitarsi ad accettare la prima spiegazione al verificare insieme la realtà. Non nascondere l’incertezza dell’IA non significa semplicemente essere prudenti; significa anche preservare uno spazio in cui gli esseri umani possano partecipare alla formazione della comprensione.
Per Sai＊aus, ciò che conta non è indebolire un testo plausibile. È organizzare le cose con chiarezza preservando al tempo stesso i confini che non devono scomparire a causa di tale organizzazione. Se fatti e interpretazioni, osservazioni e inferenze, ed elementi verificati e non verificati possono essere distinti quando necessario, fluidità e cautela non devono essere opposte. L’obiettivo non è aumentare le formulazioni vaghe per evitare affermazioni, ma dare al grado di certezza una forma che gli esseri umani possano gestire.
La fiducia nell’IA non nasce necessariamente dal farla apparire sempre corretta. Piuttosto, le persone possono utilizzare adeguatamente i suoi output quando il confine tra ciò che è noto e ciò che non lo è rimane stabile. Quando si verifica un errore, se è visibile dove è entrata un’inferenza e che cosa deve essere ricontrollato, la correzione è possibile. Non sostituire la verità con la plausibilità non è una regola per diffidare dell’IA; è una regola per stabilire correttamente l’ambito della fiducia.
Approfondire la comprensione tra IA ed esseri umani non richiede che l’IA presenti un’unica immagine corretta del mondo. Richiede di poter condividere la posizione che una spiegazione generata occupa rispetto alla realtà. Fatti affidabili, interpretazioni plausibili e inferenze che richiedono ancora verifica non devono essere trattati come la stessa cosa. Quando questa distanza viene mantenuta, gli esseri umani possono verificare, obiettare e aggiornare insieme all’IA invece di lasciarsi trascinare dal suo testo. Il fondamento del dialogo non consiste nell’eliminare il potere della plausibilità, ma nel non perdere di vista il momento in cui quel potere comincia a spacciarsi per verità.
Non risposte. Comprensione.