Quando chiediamo all’IA di «mostrare i presupposti che potrei trascurare», «fornire punti di vista opposti» o «separare i punti sui quali non puoi essere sicura», otteniamo materiale per riconsiderare un giudizio da una prospettiva esterna. Ci si può aspettare che tali funzioni supportino la metacognizione. Tuttavia, il semplice fatto di aver letto molte prospettive o di sentire di essere diventati più cauti non dimostra che la capacità di giudizio sia migliorata. Se valutiamo questo aspetto come ricerca, dobbiamo definire in anticipo quali cambiamenti prodotti dal supporto conteranno come «miglioramento».
Una misura è la calibrazione. La calibrazione riguarda quanto strettamente l’accuratezza di un giudizio corrisponda al livello di fiducia della persona. Essere molto sicuri quando si ha ragione e riuscire a ridurre la fiducia quando si sbaglia può essere preferibile al semplice fatto di avere una forte fiducia. Se l’IA presenta controesempi e incertezza e il risultato è soltanto che gli utenti perdono fiducia in tutto, ciò non rappresenta necessariamente un miglioramento. Ciò che conta è se la fiducia arrivi a corrispondere più adeguatamente alla forza delle evidenze.
Una seconda misura è il rilevamento degli errori. Possiamo confrontare quanto bene gli utenti che ricevono il supporto dell’IA riescano a individuare presupposti errati, contraddizioni ed evidenze insufficienti nel proprio ragionamento o nell’output dell’IA. Tuttavia, se l’IA indica direttamente dove si trova l’errore, un miglioramento delle prestazioni non sorprende. Per valutare il supporto alla metacognizione, dobbiamo separare le condizioni in cui viene fornita la risposta da quelle in cui vengono offerte soltanto prospettive per l’esame. Osservando se gli utenti riescono a rilevare errori in problemi diversi dopo aver ricevuto il supporto, possiamo esaminare la differenza tra un miglioramento del giudizio e la mera dipendenza dalle risposte.
Una terza questione è il trasferimento. Se le persone che ricevono, in un compito, il supporto a «verificare i presupposti» iniziano in seguito a verificare spontaneamente i presupposti in un altro ambito, il supporto è andato oltre un miglioramento temporaneo della prestazione nel compito. Al contrario, se diventano prudenti solo quando l’IA è presente e tornano al loro precedente stile di giudizio quando il supporto scompare, il sistema potrebbe funzionare più come un ausilio esterno che come formazione di capacità. Nessuna delle due situazioni è intrinsecamente negativa, ma le affermazioni sull’effetto dovrebbero distinguerle.
Anche il tempo decisionale non può essere ignorato. Il supporto alla metacognizione richiede spesso verifiche aggiuntive. Se l’accuratezza migliora solo leggermente mentre il tempo aumenta notevolmente in compiti semplici e a basso rischio, il suo valore pratico può essere limitato. Nelle decisioni in cui sono possibili perdite gravi, invece, un tempo aggiuntivo può essere accettabile. Gli effetti devono quindi essere valutati non solo in base all’accuratezza, ma in combinazione con il rischio del compito, il tempo e il carico cognitivo.
Dobbiamo anche esaminare la possibilità che il supporto aumenti l’eccesso di fiducia. Il fatto che «l’IA abbia persino verificato i punti di vista opposti» può dare agli utenti un’eccessiva rassicurazione. Anche quando un sistema presenta molteplici prospettive, le informazioni sottostanti possono essere errate o possono ancora mancare prospettive importanti. Se l’esistenza stessa del supporto metacognitivo viene considerata una garanzia di qualità, la funzione di supporto diventa una nuova autorità.
Al contrario, avvertimenti eccessivi possono rendere impossibile formulare un giudizio. Se l’IA presenta ogni volta numerosi controesempi, incertezze e condizioni aggiuntive, gli utenti possono continuare a sentire che «non abbiamo ancora esaminato abbastanza». La ricerca deve quindi variare non solo la presenza o l’assenza del supporto, ma anche la frequenza e il momento dell’intervento. Un metodo che interviene solo quando vi sono segnali di errore può avere un rapporto tra accuratezza e carico diverso da quello di un metodo che interviene costantemente.
Anche le condizioni di confronto sono importanti nella progettazione sperimentale. Confrontare soltanto il supporto dell’IA con l’assenza di supporto rende difficile separare l’effetto del semplice ricevere più informazioni dall’effetto del supporto metacognitivo. Condizioni che forniscono la stessa quantità di informazioni aggiuntive, che presentano soltanto punti di vista opposti o che richiedono ai partecipanti di elencare autonomamente i presupposti possono aiutare a esaminare più in dettaglio quale intervento incida su cosa. Gli effetti possono inoltre differire in base al tipo di compito e all’esperienza dei partecipanti.
Dobbiamo inoltre distinguere la prestazione di giudizio a breve termine dalla formazione di capacità a lungo termine. Se l’IA compensa una debolezza nel momento, i risultati immediati possono migliorare. Ma stabilire se l’uso a lungo termine aumenti la capacità degli utenti stessi di esaminare i giudizi oppure aumenti invece la dipendenza dal supporto esterno è una questione diversa. Questa differenza può essere studiata valutando gli utenti senza supporto dopo un uso prolungato e misurando il trasferimento a compiti diversi.
Quando si valuta un design come Sai＊aus, che pone l’accento sull’aggiornamento della comprensione, l’autovalutazione secondo cui «l’utente ha sentito di aver riflettuto più profondamente» non è sufficiente. Dobbiamo misurare in quali condizioni sia migliorato il rilevamento degli errori, se sia cambiata la calibrazione della fiducia, se la revisione dei presupposti si sia trasferita ad altri compiti e se sia stata preservata l’autonomia nel giudizio. Allo stesso tempo, è importante non presumere un miglioramento in ogni situazione, ma registrare le condizioni in cui gli effetti sono deboli o avversi.
Il valore di un’IA che supporta la metacognizione non è stabilito soltanto da un principio attraente. Solo verificando quando, in quali compiti e secondo quali misure la capacità di riconsiderare il proprio pensiero produce un miglioramento è possibile collegare le affermazioni progettuali agli effetti empirici. Esiste una distanza che deve essere misurata tra un’IA che sembra «far pensare le persone» e l’effettivo miglioramento del giudizio umano. Fare ricerca preservando tale distanza è la cautela richiesta a un design che afferma di supportare la comprensione.
Non risposte. Comprensione.