Mettere in discussione le premesse amplia la libertà di pensiero. Tuttavia, se chiediamo «Perché è stata adottata quella premessa?», possiamo poi chiedere «Quale criterio ha fatto apparire valida quella ragione?» e continuare con «Quali fondamenti hanno giustificato la scelta di quel criterio?». In linea di principio, l’operazione di spostare una domanda di un livello verso l’alto non ha un punto terminale. Questo non è un problema esclusivo della filosofia; emerge anche nella collaborazione con l’IA. Se l’IA mette in discussione le premesse di un utente e poi continua a chiedere quali siano gli scopi e i criteri di valore alla base di ogni risposta, il dialogo può diventare più preciso perdendo però la capacità di tornare al giudizio e all’azione.
Pertanto, il pensiero a meta-livello non può essere inteso semplicemente come «più alto è il livello di astrazione, meglio è». A livello-oggetto affrontiamo problemi concreti, come cosa scegliere, cosa scrivere e quale azione intraprendere. Un livello più in alto possiamo esaminare le premesse e gli scopi che sostengono quei giudizi. Ancora più in alto possiamo esaminare i criteri con cui vengono selezionate le premesse stesse. Tuttavia, ogni aumento dell’astrazione comporta anche il costo di allontanarsi dalla situazione concreta. Il valore del meta-livello non è determinato dalla sua altezza in sé, ma dalla capacità di scoprire differenze che erano invisibili a livello-oggetto e di riportare tali differenze al giudizio concreto.
Da qui nasce il problema delle condizioni di arresto. La prima condizione è se il passaggio al meta-livello abbia rivelato una nuova differenza capace di modificare la scelta a livello-oggetto. Supponiamo di essere incerti su quale di due piani scegliere e che l’esame dello scopo di livello superiore riveli che solo uno dei due è incompatibile con lo scopo originario. In quel caso, passare al meta-livello ha valore per il giudizio. Al contrario, se salire ancora di un livello non modifica né la valutazione delle opzioni né crea un nuovo bisogno di informazioni, quell’ascesa potrebbe fare poco più che descrivere lo stesso problema con un vocabolario diverso, anziché approfondire la comprensione.
La seconda condizione riguarda il rapporto tra il valore delle informazioni ottenute attraverso un ulteriore esame a meta-livello e il costo del ritardo nel giudizio. Una decisione con gravi conseguenze per la sicurezza e una scelta quotidiana facilmente reversibile non richiedono la stessa profondità di esame. Quando gli esiti sono irreversibili, la portata dell’impatto è ampia e l’incertezza è elevata, vi sono ragioni per esaminare più a fondo le premesse e i criteri di valutazione. In una situazione in cui possiamo invece provare qualcosa a basso costo, osservare il risultato e correggerlo, le informazioni ottenute agendo su piccola scala possono avere più valore dell’attesa di una verifica completa delle premesse. Le condizioni di arresto dipendono quindi non solo dalla correttezza astratta, ma anche dalla reversibilità e dal valore dell’informazione.
La terza condizione è la responsabilità. Passare al meta-livello non è un’operazione volta a far scomparire l’agente responsabile. Anche se comprendiamo che «i criteri di valore stessi sono relativi» o che «esistono premesse alternative», qualcuno deve comunque formulare un giudizio nella situazione reale e sostenerne le conseguenze. Essere in grado di confrontare più sistemi di valori è diverso dal poter rinviare indefinitamente il giudizio. Anzi, quanto più maturo diventa il pensiero a meta-livello, tanto più è importante comprendere che il proprio giudizio non è l’unica conclusione necessaria e riuscire comunque a spiegare perché, in queste condizioni, viene adottata questa scelta.
Nei sistemi di dialogo che includono l’IA, questo problema dell’arresto diventa ancora più importante. L’IA può aggiungere in breve tempo premesse, controesempi e assi di valutazione alternativi che gli esseri umani non avevano considerato. Questa capacità sostiene il pensiero a meta-livello, ma può anche aumentare quasi senza limiti il numero delle questioni esaminabili. Se ogni questione aggiuntiva genera la sensazione che «potrebbe esserci ancora qualcosa che non abbiamo considerato», nasce il paradosso per cui un’IA più capace rende più difficile portare a termine una decisione. Un buon supporto, quindi, non consiste nel presentare il massimo numero di questioni, ma nel distinguere quali elementi non ancora esaminati potrebbero modificare il giudizio rispetto allo scopo attuale.
Qui è necessario mantenere l’asimmetria tra esseri umani e IA. L’IA può generare prospettive aggiuntive, individuare contraddizioni tra le premesse e confrontare le conseguenze quando cambiano le condizioni. Ma quale perdita accettare, quale valore privilegiare e quando passare all’azione mentre permane l’incertezza non sono determinati dalla sola quantità di ragionamento. L’IA può proporre di fermarsi, ma non per questo assume automaticamente la responsabilità di giustificare quel punto di arresto. L’agire umano nel giudizio si manifesta non nella capacità di considerare più questioni dell’IA, ma anche nel tracciare il confine tra un esame sufficiente e l’azione.
Tuttavia, trasformare le condizioni di arresto in regole fisse crea un altro problema. Criteri formali come «fermarsi dopo aver riflettuto su tre livelli» o «due opinioni contrarie sono sufficienti» ignorano la gravità e l’incertezza del problema. Ciò che conta non è il numero di livelli, ma la sensibilità del giudizio attuale. Cambiare una premessa modificherebbe la conclusione? Nuove prove potrebbero rovesciare la valutazione? C’è una parte interessata che è stata trascurata? L’azione può essere corretta in seguito? Quando la sensibilità a tali condizioni diventa bassa, si può ritenere che stia diminuendo anche il valore marginale di un ulteriore innalzamento del livello di astrazione.
Anche per Sai＊aus, il significato di avere un meta-livello risiede qui. Il punto non è indirizzare il dialogo verso un’autoanalisi senza fine, ma portare temporaneamente al meta-livello un disagio sorto a livello-oggetto, individuare se la differenza risiede nelle premesse, negli scopi o nei criteri di valutazione e poi riportare il risultato a una domanda concreta. Ciò che conta non è l’ascesa, ma il movimento avanti e indietro. Quando questo movimento funziona, il pensiero a meta-livello diventa non una riflessione aggiuntiva che ritarda l’azione, ma un meccanismo che riorganizza la rappresentazione del giudizio solo nella misura necessaria e la riconnette alla realtà.
Da questa prospettiva, il pensiero a meta-livello può fallire in almeno due direzioni. Una consiste nel rimanere fissati a livello-oggetto e continuare a ottimizzare la stessa domanda anche dopo che le premesse sono cambiate. L’altra consiste nel continuare a mettere in discussione le premesse finché il fatto che ogni giudizio abbia soltanto fondamenti provvisori diventa una ragione per non agire. Il primo caso è rigidità del pensiero; il secondo è regresso infinito del pensiero. Ciò che serve non è un semplice punto di compromesso tra i due, ma una struttura variabile capace di muoversi tra il livello-oggetto e il meta-livello a seconda della natura del problema.
Se valutiamo tale struttura, chiedere soltanto «Quanto profondamente abbiamo pensato?» non è sufficiente. Dobbiamo chiederci se il passaggio al meta-livello abbia fatto emergere una premessa importante, chiarito le condizioni che potrebbero modificare il giudizio, separato le sedi dell’incertezza, reso spiegabili le ragioni della scelta finale e consentito un ritorno all’azione concreta nel momento necessario. La qualità del pensiero a meta-livello dovrebbe essere valutata non dall’altezza dell’astrazione, ma dalla capacità di produrre una comprensione non disponibile a livello-oggetto e di riconnettere tale comprensione al giudizio.
La capacità di pensare un livello più in alto è importante, ma la maturità dell’intelligenza non può essere definita soltanto da questo. Sapere dove smettere di porre domande, accettare una comprensione provvisoria e tornare alla realtà è importante quanto essere capaci di mettere in discussione le nostre premesse e persino esaminare le premesse alla base di quel mettere in discussione. Il meta-livello non è un rifugio per il pensiero, ma una posizione temporanea da cui riconsiderare il livello-oggetto in un’altra forma. Salire, trovare una differenza e tornare: solo quando questo ciclo è stabilito il pensiero a meta-livello diventa non un’autoriflessione senza fine, ma una struttura pratica attraverso cui esseri umani e IA possono aggiornare il giudizio.
Non risposte. Comprensione.