Affinché l’IA possa gestire grandi quantità di esempi concreti, non è sufficiente elaborare ogni input come un caso completamente indipendente. Se caratteristiche e relazioni condivise tra input differenti possono essere estratte e utilizzate come rappresentazioni di livello superiore, le strutture esistenti possono essere trasferite anche a situazioni mai incontrate in precedenza. In questo senso, l’astrazione non è una semplice riduzione dell’informazione; è una funzione importante che rende possibili il ragionamento e la generalizzazione. Ma quando l’oggetto è l’esperienza umana, emerge un altro problema. Anche se un’esperienza può essere adeguatamente riassunta sotto un concetto di livello superiore, ciò non significa che quella sia l’unica astrazione valida per tale esperienza.
Per esempio, l’affermazione «Voglio lasciare il mio attuale lavoro, ma ho paura di deludere chi mi sta intorno» ammette molteplici astrazioni. Può essere rappresentata come una relazione tra autodeterminazione e responsabilità, come una relazione tra il riconoscimento da parte degli altri e l’autovalutazione, oppure come l’effetto delle norme di un gruppo sulla scelta di un individuo. Può anche essere intesa come evitamento dell’incertezza riguardo al futuro. Poiché tutte queste astrazioni derivano dalla stessa affermazione, possono sembrare ridondanti, ma non sono sinonime. Ciascuna porta in primo piano relazioni diverse, considera importanti condizioni diverse e influenza in modo diverso le domande e i giudizi successivi.
La questione, dunque, è se dovremmo semplicemente selezionare l’unica astrazione con il maggiore potere esplicativo. L’integrazione in una sola rappresentazione semplifica l’elaborazione e facilita l’associazione con casi simili. Ma se tutto viene integrato sotto il «riconoscimento», l’incertezza economica o i cambiamenti nell’appartenenza possono passare in secondo piano nel ragionamento successivo. Al contrario, se l’«incertezza» viene posta al centro, la relazione attraverso cui la persona ha interiorizzato le aspettative altrui può apparire più debole. L’efficienza ottenuta mediante l’astrazione deve essere valutata non solo in base a ciò che è stato conservato, ma anche in base a ciò che è stato rimosso dallo spazio di esplorazione.
Di conseguenza, quando si considera la rappresentazione interna efficiente dell’esperienza umana, la direzione di «comprimere molti esempi concreti in un piccolo numero di concetti» non è sufficiente. Quando per la stessa esperienza valgono molteplici rappresentazioni di livello superiore non equivalenti, esse devono essere conservate in relazione reciproca senza essere prematuramente integrate in un unico concetto sovraordinato. Le coordinate di libertà, riconoscimento e norme non devono necessariamente escludersi a vicenda. Allo stesso tempo, riunirle in un concetto eccessivamente ampio come «un problema di relazioni umane» cancellerebbe le strutture che ciascuna rappresentazione distingueva. L’efficienza non è sinonimo di un’integrazione che elimina le differenze.
Per riflettere su questa struttura, dobbiamo distinguere tra «produrre molteplici risposte» e «conservare molteplici rappresentazioni interne». È possibile generare molte frasi superficialmente diverse a partire da un’unica classificazione interna. In quel caso, gli output sono diversi mentre il modo in cui il problema è rappresentato rimane unico. Conservare molteplici rappresentazioni di livello superiore, al contrario, significa conservare stati che differiscono per quali condizioni considerano importanti, per ciò che pongono al centro causale o relazionale e per quali informazioni aggiuntive aggiornerebbero l’interpretazione corrente. Ciò che conta non è il numero delle rappresentazioni, ma i loro ruoli non equivalenti nel ragionamento.
I concetti filosofici offrono un materiale solido per considerare questa non equivalenza. Nel corso della storia della filosofia, oggetti come libertà, desiderio, tempo, altri, norme e finitezza non sono convergenti verso definizioni uniche; sono state proposte strutture relazionali differenti a partire da premesse differenti. Questi disaccordi non devono essere trattati come conoscenza disorganizzata o come contraddizioni da eliminare. Se vengono utilizzati come risorse che mostrano come la stessa esperienza umana possa assumere strutture differenti in molteplici spazi di significato, la filosofia non aggiunge risposte corrette all’IA; fornisce coordinate comparabili per esaminare una convergenza prematura verso un’unica rappresentazione.
Tuttavia, il semplice uso dell’espressione «coordinate filosofiche» non dimostra che all’interno dell’IA esistano strutture concettuali corrispondenti. La capacità di un modello di generare in modo appropriato parole come «libertà», «riconoscimento» e «norme» è distinta dalla questione se tali rappresentazioni svolgano ruoli causali differenti nel ragionamento successivo. Per affermarle come rappresentazioni interne sono necessari test: quali rappresentazioni ricorrono stabilmente quando cambiano le condizioni di input, se rappresentazioni vicine possono essere distinte e se un intervento su una particolare rappresentazione modifica le tendenze del giudizio o della generazione. Dare un nome a un concetto può avviare un’analisi, ma non dimostra un meccanismo interno.
Conservare molteplici rappresentazioni di livello superiore comporta anche un costo. Se i candidati continuano a moltiplicarsi, lo spazio di ricerca si espande e il ragionamento diventa meno efficiente. Il problema di progettazione non consiste quindi nel preservare interpretazioni possibili senza limiti, ma nel determinare in quali condizioni le rappresentazioni non equivalenti che potrebbero influire sul giudizio corrente debbano essere conservate e in quali condizioni possano passare in secondo piano. Anche quando una rappresentazione viene posta in secondo piano, non deve essere eliminata se può essere utilizzata nuovamente quando arrivano nuove informazioni. Qui, la riespandibilità e l’aggiornabilità diventano parte dell’efficienza insieme al rapporto di compressione.
Definito da questa prospettiva, l’obiettivo della rappresentazione interna efficiente cambia da «coprire il massimo numero di casi con la rappresentazione minima». Più importante è limitare la complessità non necessaria al ragionamento corrente senza perdere differenze di significato che potrebbero modificare un giudizio futuro. Se le parti comuni possono essere condivise mentre solo le relazioni non equivalenti vengono conservate come ramificazioni, non è necessario memorizzare ogni caso in modo indipendente. Allo stesso tempo, non è necessario integrare irreversibilmente tutto in un unico concetto astratto. L’efficienza può essere valutata anche in base a quanto piccolo sia l’onere necessario per mantenere una struttura capace di ritornare alle differenze necessarie.
Applicato alla progettazione di Sai＊aus, lo scopo di conservare molteplici coordinate filosofiche non è generare tante risposte quanti sono i filosofi. È distinguere come cambia l’impostazione del problema a seconda di quale relazione viene portata in primo piano per lo stesso input e collegare tali differenze a una forma in cui gli esseri umani possano giudicarle. Se l’autodeterminazione è centrale secondo una coordinata e le norme sociali secondo un’altra, l’IA non dovrebbe determinare nessuna delle due come il «vero problema» della persona, ma trattare quali condizioni ciascuna spiega e quali non spiega. Le molteplici rappresentazioni interne non vengono utilizzate per mostrare agli esseri umani più informazioni, ma per impedire una fissazione prematura del significato.
Questa progettazione deve essere collocata con cautela anche nel confronto con l’IA generalista. Le IA su larga scala possono generare molteplici prospettive e presentare spiegazioni differenti a seconda del contesto. La differenza, quindi, non può essere formulata semplicemente come «le altre IA danno una sola risposta». Il focus progettuale che Sai＊aus può adottare non è la mera capacità di generare molteplici punti di vista, ma il trattarli come rappresentazioni del problema non equivalenti e il progettare esplicitamente quali differenze conservare, in quali condizioni portarle in primo piano e dove restituire all’essere umano il giudizio sul significato. Ciò che dovrebbe essere confrontato non è il numero delle prospettive, ma il modo in cui le differenze tra prospettive si collegano agli aggiornamenti della comprensione.
Anche i metodi di valutazione devono cambiare per adeguarsi a questa progettazione. Tra le possibili misure vi sono se l’applicazione di coordinate differenti allo stesso input modifica effettivamente la selezione delle condizioni importanti, se la ponderazione delle coordinate appropriate può essere aggiornata con informazioni aggiuntive, se una rappresentazione posta in secondo piano può essere riespansa quando necessario e se la presentazione di molteplici rappresentazioni consente agli utenti di distinguere più accuratamente i principali punti decisionali. Queste non costituiscono un’unica scala universale, ma possono collegare il principio progettuale delle «rappresentazioni multiple» a un comportamento osservabile. È importante porre una distanza misurabile tra principio ed effetto.
Una singola astrazione è spesso potente. Senza individuare una struttura comune, il trasferimento della conoscenza e il ragionamento efficiente diventano difficili. Tuttavia, nell’esperienza umana, il successo stesso di un’astrazione può cancellare un altro significato. Ciò che serve, quindi, non è né rifiutare la compressione né preservare la complessità immutata. Si tratta di gestire fino a che punto gli elementi possono essere condivisi e dove dovrebbero ramificarsi in rappresentazioni non equivalenti. Molteplici coordinate filosofiche offrono un modo per riflettere su quel confine.
Per un’IA che cerca di comprendere gli esseri umani, l’efficienza non consiste soltanto nel raggiungere una spiegazione attraverso il percorso più breve. Comprende anche il portare in primo piano la struttura necessaria al giudizio corrente senza perdere la possibilità di un aggiornamento futuro attraverso un’altra prospettiva. Invece di un’unica rappresentazione minima, si mantengono rappresentazioni che possono riespandersi in differenti spazi di significato quando necessario. La rappresentazione interna efficiente passa allora da una compressione che elimina la complessità a una progettazione che conserva, in forma riutilizzabile, differenze importanti all’interno della complessità. E quale significato venga infine assunto come proprio problema non viene fissato all’interno dell’IA, ma restituito al giudizio umano.
Non risposte. Comprensione.