Nella ricerca e nell’implementazione, l’IA organizza sempre più spesso la letteratura, genera ipotesi e presenta possibili spiegazioni delle osservazioni. Il problema non è soltanto che le ipotesi generate possano essere errate. Una spiegazione logicamente coerente può essere incorporata nei documenti e poi riutilizzata nel lavoro successivo come una «premessa già verificata». Quando il suo status cambia in questo modo, l’incertezza originaria diventa invisibile e il ragionamento non verificato può accumularsi come fatto.
Per evitare questo problema, la validità del ragionamento deve essere separata dal completamento della verifica. Il fatto che una conclusione segua logicamente da determinate premesse è diverso dal fatto che tali premesse siano vere nella realtà. Allo stesso modo, un’ipotesi coerente con più osservazioni non implica che le ipotesi concorrenti siano state eliminate. Quanto più l’IA diventa efficace nel ragionamento, tanto più importante diventa questa distinzione. L’elevata qualità del ragionamento non deve diventare un motivo per omettere la verifica esterna.
Un modo per mantenere la provvisorietà consiste nel registrare separatamente i componenti del contenuto generato. Occorre distinguere ciò che è supportato da fonti esterne o osservazioni, quali parti costituiscono ragionamento dell’IA, ciò che rimane non confermato e quali fatti richiederebbero la revisione o il rigetto dell’ipotesi. In questo modo, anche leggendo in seguito soltanto il testo, è possibile ricostruire in quale fase si trovi la conclusione.
Le condizioni di falsificazione sono particolarmente importanti. Se raccogliamo soltanto «prove a sostegno di questa ipotesi», la spiegazione può facilmente rafforzarsi da sola. Se indichiamo in anticipo quale osservazione renderebbe l’ipotesi non valida, la verifica passa da un’attività che protegge una conclusione a un’attività che la mette alla prova. Quando l’IA genera più ipotesi, affiancare per ciascuna le condizioni di sostegno e di falsificazione aiuta inoltre a evitare una scelta basata unicamente sulla plausibilità.
Nel collegamento con fonti esterne, occorre inoltre distinguere l’esistenza di una fonte dal fatto che tale fonte sostenga l’affermazione. Anche quando si trova una fonte citabile, questa potrebbe non sostenere direttamente l’affermazione attuale se riguarda un soggetto, un periodo o condizioni differenti. Il supporto alla ricerca deve quindi verificare non soltanto se una fonte esista, ma anche l’ambito entro cui affermazione ed evidenza corrispondono. La fondazione sulle evidenze non è decorazione; è un meccanismo per controllare l’ambito di validità di un’affermazione.
Mostrare la provvisorietà non significa semplicemente aggiungere «forse» alle frasi. Se tutto viene reso vago, diventa più difficile capire che cosa sia fortemente supportato e che cosa lo sia debolmente. È necessario variare la formulazione in base allo stato epistemico. Fatti confermati, spiegazioni solide ma non verificate, ipotesi esplorative e sospensione del giudizio per insufficienza di informazioni devono essere distinti, collegando ciascuno alla successiva verifica necessaria.
Un audit deve esaminare non soltanto se una conclusione sia corretta, ma anche se sia stata collocata nello status corretto. Se un’affermazione è valida come ipotesi ma viene registrata come fatto accertato, si tratta di un problema di qualità distinto dal fatto che il suo contenuto si riveli infine vero o falso. Viceversa, trattare fatti sufficientemente verificati con un linguaggio eccessivamente debole può ritardare decisioni necessarie. Rendere provvisorio il ragionamento non significa scrivere sempre in modo debole; significa far corrispondere la forza dell’espressione allo stato delle evidenze.
Questo quadro diventa ancora più importante quando i contenuti generati dall’IA diventano input per successive elaborazioni dell’IA. Se la natura provvisoria di un’ipotesi precedente viene persa prima del riutilizzo, le premesse non verificate possono essere amplificate a ogni livello di ragionamento. Se lo stato epistemico viene preservato nel passaggio, l’elaborazione successiva può valutare quali parti richiedano una nuova verifica. La verificabilità riguarda non soltanto le spiegazioni per gli esseri umani, ma anche la gestione delle premesse nell’elaborazione dell’IA a più fasi.
Nel supporto alla ricerca di Sai＊aus, è importante non chiudere la comprensione in un’unica spiegazione compiuta, ma conservare fino a che punto qualcosa sia stato verificato, dove inizi il ragionamento e che cosa potrebbe aggiornarlo. Quanto più l’IA migliora la propria capacità di generare ipotesi, tanto più necessita anche di una struttura di registrazione che impedisca a tali ipotesi di trasformarsi successivamente in fatti. Capacità generativa e verificabilità tramite audit non devono essere trattate come funzioni separate; devono essere collegate fin dal momento della generazione.
Mantenere provvisorio il ragionamento dell’IA non serve a rallentare la ricerca. Rendendo chiaro quali conclusioni debbano passare alla verifica successiva, quali premesse debbano essere ricontrollate e quali ipotesi possano essere respinte, le risorse di verifica possono essere allocate in modo appropriato. La distinzione importante è tra produrre rapidamente una conclusione e rendere rapidamente definitiva una conclusione. La prima può accelerare l’esplorazione; la seconda può chiudere la porta alla verifica.
La distanza riflessiva necessaria a un’IA di supporto alla ricerca non significa dubitare senza fine del proprio ragionamento e non decidere nulla. Significa conservare da quali evidenze dipenda il ragionamento, fino a che punto sia stato verificato e che cosa ne determinerebbe la revisione. Se validità e verificabilità possono essere separate pur restando collegate, i contenuti generati dall’IA possono essere trattati non come fatti compiuti, ma come candidati verificabili alla conoscenza. Mantenere questo stato costituisce una base per coniugare velocità e affidabilità nella ricerca.
Non risposte. Comprensione.