Le basi di conoscenza organizzative sono costruite per riutilizzare giudizi, procedure, successi e fallimenti del passato. Con l’aumentare dell’accumulo, le organizzazioni non devono riconsiderare ogni volta lo stesso problema da zero, aumentando così la velocità e la coerenza del processo decisionale. Tuttavia, quanto più spesso una conoscenza viene riutilizzata, tanto più può passare dall’essere una registrazione del fatto che «in passato questo è stato giudicato così» a una norma secondo cui «anche ora questo dovrebbe essere giudicato così». Esiste un paradosso: quanto più la conoscenza diventa preziosa, tanto più si indebolisce la motivazione a riesaminare le condizioni in cui è stata stabilita.
Quando l’IA utilizza una base di conoscenza, questa fissazione può diventare ancora più forte. Se documenti passati e cronologie decisionali vengono recuperati e presentati ripetutamente come fondamento delle risposte, tali informazioni possono acquisire di fatto autorità attraverso la frequenza d’uso. Anche quando in seguito compaiono casi diversi, se vengono marginalizzati perché corrispondono poco alla conoscenza esistente, la base di conoscenza riproduce soltanto il mondo che già conosce. Non si tratta di mancanza di informazioni, ma di una chiusura su se stessa causata dalla mancanza di percorsi di aggiornamento.
Per evitare questo problema, la conoscenza deve conservare non solo il contenuto, ma anche le condizioni in cui tale conoscenza era valida. In quale periodo, per quale oggetto, scopo e sotto quali vincoli era valida? Quali prove la sostenevano e quali eccezioni sono note? Se tali condizioni rimangono, possono essere confrontate con la situazione presente. Quando le condizioni vanno perdute e vengono conservate soltanto le conclusioni, giudizi locali del passato possono facilmente essere riutilizzati come regole universali.
È inoltre importante non collocare le obiezioni al di fuori della conoscenza. Quando compare un caso che non rientra in una regola esistente, invece di scartarlo come una semplice eccezione, occorre registrare «quale condizione è cambiata facendo sì che la conoscenza esistente non sia più applicabile». Un’obiezione non è un’informazione che distrugge la conoscenza; è un’informazione che ne rende più preciso l’ambito di applicazione. Una base di conoscenza matura non è quella con meno informazioni contrarie, ma quella capace di aggiornare i propri confini attraverso le informazioni contrarie.
In questa struttura, anche la cronologia degli aggiornamenti diventa una conoscenza importante. Se viene conservata soltanto la conclusione attuale, non possiamo sapere perché un giudizio precedente sia cambiato. Se i vecchi giudizi, le nuove prove, le ragioni del cambiamento e le attuali condizioni di applicazione vengono collegati, quando in seguito si presenta un’altra situazione possiamo riutilizzare non solo le informazioni più recenti, ma anche la logica del cambiamento. La conoscenza si amplia da una raccolta di risposte a una storia che include il modo in cui le risposte sono cambiate.
Anche gli output prodotti dall’IA devono essere trattati secondo lo stesso principio. Se riassunti e giudizi generati dall’IA in passato vengono considerati affidabili senza condizioni nelle elaborazioni successive, i contenuti generati possono acquisire nel tempo lo status di informazioni primarie. La conoscenza derivata dall’IA deve quindi rimanere collegata ai propri fondamenti, al momento della generazione, alle parti non verificate e alle correzioni successive. Non aumentare l’autorità di un contenuto soltanto perché l’IA stessa lo ha generato in precedenza è la versione, per una base di conoscenza, della distanza riflessiva.
Nelle organizzazioni, la fissazione della conoscenza è legata anche alle strutture di responsabilità. La motivazione «questa è sempre stata la procedura» riduce l’onere di spiegare i giudizi presenti. Ma quando l’ambiente è cambiato, quella stabilità può ritardare la scoperta dei problemi. Se una base di conoscenza è progettata per accogliere eccezioni e obiezioni presenti, può dare priorità alla coerenza con la realtà attuale rispetto alla conservazione della coerenza con il passato.
Dal punto di vista tecnico, gestire gli elementi di conoscenza come frasi isolate è meno adatto all’autocorrezione che collegare fondamenti, condizioni di applicazione, obiezioni correlate, cronologia degli aggiornamenti e stato attuale. Il punto importante non è aumentare il volume delle informazioni, ma poter tracciare quali informazioni sostengono quale affermazione e in quali condizioni tale affermazione diventa più debole. Quando le relazioni tra gli elementi di conoscenza sono visibili, è più facile individuare l’ambito interessato da nuove prove.
Anche le metriche di valutazione devono cambiare. La precisione della ricerca e la velocità di risposta, da sole, non possono misurare se una base di conoscenza sia rigida. Occorre esaminare se la conoscenza correlata è stata aggiornata quando sono arrivate nuove prove confutanti, se le vecchie conclusioni sono state opportunamente declassate, se le eccezioni sono state riflesse nelle condizioni di applicazione e se le ragioni dei cambiamenti possono essere tracciate. La qualità della conoscenza non consiste soltanto nel possedere informazioni corrette, ma anche nell’essere correggibile in risposta agli errori e al mutare delle condizioni.
Per Sai＊aus, accumulare conoscenza non serve a comprendere gli esseri umani come entità fisse. Ciò che conta è poter utilizzare dialoghi e comprensioni passati consentendo al tempo stesso alle affermazioni presenti di mettere in discussione le comprensioni precedenti. Lo stesso principio può essere applicato alla conoscenza organizzativa. Con l’aumentare dell’accumulo, la certezza non dovrebbe semplicemente rafforzarsi; piuttosto, il sistema dovrebbe diventare più preciso riguardo a ciò che è cambiato e alle condizioni in cui è cambiato. È un design che combina quantità di conoscenza e moderazione epistemica.
Per una base di conoscenza, continuare a mettere in discussione se stessa non significa rendere instabile tutta la conoscenza. Significa utilizzare stabilmente la conoscenza ben consolidata senza mai perdere le sue condizioni di applicazione e i percorsi di aggiornamento. Quando una nuova realtà entra in conflitto con la conoscenza esistente, il sistema dovrebbe poter verificare quale lato debba essere rivisto, invece di escludere la realtà come eccezione. Con questa capacità, una base di conoscenza passa da un deposito che protegge le risposte corrette del passato a un meccanismo che aggiorna continuamente il proprio rapporto con la realtà.
Quanto più cresce la conoscenza, tanto più diventa necessaria la capacità di prendere le distanze da quella conoscenza. Un sistema non deve attribuire autorità incondizionata al proprio accumulo, ma deve conservare condizioni di validità, obiezioni, correzioni e cambiamenti all’interno della stessa struttura di conoscenza. L’autocorrezione diventa così non un trattamento delle eccezioni, ma una funzione normale necessaria affinché la conoscenza rimanga conoscenza. La comprensione a cui mira Sai＊aus non consiste né nel dimenticare il passato né nell’obbedirgli. Consiste nel mantenere una relazione in cui il passato possa essere utilizzato continuando a essere messo in discussione, ancora e ancora, dalla realtà presente.
Non risposte. Comprensione.