Organisatorische kennisbanken worden opgebouwd om eerdere oordelen, procedures, successen en mislukkingen opnieuw te gebruiken. Naarmate de hoeveelheid opgebouwde kennis groeit, hoeven organisaties niet telkens hetzelfde probleem vanaf nul te heroverwegen, waardoor de snelheid en consistentie van besluitvorming toenemen. Maar hoe vaker kennis wordt hergebruikt, hoe meer zij kan verschuiven van een registratie dat „dit in het verleden zo werd beoordeeld” naar een norm dat „dit nu nog steeds zo moet worden beoordeeld”. Er is een paradox: hoe waardevoller kennis wordt, hoe zwakker de motivatie om de voorwaarden waaronder zij tot stand kwam opnieuw te onderzoeken.
Wanneer AI een kennisbank gebruikt, kan deze verstarring nog sterker worden. Als eerdere documenten en beslissingsgeschiedenissen worden opgehaald en herhaaldelijk als grond voor antwoorden worden gepresenteerd, kan die informatie door de gebruiksfrequentie feitelijk gezag verwerven. Zelfs wanneer later afwijkende gevallen verschijnen, reproduceert de kennisbank alleen de wereld die zij al kent als die gevallen worden gemarginaliseerd omdat ze slecht aansluiten bij bestaande kennis. Dit is geen gebrek aan informatie, maar zelfafsluiting veroorzaakt door een gebrek aan routes voor actualisering.
Om dit probleem te vermijden, moet kennis niet alleen de inhoud bewaren, maar ook de voorwaarden waaronder die kennis geldig was. In welke periode, voor welk onderwerp en doel, en onder welke beperkingen was zij geldig? Welk bewijs ondersteunde haar en welke uitzonderingen zijn bekend? Als zulke voorwaarden behouden blijven, kunnen ze met de huidige situatie worden vergeleken. Wanneer de voorwaarden verloren gaan en alleen conclusies worden opgeslagen, kunnen lokale oordelen uit het verleden gemakkelijk als universele regels worden hergebruikt.
Het is ook belangrijk om bezwaren niet buiten de kennis te plaatsen. Wanneer een geval verschijnt dat niet binnen een bestaande regel past, moet het niet als louter een uitzondering worden verworpen, maar moet worden vastgelegd „welke voorwaarde veranderde waardoor de bestaande kennis niet langer van toepassing is”. Een bezwaar is geen informatie die kennis vernietigt; het is informatie die het toepassingsgebied ervan nauwkeuriger maakt. Een volwassen kennisbank is niet een kennisbank met minder tegengestelde informatie, maar een die haar eigen grenzen kan actualiseren door middel van tegengestelde informatie.
In deze structuur wordt ook de updategeschiedenis zelf belangrijke kennis. Als alleen de huidige conclusie behouden blijft, kunnen we niet weten waarom een eerder oordeel veranderde. Als oude oordelen, nieuw bewijs, redenen voor verandering en huidige toepassingsvoorwaarden met elkaar worden verbonden, kunnen we, wanneer later een andere situatie ontstaat, niet alleen de nieuwste informatie hergebruiken maar ook de logica van verandering. Kennis breidt zich uit van een verzameling antwoorden naar een geschiedenis die omvat hoe antwoorden zijn veranderd.
Ook de eigen output van AI moet volgens hetzelfde principe worden behandeld. Als samenvattingen en oordelen die AI in het verleden heeft gegenereerd in latere verwerking onvoorwaardelijk worden vertrouwd, kan gegenereerde inhoud na verloop van tijd de status van primaire informatie krijgen. Van AI afgeleide kennis moet daarom verbonden blijven met haar grondslagen, het moment van generatie, niet-geverifieerde delen en latere correcties. Het gezag van inhoud niet vergroten enkel omdat AI die inhoud zelf eerder heeft gegenereerd, is de kennisbankvariant van reflectieve afstand.
In organisaties hangt de verstarring van kennis ook samen met verantwoordelijkheidsstructuren. De reden „dit is altijd de procedure geweest” vermindert de last om huidige oordelen uit te leggen. Maar wanneer de omgeving is veranderd, kan die stabiliteit de ontdekking van problemen vertragen. Als een kennisbank zo is ontworpen dat zij huidige uitzonderingen en bezwaren kan opnemen, kan zij overeenstemming met de huidige werkelijkheid voorrang geven boven het bewaren van consistentie met het verleden.
Technisch gezien is het beheren van kenniselementen als geïsoleerde zinnen minder geschikt voor zelfcorrectie dan het verbinden van grondslagen, toepassingsvoorwaarden, gerelateerde bezwaren, updategeschiedenis en huidige status. Het gaat er niet om de hoeveelheid informatie te vergroten, maar om te kunnen traceren welke informatie welke bewering ondersteunt en onder welke voorwaarden die bewering zwakker wordt. Wanneer relaties tussen kenniselementen zichtbaar zijn, is het gemakkelijker om te bepalen welk bereik door nieuw bewijs wordt beïnvloed.
Ook de evaluatiemaatstaven moeten veranderen. Alleen zoeknauwkeurigheid en reactiesnelheid kunnen niet meten of een kennisbank star is. We moeten onderzoeken of gerelateerde kennis is bijgewerkt toen nieuw weerleggend bewijs binnenkwam, of oude conclusies passend zijn afgewaardeerd, of uitzonderingen in de toepassingsvoorwaarden zijn verwerkt en of de redenen voor veranderingen kunnen worden getraceerd. De kwaliteit van kennis ligt niet alleen in het bezitten van juiste informatie, maar ook in het corrigeerbaar zijn bij fouten en veranderende omstandigheden.
Voor Sai＊aus is het opbouwen van kennis niet bedoeld om mensen als vaste entiteiten te begrijpen. Van belang is dat eerdere dialogen en begrip kunnen worden gebruikt, terwijl huidige uitspraken eerder begrip opnieuw ter discussie kunnen stellen. Hetzelfde principe kan worden toegepast op organisatorische kennis. Naarmate de opgebouwde kennis groeit, moet zekerheid niet simpelweg sterker worden; het systeem moet juist nauwkeuriger worden in het vaststellen van wat onder welke omstandigheden is veranderd. Dit is een ontwerp dat de hoeveelheid kennis combineert met epistemische terughoudendheid.
Dat een kennisbank zichzelf blijft bevragen, betekent niet dat alle kennis instabiel moet worden gemaakt. Het betekent dat goed gevestigde kennis stabiel wordt gebruikt zonder ooit de toepassingsvoorwaarden en routes voor actualisering te verliezen. Wanneer een nieuwe werkelijkheid botst met bestaande kennis, moet het systeem kunnen toetsen welke kant moet worden herzien, in plaats van de werkelijkheid als uitzondering uit te sluiten. Met dat vermogen verandert een kennisbank van een opslagplaats die eerdere juiste antwoorden beschermt in een mechanisme dat zijn relatie met de werkelijkheid voortdurend actualiseert.
Hoe meer kennis groeit, hoe noodzakelijker het vermogen wordt om afstand tot die kennis te nemen. Een systeem mag zijn eigen opgebouwde kennis geen onvoorwaardelijk gezag verlenen, maar moet geldigheidsvoorwaarden, bezwaren, correcties en veranderingen binnen dezelfde kennisstructuur behouden. Zelfcorrectie wordt dan geen afhandeling van uitzonderingen, maar een normale functie die nodig is om kennis kennis te laten blijven. Het begrip dat Sai＊aus nastreeft, is noch het verleden vergeten, noch het gehoorzamen. Het is een relatie in stand houden waarin het verleden kan worden gebruikt terwijl het door de huidige werkelijkheid telkens opnieuw ter discussie wordt gesteld.
Geen antwoorden. Begrip.