Les bases de connaissances organisationnelles sont conçues pour réutiliser des jugements, des procédures, des réussites et des échecs passés. À mesure que l’accumulation progresse, les organisations n’ont plus besoin de réexaminer chaque fois le même problème depuis le début, ce qui accroît la rapidité et la cohérence de la prise de décision. Pourtant, plus une connaissance est réutilisée, plus elle peut passer du statut de trace indiquant que « cela a été jugé ainsi dans le passé » à celui de norme selon laquelle « cela devrait encore être jugé ainsi aujourd’hui ». Il existe un paradoxe : plus une connaissance devient précieuse, plus la motivation à réexaminer les conditions dans lesquelles elle a été établie s’affaiblit.
Lorsque l’IA utilise une base de connaissances, cette fixation peut devenir encore plus forte. Si des documents passés et des historiques de décisions sont retrouvés et présentés de manière répétée comme fondements des réponses, ces informations peuvent acquérir de facto une autorité par leur fréquence d’utilisation. Même lorsque des cas différents apparaissent ensuite, s’ils sont marginalisés parce qu’ils correspondent mal aux connaissances existantes, la base de connaissances ne reproduit que le monde qu’elle connaît déjà. Il ne s’agit pas d’un manque d’information, mais d’une fermeture sur soi causée par l’absence de voies de mise à jour.
Pour éviter ce problème, la connaissance doit conserver non seulement son contenu, mais aussi les conditions dans lesquelles elle était valable. À quelle période, pour quel objet, dans quel but et sous quelles contraintes l’était-elle ? Quelles preuves l’étayaient et quelles exceptions sont connues ? Si ces conditions subsistent, elles peuvent être comparées à la situation présente. Lorsque les conditions sont perdues et que seules les conclusions sont conservées, des jugements locaux du passé peuvent facilement être réutilisés comme règles universelles.
Il est également important de ne pas placer les objections à l’extérieur de la connaissance. Lorsqu’un cas ne correspond pas à une règle existante, au lieu de l’écarter comme une simple exception, il faut consigner « quelle condition a changé de sorte que la connaissance existante ne s’applique plus ». Une objection n’est pas une information qui détruit la connaissance ; c’est une information qui précise son champ d’application. Une base de connaissances mature n’est pas celle qui contient moins d’informations contraires, mais celle qui peut mettre à jour ses propres limites grâce à ces informations contraires.
Dans cette structure, l’historique des mises à jour devient lui-même une connaissance importante. Si seule la conclusion actuelle est conservée, nous ne pouvons pas savoir pourquoi un jugement antérieur a changé. Si les anciens jugements, les nouvelles preuves, les raisons du changement et les conditions d’application actuelles sont reliés, alors, lorsqu’une autre situation se présente plus tard, nous pouvons réutiliser non seulement les informations les plus récentes, mais aussi la logique du changement. La connaissance s’étend d’un ensemble de réponses à une histoire qui inclut la manière dont les réponses ont évolué.
Les propres productions de l’IA doivent être traitées selon le même principe. Si les résumés et jugements générés par l’IA dans le passé sont considérés comme fiables sans condition dans les traitements ultérieurs, les contenus générés peuvent acquérir avec le temps le statut d’informations primaires. Les connaissances issues de l’IA doivent donc rester reliées à leurs fondements, au moment de leur génération, aux parties non vérifiées et aux corrections ultérieures. Ne pas accroître l’autorité d’un contenu au seul motif que l’IA l’a elle-même généré auparavant constitue la version, pour une base de connaissances, de la distance réflexive.
Dans les organisations, la fixation des connaissances est également liée aux structures de responsabilité. La raison « cela a toujours été la procédure » réduit la charge consistant à expliquer les jugements présents. Mais lorsque l’environnement a changé, cette stabilité peut retarder la découverte des problèmes. Si une base de connaissances est conçue pour recevoir les exceptions et objections présentes, elle peut privilégier la cohérence avec la réalité actuelle plutôt que la préservation de la cohérence avec le passé.
Sur le plan technique, gérer les éléments de connaissance comme des phrases isolées se prête moins à l’autocorrection que relier les fondements, les conditions d’application, les objections associées, l’historique des mises à jour et l’état actuel. L’important n’est pas d’augmenter le volume d’information, mais de pouvoir retracer quelles informations soutiennent quelles affirmations et dans quelles conditions ces affirmations deviennent plus faibles. Lorsque les relations entre les éléments de connaissance sont visibles, il devient plus facile d’identifier l’étendue affectée par de nouvelles preuves.
Les indicateurs d’évaluation doivent eux aussi changer. La précision de la recherche et la vitesse de réponse ne suffisent pas à mesurer si une base de connaissances est rigide. Il faut examiner si les connaissances associées ont été mises à jour lorsque de nouvelles preuves réfutantes sont apparues, si les anciennes conclusions ont été correctement rétrogradées, si les exceptions ont été intégrées aux conditions d’application et si les raisons des changements peuvent être retracées. La qualité de la connaissance réside non seulement dans la possession d’informations correctes, mais aussi dans sa capacité à être corrigée face aux erreurs et aux changements de conditions.
Pour Sai＊aus, l’accumulation de connaissances n’a pas pour but de comprendre les humains comme des entités figées. Ce qui importe, c’est de pouvoir utiliser les dialogues et compréhensions passés tout en permettant aux propos présents de remettre en question les compréhensions antérieures. Le même principe peut s’appliquer aux connaissances organisationnelles. À mesure que l’accumulation augmente, la certitude ne devrait pas simplement se renforcer ; le système devrait plutôt devenir plus précis quant à ce qui a changé et dans quelles conditions. C’est une conception qui associe quantité de connaissances et retenue épistémique.
Pour une base de connaissances, continuer à se remettre en question ne signifie pas rendre toutes les connaissances instables. Cela signifie utiliser de manière stable les connaissances bien établies sans jamais perdre leurs conditions d’application ni leurs voies de mise à jour. Lorsque la nouvelle réalité entre en conflit avec les connaissances existantes, le système doit pouvoir examiner quel côté doit être révisé plutôt que d’exclure la réalité comme une exception. Grâce à cette capacité, une base de connaissances passe d’un entrepôt qui protège les réponses correctes du passé à un mécanisme qui actualise continuellement sa relation avec la réalité.
Plus les connaissances s’accroissent, plus la capacité à prendre de la distance à leur égard devient nécessaire. Un système ne doit pas accorder une autorité inconditionnelle à sa propre accumulation, mais conserver les conditions de validité, les objections, les corrections et les changements au sein d’une même structure de connaissances. L’autocorrection devient alors non pas un traitement d’exception, mais une fonction normale nécessaire pour que la connaissance demeure connaissance. La compréhension que vise Sai＊aus ne consiste ni à oublier le passé ni à lui obéir. Elle consiste à maintenir une relation dans laquelle le passé peut être utilisé tout en étant remis en question, encore et encore, par la réalité présente.
Pas des réponses. De la compréhension.