Bases de conhecimento organizacionais são construídas para reutilizar julgamentos, procedimentos, sucessos e fracassos do passado. À medida que o acúmulo cresce, as organizações não precisam reconsiderar o mesmo problema do zero todas as vezes, aumentando a velocidade e a consistência da tomada de decisões. No entanto, quanto mais uma informação é reutilizada, mais ela pode passar de um registro de que “isso foi julgado dessa forma no passado” para uma norma segundo a qual “isso ainda deve ser julgado dessa forma agora”. Há um paradoxo: quanto mais valioso o conhecimento se torna, mais fraca fica a motivação para reexaminar as condições sob as quais ele foi estabelecido.
Quando a IA utiliza uma base de conhecimento, essa fixação pode se tornar ainda mais forte. Se documentos passados e históricos de decisões forem recuperados e apresentados repetidamente como fundamento para respostas, essas informações podem adquirir autoridade de fato pela frequência de uso. Mesmo quando casos diferentes surgem posteriormente, se forem marginalizados por corresponderem pouco ao conhecimento existente, a base de conhecimento reproduzirá apenas o mundo que já conhece. Isso não é falta de informação, mas um fechamento sobre si mesma causado pela falta de caminhos de atualização.
Para evitar esse problema, o conhecimento deve preservar não apenas o conteúdo, mas também as condições sob as quais esse conhecimento era válido. Em que período, para qual objeto, finalidade e sob quais restrições ele era válido? Quais evidências o sustentavam e quais exceções são conhecidas? Se essas condições forem preservadas, poderão ser comparadas com a situação presente. Quando as condições se perdem e apenas as conclusões são armazenadas, julgamentos locais do passado podem ser facilmente reutilizados como regras universais.
Também é importante não colocar as objeções fora do conhecimento. Quando surge um caso que não se encaixa em uma regra existente, em vez de descartá-lo como mera exceção, deve-se registrar “qual condição mudou de modo que o conhecimento existente deixou de se aplicar”. Uma objeção não é informação que destrói o conhecimento; é informação que torna mais preciso seu âmbito de aplicação. Uma base de conhecimento madura não é aquela com menos informações contrárias, mas aquela capaz de atualizar seus próprios limites por meio de informações contrárias.
Nessa estrutura, o próprio histórico de atualizações se torna conhecimento importante. Se apenas a conclusão atual for preservada, não poderemos saber por que um julgamento anterior mudou. Se julgamentos antigos, novas evidências, razões para a mudança e condições atuais de aplicação forem vinculados, então, quando outra situação surgir mais tarde, poderemos reutilizar não apenas as informações mais recentes, mas também a lógica da mudança. O conhecimento se expande de uma coleção de respostas para uma história que inclui como as respostas mudaram.
As próprias produções da IA precisam ser tratadas segundo o mesmo princípio. Se resumos e julgamentos gerados pela IA no passado forem considerados confiáveis incondicionalmente em processamentos posteriores, o conteúdo gerado poderá adquirir, com o tempo, o status de informação primária. Portanto, o conhecimento derivado da IA precisa permanecer conectado a seus fundamentos, ao momento da geração, às partes não verificadas e às correções posteriores. Não aumentar a autoridade de um conteúdo apenas porque a própria IA o gerou anteriormente é a versão, para uma base de conhecimento, da distância reflexiva.
Nas organizações, a fixação do conhecimento também está ligada às estruturas de responsabilidade. A justificativa “este sempre foi o procedimento” reduz o ônus de explicar os julgamentos presentes. Mas, quando o ambiente mudou, essa estabilidade pode atrasar a descoberta de problemas. Se uma base de conhecimento for projetada para receber exceções e objeções presentes, poderá priorizar a consistência com a realidade atual em vez de preservar a consistência com o passado.
Tecnicamente, gerenciar itens de conhecimento como frases isoladas é menos adequado à autocorreção do que vincular fundamentos, condições de aplicação, objeções relacionadas, histórico de atualizações e estado atual. O importante não é aumentar o volume de informações, mas poder rastrear quais informações sustentam qual afirmação e sob quais condições essa afirmação se torna mais fraca. Quando as relações entre os itens de conhecimento são visíveis, torna-se mais fácil identificar o alcance afetado por novas evidências.
As métricas de avaliação também precisam mudar. A precisão da busca e a velocidade de resposta, por si só, não conseguem medir se uma base de conhecimento é rígida. É necessário examinar se o conhecimento relacionado foi atualizado quando surgiram novas evidências refutadoras, se conclusões antigas foram devidamente rebaixadas, se exceções foram refletidas nas condições de aplicação e se as razões das mudanças podem ser rastreadas. A qualidade do conhecimento reside não apenas em possuir informações corretas, mas também em ser corrigível em resposta a erros e mudanças de condições.
Para Sai＊aus, acumular conhecimento não tem como objetivo compreender os seres humanos como entidades fixas. O que importa é poder usar diálogos e compreensões passados, permitindo ao mesmo tempo que afirmações presentes coloquem em questão compreensões anteriores. O mesmo princípio pode ser aplicado ao conhecimento organizacional. À medida que o acúmulo cresce, a certeza não deve simplesmente se fortalecer; em vez disso, o sistema deve se tornar mais preciso sobre o que mudou e sob quais condições. Trata-se de um design que combina quantidade de conhecimento com contenção epistêmica.
Para uma base de conhecimento continuar questionando a si mesma não significa tornar todo o conhecimento instável. Significa usar de forma estável o conhecimento bem estabelecido sem jamais perder suas condições de aplicação e seus caminhos de atualização. Quando uma nova realidade entra em conflito com o conhecimento existente, o sistema deve ser capaz de testar qual lado precisa ser revisto, em vez de excluir a realidade como exceção. Com essa capacidade, uma base de conhecimento passa de um depósito que protege respostas corretas do passado para um mecanismo que atualiza continuamente sua relação com a realidade.
Quanto mais o conhecimento cresce, mais necessária se torna a capacidade de tomar distância desse conhecimento. Um sistema não deve conceder autoridade incondicional ao próprio acúmulo, mas preservar condições de validade, objeções, correções e mudanças dentro da mesma estrutura de conhecimento. A autocorreção deixa então de ser um tratamento de exceções e passa a ser uma função normal necessária para que o conhecimento continue sendo conhecimento. A compreensão que Sai＊aus busca não é esquecer o passado nem obedecer a ele. É manter uma relação em que o passado possa ser usado enquanto é questionado repetidas vezes pela realidade presente.
Não respostas. Compreensão.