지식 기반은 과거의 정보를 재사용할 수 있게 하기 위해 존재합니다. 사실, 판단, 근거, 결과를 저장하면 같은 조사를 반복할 필요를 줄이고 다음 의사결정을 더 빠르게 할 수 있습니다. 그러나 인간의 판단을 다루는 지식 기반에서 결론만 저장하면 중요한 조건이 빠질 수 있습니다. 어떤 판단이 적절했던 이유에는 당시 이용할 수 있었던 정보뿐 아니라 기한, 선택지가 유효하게 남아 있던 기간, 관련된 사람들이 놓여 있던 시간적 상황도 포함되기 때문입니다.
예를 들어 어떤 기록에 한 조직이 짧은 기간 안에 서비스 제공 방식을 변경했다고 되어 있다고 합시다. 결과만 보면 이것은 “이러한 조건에서는 변화를 우선해야 한다”는 지식으로 재사용될 수 있습니다. 그러나 기존 방식을 유지할 수 있는 기한이 다가오고 있었는지, 아니면 이용자에게 미치는 영향을 피하기 위한 일시적인 판단이었는지에 따라 그 결론의 의미는 달라집니다. 시간적 조건을 잃은 지식은 다른 상황에서 지나치게 일반화될 위험이 있습니다.
인간의 유한성을 지식으로 다룬다는 것은 “인간은 유한하다”라는 일반 명제를 저장한다는 뜻이 아닙니다. 중요한 것은 각각의 판단에서 무엇을 되돌릴 수 없었는지, 어떤 선택지에 기한이 있었는지, 그리고 일부 정보를 여전히 이용할 수 없는 상태에서 어느 시점에 결정을 내려야 했는지를 적용 조건으로 보존하는 것입니다. 그러면 과거의 결론을 현재로 그대로 옮기는 대신 현재와의 차이를 검토할 수 있습니다.
이러한 설계에서는 지식을 업데이트한다는 의미도 달라집니다. 새로운 사실이 추가될 때만 업데이트가 필요한 것이 아니라, 한때 가역적이라고 여겼던 판단이 실제로는 큰 복구 비용을 수반했다는 사실이나 이전에는 중요하게 여기지 않았던 시간적 조건이 결과에 영향을 미쳤다는 사실을 알게 되었을 때에도 지식을 업데이트해야 합니다. 결과뿐 아니라 판단 조건 자체에 대한 이해가 변했다는 사실도 다음 의사결정에 사용할 수 있는 지식이 되기 때문입니다.
그렇다고 모든 개인적 사정을 저장해야 한다는 뜻은 아닙니다. 지식 기반에는 재사용 가능성, 필요성, 개인정보 보호 등 여러 제약이 있습니다. 따라서 보존해야 할 것은 한 개인의 삶 전체에 대한 기록이 아니라 판단의 타당성을 바꿀 수 있는 조건입니다. 기한의 존재 여부, 변경 가능성, 실패에서 회복할 수 있는 정도, 타인에게 미치는 비가역적 영향처럼 다음 판단에서 차이를 만들어낼 수 있는 정보를 선별해야 합니다.
여기에서 ‘내부 효율 표현’과의 연결이 생깁니다. 효율적인 내부 표현이 단순히 정보량을 줄이는 것을 뜻한다면 시간적 맥락은 중복 정보로 간주되어 제거될 수 있습니다. 그러나 인간의 판단을 바꿀 수 있는 차이를 보존하는 것을 효율성의 조건에 포함한다면, 유한성과 관련된 정보는 압축 대상이 아니라 필요한 구조가 됩니다. 무엇을 보존해야 하는지는 저장 용량뿐 아니라 미래의 판단에 어떤 차이가 필요할지에 따라 결정됩니다.
Sai＊aus에게 지식은 과거의 답을 고정하기 위한 것만은 아닙니다. 과거에 무엇을 알고 있었고 무엇을 알지 못했으며 어떤 조건에서 결정을 내렸는지를 현재의 질문으로 다시 가져오기 위한 것입니다. 현재의 사람이 과거와 반드시 같은 상황에 있는 것은 아니기 때문에, 비교에는 결론만이 아니라 적용 조건도 포함되어야 합니다. 그렇게 함으로써 지식은 인간의 판단을 우회하는 지름길이 아니라 판단의 차이를 이해하기 위한 기반이 됩니다.
AI는 방대한 과거를 참조할 수 있지만 인간은 현재를 매번 한 번씩만 살아갑니다. 이러한 비대칭성 속에서 지식 기반의 역할은 과거의 최적 답으로 현재에 명령하는 것이 아닙니다. 과거의 판단이 어떤 조건에서 유효했는지, 그리고 그것이 현재의 조건과 어떻게 다른지를 보이게 하여 유한한 현재에 있는 인간이 다시 선택할 수 있도록 하는 것입니다. 지식이 기억해야 할 것은 결론뿐 아니라 그 결론이 의미를 가졌던 시간의 경계이기도 합니다.
답이 아니라, 이해를.