장기적인 대화를 지원하는 AI에서 과거의 목표를 기억하는 것은 분명한 이점이 있습니다. 몇 달 전에 정한 학습 계획, 업무 목표, 삶에 대한 희망을 유지할 수 있다면 당사자는 매번 처음부터 모든 것을 설명할 필요가 없습니다. 과거의 판단을 현재 상황과 비교할 수도 있습니다. 그러나 ‘무언가를 기억하는 것’과 ‘그것을 지금도 유효한 지식으로 취급하는 것’은 구분할 필요가 있습니다.
목표는 발생한 사건과 성격이 다릅니다. ‘그 사람이 어느 날 이런 말을 했다’는 사실은 나중에 그 사람이 생각을 바꾸더라도 과거에 관한 사실로 남습니다. 반면 ‘이 사람의 목표는 X다’와 같은 진술에는 현재 상태에 대한 주장이 포함됩니다. 과거의 진술을 근거로 그 상태를 갱신하지 않은 채 계속 사용한다면, 역사적으로는 정확하더라도 현재의 사람을 나타내는 지식으로서는 부정확할 수 있습니다.
따라서 저장된 목표에는 내용뿐 아니라 시간도 필요합니다. 단지 ‘나는 창업하고 싶다’만 보존하는 대신, 시스템은 ‘어느 시점에 특정한 이유와 조건 아래 그 사람은 창업을 목표로 삼고 있었다’고 표현할 수 있습니다. 그리고 이후의 행동과 현실에서 돌아온 반응을 바탕으로 그 목표가 여전히 유효한지, 재확인이 필요한지, 또는 본인이 명시적으로 변경했는지를 구분할 수 있습니다.
이유와의 관계도 중요합니다. 같은 목표라도 그 사람이 더 자유로운 방식으로 일하기를 원하는지, 소득을 늘리고 싶은지, 특정 문제를 해결하는 사업을 만들고 싶은지에 따라 의미가 달라질 수 있습니다. 목표는 저장하면서 그 이유를 잃어버리면 조건이 변했을 때 무엇을 다시 유효성 검증해야 하는지 시스템은 알 수 없습니다. 반대로 어떤 이유를 절대적인 동기로 고정하면 이후 당사자의 이해가 변했을 때 또 다른 문제가 생깁니다. 이유 역시 특정 시점과 확실성의 정도를 가진 정보로 다루어야 합니다.
여기서 갱신은 과거의 목표를 삭제한다는 뜻이 아닙니다. 목표가 바뀌었을 때 이전 기록을 지우면 왜 변화가 일어났는지를 설명하는 경로가 사라집니다. 장기적인 이해에는 그 사람이 이전에 무엇을 원했는지, 어떤 경험이 무엇을 바꾸었는지, 그리고 지금은 어떻게 생각하는지를 보여 주는 이력이 도움이 됩니다. 중요한 것은 오래된 정보를 현재 상태와 혼동하지 않으면서 보존하는 것입니다.
AI 자체의 추론과 당사자의 명시적인 진술도 구분해야 합니다. 행동 변화로부터 AI가 ‘목표에 대한 관심이 줄어들고 있을 가능성이 있다’고 추론하더라도, 그것은 당사자가 ‘이 목표를 포기하기로 결정했다’고 말한 것과 다릅니다. 두 가지를 같은 확실성으로 저장하면 추론이 이후 사실로 참조되어 당사자의 자기 이해를 불필요하게 유도할 수 있습니다.
따라서 지식 표현에는 누가 그 정보를 말했는지, 언제 말했는지, 어떤 경험이나 이유와 연결되어 있는지, 현재의 유효성이 확인되었는지, 그리고 그것이 추론인지 명시적인 선택인지와 같은 구분이 필요합니다. 모든 세부 사항을 보존할 필요는 없지만 이후의 판단을 바꿀 수 있는 차이는 잃지 않아야 합니다. 압축은 단순히 정보량을 줄이는 것이 아니라 필요한 관계를 보존하면서 정보를 다루기 쉽게 만들어야 합니다.
Sai＊aus의 내부 효율 표현에서는 이로 인해 목표의 위치가 달라집니다. 목표는 추론이 시작되는 고정된 입력이 아니라 인간의 경험을 통해 상태가 변할 수 있는 요소입니다. 목표를 뒷받침하는 이유, 작은 행동, 현실에서 돌아온 차이, 인간 이해의 변화를 서로 연결함으로써 시스템은 현재 목표가 계속 유효해야 하는지를 다시 검토하는 데 필요한 맥락을 보존할 수 있습니다.
이 설계는 AI가 인간의 목표를 자주 바꾸도록 하기 위한 것이 아닙니다. 오히려 AI에게 목표를 바꿀 권한을 넘기지 않으면서 과거의 목표가 자동으로 현재의 목적으로 계속 사용되는 것을 막습니다. 재검증이 필요함을 나타내고, 과거와 현재의 차이를 제시하며, 최종적인 의미 부여를 당사자에게 돌려줄 수 있습니다. 그 경계가 있기 때문에 기억의 연속성과 인간이 변화할 수 있는 능력이 공존할 수 있습니다.
AI가 한 인간에 대해 더 많은 것을 알게 될수록 지식의 정확성은 더 이상 얼마나 적게 잊는지만으로 측정할 수 없습니다. 과거의 꿈을 정확하게 보존하면서 그것이 지금도 유효한지 구분해야 하고, 변화한 목표를 과거를 덮어쓰는 대신 변화의 이력으로 유지해야 하며, AI의 추론과 인간의 선택을 혼동하지 않아야 합니다. 시간 속에서 한 사람을 이해하는 지식에는 인간을 고정된 초상이 아니라 갱신 가능한 상태로 다루는 구조가 필요합니다.
따라서 ‘과거의 꿈을 저장해야 하는가?’라는 질문은 저장과 삭제 중 하나를 택하는 이분법적인 선택이 아닙니다. 그것들은 이력으로 남겨 둘 수 있으며, 현재의 목적으로 사용할 때 그 유효성을 다시 확인할 수 있습니다. 그러면 기억은 사람을 과거에 묶어 두는 장치가 아니라 그 사람이 어떻게 변화해 왔는지를 이해하기 위한 자료가 될 수 있습니다. 장기적인 AI 지식 설계에는 두 가지를 동시에 성립시키는 것이 필요합니다. 과거를 잃지 않는 것과 현재를 과거에 고정하지 않는 것입니다.
답이 아니라, 이해를.