AI가 많은 구체적 사례를 다루기 위해서는 각각의 입력을 완전히 독립된 사례로 처리하는 것만으로는 충분하지 않습니다. 서로 다른 입력 사이에 공통되는 특징과 관계를 추출해 더 높은 수준의 표상으로 사용할 수 있다면, 이전에 접한 적이 없는 상황에도 기존 구조를 전용할 수 있습니다. 이런 의미에서 추상화는 단순한 정보 축소가 아니라 추론과 일반화를 가능하게 하는 중요한 기능입니다. 그러나 인간의 경험을 대상으로 할 때는 또 다른 문제가 생깁니다. 어떤 경험을 하나의 고차 개념으로 적절하게 요약할 수 있다고 해도, 그것이 그 경험에 성립하는 유일한 추상화라는 뜻은 아니기 때문입니다.
예를 들어 “현재 일을 그만두고 싶지만 주변 사람들을 실망시킬까 봐 두렵다”라는 진술에는 여러 추상화가 성립할 수 있습니다. 자기결정과 책임의 관계로 표상할 수도 있고, 타인의 인정과 자기평가의 관계로 표상할 수도 있으며, 집단의 규범이 개인의 선택에 미치는 영향으로 표상할 수도 있습니다. 또한 미래의 불확실성에 대한 회피로 이해할 수도 있습니다. 이들은 모두 같은 진술에서 도출되기 때문에 중복되어 보일 수 있지만 동의어는 아닙니다. 각각은 서로 다른 관계를 전경화하고, 서로 다른 조건을 중요하게 다루며, 이후의 질문과 판단에 서로 다른 영향을 줍니다.
그렇다면 문제는 설명력이 가장 높은 하나의 추상화를 단순히 선택하면 되는가 하는 점입니다. 하나의 표상으로 통합하면 처리가 간결해지고 유사한 사례와의 대응도 쉬워집니다. 그러나 모든 것을 ‘인정’으로 통합하면 경제적 불확실성이나 소속의 변화가 이후의 추론에서 배경으로 물러날 수 있습니다. 반대로 ‘불확실성’을 중심에 놓으면, 그 사람이 타인의 기대를 어떻게 내면화했는가라는 관계가 약하게 보일 수 있습니다. 추상화를 통한 효율화는 무엇을 보존했는지만이 아니라 무엇을 탐색 공간에서 제외했는지를 통해서도 평가해야 합니다.
따라서 인간 경험에 대한 내부 효율 표상을 생각할 때, ‘많은 구체적 사례를 소수의 개념으로 압축한다’는 방향만으로는 충분하지 않습니다. 같은 경험에 대해 서로 동등하지 않은 여러 고차 표상이 성립한다면, 그것들을 하나의 상위 개념으로 성급하게 통합하지 않고 서로의 관계를 유지한 채 보존할 필요가 있습니다. 자유, 인정, 규범이라는 좌표는 서로 배타적일 필요가 없습니다. 동시에 그것들을 ‘인간관계의 문제’처럼 지나치게 넓은 개념으로 묶으면 각 표상이 구별하고 있던 구조가 사라집니다. 효율화는 차이를 없애는 통합과 같은 뜻이 아닙니다.
이 구조를 생각하려면 ‘여러 답을 생성하는 것’과 ‘여러 내부 표상을 유지하는 것’을 구별해야 합니다. 하나의 내부 분류에서 표면적으로 다른 여러 문장을 생성하는 것은 가능합니다. 이 경우 출력은 다양하지만 문제를 표상하는 방식은 하나인 채로 남습니다. 반면 여러 고차 표상을 유지한다는 것은 어떤 조건을 중요하게 보는지, 무엇을 인과적 또는 관계적 중심에 두는지, 어떤 추가 정보가 현재의 해석을 업데이트하게 되는지가 서로 다른 상태를 유지한다는 뜻입니다. 중요한 것은 표상의 수가 아니라 추론에서 수행하는 역할이 서로 동등하지 않다는 점입니다.
철학적 개념은 이러한 비동등성을 생각하는 데 유력한 자료를 제공합니다. 철학의 역사에서는 자유, 욕망, 시간, 타자, 규범, 유한성과 같은 대상이 하나의 정의로 수렴하지 않았으며, 서로 다른 전제에서 서로 다른 관계 구조가 제시되어 왔습니다. 이러한 불일치를 정리되지 않은 지식이나 제거해야 할 모순으로 다룰 필요는 없습니다. 같은 인간 경험이 여러 의미 공간에서 서로 다른 구조를 가질 수 있음을 보여주는 자원으로 활용한다면, 철학은 AI에 정답을 추가하는 것이 아니라 하나의 표상으로 너무 일찍 수렴하는 현상을 검토하기 위한 비교 가능한 좌표를 제공합니다.
다만 ‘철학적 좌표’라는 표현을 사용한다는 사실만으로 AI 내부에 그에 대응하는 개념 구조가 존재한다고 결론 내릴 수는 없습니다. 모델이 ‘자유’, ‘인정’, ‘규범’ 같은 단어를 적절히 생성할 수 있다는 것과 그러한 표상이 이후의 추론에서 서로 다른 인과적 역할을 한다는 것은 별개의 문제입니다. 이를 내부 표상이라고 주장하려면 입력 조건이 바뀔 때 어떤 표상이 안정적으로 다시 나타나는지, 인접한 표상을 구별할 수 있는지, 특정 표상에 개입했을 때 판단이나 생성의 경향이 변하는지 등을 검증해야 합니다. 개념에 이름을 붙이는 것은 분석의 출발점이 될 수 있지만 내부 메커니즘의 증명이 되지는 않습니다.
여러 고차 표상을 유지하는 것 자체에도 비용이 듭니다. 후보가 계속 늘어나면 탐색 공간이 확대되고 추론의 효율은 낮아집니다. 따라서 설계상의 문제는 가능한 해석을 무제한으로 보존하는 것이 아니라, 현재의 판단에 영향을 줄 수 있는 서로 동등하지 않은 표상을 어떤 조건에서 유지하고 어떤 조건에서 배경으로 물러나게 할지를 결정하는 것입니다. 어떤 표상을 배경으로 물러나게 하더라도 새로운 정보가 들어왔을 때 다시 사용할 수 있다면 완전히 삭제할 필요는 없습니다. 여기서는 압축률뿐 아니라 재전개 가능성과 업데이트 가능성도 효율의 일부가 됩니다.
이 관점에서 내부 효율 표상을 정의하면 목표는 ‘최소의 표상으로 최대 수의 사례를 포괄하는 것’에서 달라집니다. 더 중요한 것은 현재의 추론에 불필요한 복잡성을 억제하면서 미래의 판단을 바꿀 수 있는 의미의 차이를 잃지 않는 것입니다. 공통 부분은 공유하면서 서로 동등하지 않은 관계만 분기로 유지할 수 있다면 모든 사례를 독립적으로 저장할 필요가 없습니다. 동시에 하나의 추상 개념으로 비가역적으로 통합할 필요도 없습니다. 효율은 정보량이 적다는 것뿐 아니라 필요한 차이로 돌아갈 수 있는 구조를 얼마나 적은 부담으로 유지할 수 있는지를 통해서도 평가할 수 있습니다.
이 생각을 Sai＊aus의 설계에 적용할 경우, 여러 철학적 좌표를 유지하는 목적은 철학자의 수만큼 답을 생성하는 것이 아닙니다. 같은 입력에 대해 어떤 관계를 전경화하느냐에 따라 문제 설정이 어떻게 달라지는지를 구별하고, 그 차이를 인간이 판단할 수 있는 형태로 연결하는 데 있습니다. 한 좌표에서는 자기결정이 중심이고 다른 좌표에서는 사회적 규범이 중심이라면, AI는 어느 한쪽을 그 사람의 ‘진짜 문제’로 확정해서는 안 되며 각각이 어떤 조건을 설명하고 어떤 조건을 설명하지 못하는지를 다루어야 합니다. 여러 내부 표상은 인간에게 더 많은 정보를 보여주기 위해서가 아니라 의미가 너무 일찍 고정되는 것을 막기 위해 사용됩니다.
이 설계는 범용 AI와 비교할 때도 신중하게 위치 지어야 합니다. 대규모 AI도 여러 관점을 생성하고 문맥에 따라 서로 다른 설명을 제시할 수 있습니다. 따라서 차이를 단순히 ‘다른 AI는 하나의 답만 낸다’고 표현할 수는 없습니다. Sai＊aus가 설계상 초점을 둘 수 있는 것은 여러 관점을 생성할 수 있다는 사실 자체가 아니라, 그것들을 서로 동등하지 않은 문제 표상으로 다루고 어떤 차이를 유지할지, 어떤 조건에서 전경화할지, 어디에서 의미 판단을 인간에게 돌려줄지를 명시적인 설계 대상으로 삼는 것입니다. 비교해야 할 것은 관점의 수가 아니라 관점 사이의 차이가 이해의 업데이트와 어떻게 연결되는가입니다.
평가 방법도 이 설계에 맞게 바뀌어야 합니다. 후보 지표로는 동일한 입력에 서로 다른 좌표를 적용했을 때 중요한 조건의 선택이 실제로 달라지는지, 추가 정보에 따라 적절한 좌표의 가중치를 업데이트할 수 있는지, 한 번 배경으로 물러난 표상을 필요한 상황에서 다시 전개할 수 있는지, 여러 표상을 제시한 결과 사용자가 주요 판단 지점을 더 정확하게 구별할 수 있는지 등이 있습니다. 이것들은 하나의 보편적 척도는 아니지만 ‘다중 표상’이라는 설계 원리를 관찰 가능한 행동과 연결하기 위한 후보가 될 수 있습니다. 원리와 효과 사이에 측정 가능한 거리를 두는 것이 중요합니다.
하나의 추상화는 종종 강력합니다. 공통 구조를 찾지 못하면 지식의 전이도 효율적인 추론도 어려워집니다. 그러나 인간의 경험에서는 추상화의 성공 자체가 다른 의미를 지울 수 있습니다. 따라서 필요한 것은 압축을 거부하는 것도, 복잡성을 그대로 보존하는 것도 아닙니다. 어디까지 공유할 수 있고 어디에서부터 서로 동등하지 않은 표상으로 분기해야 하는지를 다루는 것입니다. 여러 철학적 좌표는 그 경계를 생각하는 하나의 방법이 됩니다.
인간을 이해하고자 하는 AI에게 효율이란 최단 경로로 하나의 설명에 도달하는 것만을 뜻하지 않습니다. 현재 판단에 필요한 구조를 전경화하면서 다른 관점을 통해 미래에 업데이트될 가능성을 잃지 않는 것도 효율의 일부입니다. 하나의 최소 표상이 아니라 필요할 때 서로 다른 의미 공간으로 다시 전개될 수 있는 표상을 유지합니다. 그때 내부 효율 표상은 복잡성을 제거하기 위한 압축에서, 복잡성 속의 중요한 차이를 재사용 가능한 형태로 보존하는 설계로 바뀝니다. 그리고 최종적으로 어떤 의미를 자신의 문제로 받아들일지는 AI 내부에서 확정되는 것이 아니라 인간의 판단으로 되돌려집니다.
답이 아니라, 이해를.