전제를 의심하는 것은 사고의 자유를 넓힙니다. 그러나 “왜 그 전제를 채택했는가?”라고 묻는다면, 다음에는 “어떤 기준이 그 이유를 타당해 보이게 했는가?”라고 물을 수 있고, 이어서 “그 기준을 선택한 근거는 무엇인가?”라고 계속 물을 수 있습니다. 원리적으로 질문을 한 단계 위로 이동시키는 조작에는 종점이 없습니다. 이는 철학에만 고유한 문제가 아니며 AI와의 협업에서도 나타납니다. AI가 사용자의 전제를 의심하고 각 답변 뒤에 있는 목적과 가치 기준을 계속 묻는다면, 대화는 더 정밀해질 수 있지만 판단과 행동으로 돌아가는 능력을 잃을 수도 있습니다.
따라서 메타 수준의 사고를 단순히 “추상화 수준이 높을수록 더 좋다”라고 이해할 수는 없습니다. 대상 수준에서는 무엇을 선택할지, 무엇을 쓸지, 어떤 행동을 취할지와 같은 구체적인 문제를 다룹니다. 한 단계 위에서는 그러한 판단을 뒷받침하는 전제와 목적을 검토할 수 있습니다. 더 높은 단계에서는 전제 자체를 선택하는 기준을 검토할 수 있습니다. 그러나 추상화 수준이 올라갈 때마다 구체적인 상황에서 멀어지는 비용도 발생합니다. 메타 수준의 가치는 그 높이 자체가 아니라, 대상 수준에서는 보이지 않았던 차이를 발견하고 그 차이를 다시 구체적인 판단으로 되돌릴 수 있는지에 의해 결정됩니다.
여기에서 정지 조건의 문제가 생깁니다. 첫 번째 조건은 메타 수준으로 이동함으로써 대상 수준의 선택을 바꿀 수 있는 새로운 차이가 드러났는가입니다. 예를 들어 두 계획 중 어느 것을 선택할지 확신이 없을 때, 상위 목적을 검토한 결과 오직 하나만 원래 목적과 일치하지 않는다는 사실이 드러났다고 합시다. 이 경우 메타 수준으로 이동하는 것은 판단에 가치가 있습니다. 반대로 한 단계 더 올라가도 선택지에 대한 평가가 바뀌지 않고 새로운 정보의 필요도 생기지 않는다면, 그 상승은 이해를 깊게 하기보다 같은 문제를 다른 어휘로 묘사하는 데 그칠 수 있습니다.
두 번째 조건은 추가적인 메타 수준의 검토를 통해 얻는 정보의 가치와 판단을 늦추는 비용 사이의 관계입니다. 안전에 심각한 결과를 초래할 수 있는 결정과 쉽게 되돌릴 수 있는 일상적인 선택에는 같은 깊이의 검토가 필요하지 않습니다. 결과가 비가역적이고 영향 범위가 넓으며 불확실성이 높을 때에는 전제와 평가 기준을 더 깊이 검토할 이유가 있습니다. 그러나 낮은 비용으로 무언가를 시도하고 결과를 관찰한 뒤 수정할 수 있는 상황에서는, 전제를 완전히 검증할 때까지 기다리는 것보다 작은 규모로 행동해 얻는 정보가 더 가치 있을 수 있습니다. 따라서 정지 조건은 추상적인 정확성뿐 아니라 가역성과 정보 가치에도 의존합니다.
세 번째 조건은 책임입니다. 메타 수준으로 올라가는 것은 책임 주체를 사라지게 하기 위한 조작이 아닙니다. “가치 기준 자체가 상대적이다” 또는 “대안적인 전제가 존재한다”는 점을 이해하더라도, 현실의 상황에서는 여전히 누군가가 판단을 내리고 그 결과를 감당해야 합니다. 여러 가치 체계를 비교할 수 있는 것과 판단을 무기한 미룰 수 있는 것은 다릅니다. 오히려 메타 수준의 사고가 성숙할수록 자신의 판단이 유일하게 필연적인 결론은 아니라는 점을 이해하면서도, 왜 이러한 조건에서는 이 선택을 채택하는지 설명할 수 있는 것이 더욱 중요해집니다.
AI가 포함된 대화 시스템에서는 이 정지 문제가 더욱 중요해집니다. AI는 인간이 생각하지 못했던 전제, 반례, 대안적인 평가 축을 짧은 시간 안에 추가할 수 있습니다. 그 능력은 메타 수준의 사고를 지원하지만, 동시에 검토 가능한 쟁점의 수를 거의 무한정 늘릴 수도 있습니다. 쟁점이 하나 추가될 때마다 “아직 고려하지 않은 것이 있을지도 모른다”는 느낌이 생긴다면, 더 뛰어난 AI일수록 의사결정을 끝내기 어렵게 만드는 역설이 발생합니다. 따라서 좋은 지원은 최대한 많은 쟁점을 제시하는 것이 아니라, 현재 목적에 비추어 어떤 미검토 사항이 판단을 바꿀 수 있는지를 구별하는 데 있습니다.
여기서는 인간과 AI 사이의 비대칭성을 유지할 필요가 있습니다. AI는 추가적인 관점을 생성하고, 전제 사이의 모순을 찾아내며, 조건이 바뀔 때의 결과를 비교할 수 있습니다. 그러나 어떤 손실을 받아들일지, 어떤 가치를 우선할지, 그리고 불확실성이 남아 있는 상태에서 언제 행동으로 옮길지는 추론의 양만으로 결정되지 않습니다. AI는 멈춤을 제안할 수 있지만, 그렇다고 그 정지 지점을 정당화할 책임까지 자동으로 떠맡는 것은 아닙니다. 판단에서 인간의 주체성은 AI보다 더 많은 쟁점을 고려할 수 있다는 데 있는 것이 아니라, 충분한 검토와 행동 사이의 경계를 긋는 데에도 나타납니다.
그러나 정지 조건을 고정된 규칙으로 만들면 또 다른 문제가 생깁니다. “세 단계까지 생각한 뒤 멈춘다”거나 “반대 의견 두 개면 충분하다”와 같은 형식적 기준은 문제의 중대성과 불확실성을 무시합니다. 중요한 것은 단계의 수가 아니라 현재 판단의 민감도입니다. 전제를 바꾸면 결론이 달라지는가? 새로운 증거가 들어오면 평가가 뒤집힐 수 있는가? 간과된 이해관계자가 있는가? 행동한 뒤 수정할 수 있는가? 이러한 조건에 대한 민감도가 낮아질 때, 추상화 수준을 더 높이는 한계 가치도 감소한다고 볼 수 있습니다.
Sai＊aus에게 메타 수준을 갖는 의미도 여기에 있습니다. 요점은 대화를 끝없는 자기 분석으로 이끄는 것이 아니라, 대상 수준에서 생긴 불편함을 일시적으로 메타 수준으로 올려 전제, 목적, 평가 기준 가운데 어디에 차이가 있는지를 확인하고 그 결과를 다시 구체적인 질문으로 되돌리는 것입니다. 중요한 것은 상승이 아니라 왕복입니다. 이 왕복이 작동하면 메타 수준의 사고는 행동을 늦추는 추가적인 성찰이 아니라, 판단의 표상을 필요한 만큼만 재구성하고 다시 현실과 연결하는 메커니즘이 됩니다.
이 관점에서 보면 메타 수준의 사고는 적어도 두 방향으로 실패할 수 있습니다. 하나는 대상 수준에 고정되어 전제가 바뀐 뒤에도 같은 질문을 계속 최적화하는 것입니다. 다른 하나는 전제를 계속 의심한 나머지 모든 판단에는 잠정적인 근거만 있다는 사실을 행동하지 않을 이유로 바꾸어 버리는 것입니다. 전자는 사고의 경직이고 후자는 사고의 무한 퇴행입니다. 필요한 것은 둘 사이에 단순한 타협점을 두는 것이 아니라, 문제의 성격에 따라 대상 수준과 메타 수준 사이를 이동할 수 있는 가변적인 구조입니다.
그 구조를 평가한다면 “얼마나 깊이 생각했는가?”만 묻는 것으로는 충분하지 않습니다. 메타 수준으로 이동함으로써 중요한 전제가 발견되었는지, 판단을 바꿀 수 있는 조건이 명확해졌는지, 불확실성이 존재하는 지점들이 분리되었는지, 최종 선택의 이유를 설명할 수 있게 되었는지, 그리고 필요한 시점에 구체적인 행동으로 돌아갈 수 있었는지를 살펴야 합니다. 메타 수준 사고의 질은 추상화의 높이가 아니라 대상 수준에서는 얻을 수 없었던 이해를 만들어내고 그 이해를 다시 판단과 연결했는지에 따라 평가되어야 합니다.
한 단계 위에서 생각하는 능력은 중요하지만, 지능의 성숙을 그것만으로 정의할 수는 없습니다. 자신의 전제를 의심하고 그 의심 뒤의 전제까지 검토할 수 있는 것만큼이나, 어디에서 질문을 멈추고 잠정적인 이해를 받아들이며 현실로 돌아갈지를 아는 것도 중요합니다. 메타 수준은 사고의 피난처가 아니라 대상 수준을 다른 형태로 다시 살펴보기 위한 일시적인 위치입니다. 올라가고, 차이를 발견하고, 돌아오는 것. 그 순환이 성립할 때 비로소 메타 수준의 사고는 끝없는 자기 성찰이 아니라 인간과 AI가 판단을 갱신할 수 있는 실천적 구조가 됩니다.
답이 아니라, 이해를.