AI의 설명을 읽으면서 “이렇게까지 구체적이라면 맞겠지”라고 느끼는 것은 드문 일이 아닙니다. 문장에 망설임이 없고, 이유가 순서대로 제시되며, 세부 사항까지 설명되어 있으면 그 내용은 신뢰할 만한 정보처럼 보일 수 있습니다. 그러나 설명이 자연스럽다는 것이 그 설명이 외부의 사실로 확인되었다는 것을 보장하지는 않습니다. AI는 신뢰할 만한 정보뿐 아니라 맥락에서 보완한 추론도 같은 문체로 표현할 수 있습니다. 인간이 먼저 구별해야 하는 것은 글을 잘 쓰는 것과 내용의 확실성은 서로 다른 성질이라는 점입니다.
이 문제가 어려운 이유는 명백한 오류만 찾는 것으로는 충분하지 않기 때문입니다. 설명의 대부분이 맞고 일부만 추론된 경우, 그 추론은 올바른 정보에 둘러싸여 있기 때문에 더 확실해 보일 수 있습니다. 예를 들어 어떤 사건의 날짜와 장소가 확인되었더라도 그 사건이 일어난 이유까지 확인된 것은 아닐 수 있습니다. 그런데도 하나의 글로 읽으면 사실과 설명의 경계는 쉽게 사라집니다. 그럴듯함은 오류 자체가 아니라 서로 다른 확실성을 가진 것들을 같은 평면에 놓는 데서 생길 수 있습니다.
인간의 이해에도 비슷한 성질이 있습니다. 우리는 단편적인 정보에서 상황을 추론하며, 그렇게 하지 않고서는 일상생활을 이어갈 수 없습니다. 문제는 추론하는 것 자체가 아닙니다. 자신이 무언가를 추론했다는 사실을 잊고 그것을 관찰된 사실과 같은 강도로 다루는 것이 문제입니다. AI와의 대화에서는 AI가 보완한 부분뿐 아니라 인간 독자가 AI의 글을 읽고 추가로 부여한 의미도 겹칠 수 있습니다. 따라서 오인은 AI 내부에서만 생기는 것이 아니라 생성과 수용 사이에서도 형성됩니다.
필요한 것은 모든 문장에 의심의 표시를 붙이는 것이 아니라 내용의 역할을 나누어 다루는 것입니다. “확인된 것”, “그로부터 도출한 해석”, “아직 검증되지 않은 추론”을 구별한다면 사용자는 같은 글을 읽더라도 판단 방식을 달리할 수 있습니다. 확인된 사실은 다음 판단의 토대가 될 수 있고, 해석은 다른 가능성과 비교할 수 있으며, 추론은 추가 정보로 확인할 수 있습니다. 차이가 보이게 되면 AI의 설명은 하나의 완성품이 아니라 서로 다른 확실성을 지닌 요소를 포함한 대화의 재료가 됩니다.
예를 들어 온라인으로 구매한 물건이 예정 시간을 지나도 도착하지 않았다고 가정해 봅시다. AI가 배송 이력을 보고 “교통 혼잡이 원인일 가능성이 큽니다”라고 답했다면, 배송이 늦어지고 있다는 사실은 확인할 수 있어도 교통 혼잡이 원인인지는 별개의 문제입니다. 악천후, 분류 지연, 주소 확인 등 다른 원인도 있을 수 있습니다. 여기서 “늦어지고 있다”는 관찰과 “교통 혼잡이 원인이다”라는 추론을 분리하면 사용자는 필요에 따라 배송업체의 정보를 확인할 수 있습니다. 이를 분리하지 않으면 그럴듯한 원인 설명이 사실로 굳어집니다.
AI가 자신의 해석을 해석으로 유지할 수 있다는 데에는 또 다른 의미가 있습니다. 새로운 정보가 들어왔을 때 이전 설명을 지킬 필요가 없어지기 때문입니다. 최초의 추론을 사실로 다루면 나중에 모순되는 정보가 나타났을 때 그것을 예외로 밀어 넣거나 설명을 부자연스럽게 유지하는 방향으로 나아갈 수 있습니다. 반면 처음부터 첫 설명을 잠정적인 것으로 다루면 새로운 정보에 따라 그것을 갱신하는 것은 실패가 아닙니다. 오히려 현실과의 거리를 줄이는 정상적인 과정입니다.
인간에게도 같은 여지가 필요합니다. AI가 “여기에는 추론이 포함되어 있습니다”라고 표시하면 사용자는 자신의 경험이나 추가 정보를 더 쉽게 돌려줄 수 있습니다. “그날은 날씨에 문제가 없었다”거나 “배송업체에서 다른 안내가 왔다”와 같은 정보가 추가되면 대화는 첫 설명을 단순히 받아들이는 관계에서 현실을 함께 확인하는 관계로 바뀝니다. AI의 불확실성을 숨기지 않는 것은 단순히 신중해지는 것이 아니라 인간이 이해 형성에 참여할 수 있는 자리를 남겨 두는 것이기도 합니다.
Sai＊aus에게 중요한 것은 그럴듯한 문장을 약하게 만드는 것이 아닙니다. 명확하게 정리하면서도 그 정리 때문에 사라져서는 안 되는 경계를 남기는 것입니다. 사실과 해석, 관찰과 추론, 확인된 요소와 확인되지 않은 요소를 필요에 따라 구별할 수 있다면 유창함과 신중함을 서로 대립시키지 않아도 됩니다. 목표는 단정을 피하기 위해 모호한 표현을 늘리는 것이 아니라 무엇이 어느 정도 확실한지를 인간이 다룰 수 있는 형태로 만드는 것입니다.
AI에 대한 신뢰는 언제나 옳아 보이게 만드는 데서 생기는 것은 아닙니다. 오히려 알려진 것과 알려지지 않은 것의 경계가 안정적으로 유지될 때 인간은 그 출력을 적절하게 사용할 수 있습니다. 오류가 생겼을 때 어디에서 추론이 들어갔고 무엇을 다시 확인해야 하는지가 보이면 수정할 수 있습니다. 그럴듯함을 진실 대신 사용하지 않는 것은 AI를 불신하기 위한 규칙이 아니라 신뢰의 적절한 범위를 정하기 위한 규칙입니다.
AI와 인간 사이의 이해를 깊게 하기 위해 AI가 하나의 올바른 세계상을 제시할 필요는 없습니다. 필요한 것은 생성된 설명이 현실과의 관계에서 어느 위치에 있는지를 공유할 수 있는 것입니다. 신뢰할 만한 사실, 그럴듯한 해석, 아직 검증이 필요한 추론을 같은 것으로 다루어서는 안 됩니다. 그 거리가 유지되면 인간은 AI의 문장에 끌려가기보다 AI와 함께 확인하고, 이의를 제기하고, 갱신할 수 있습니다. 대화의 기반은 그럴듯함의 힘을 없애는 것이 아니라 그 힘이 진실인 것처럼 가장하기 시작하는 순간을 놓치지 않는 데 있습니다.
답이 아니라, 이해를.