The Decoder가 전한 Pangram CEO Max Spero의 인터뷰는 AI 글 탐지 논의를 조금 다른 곳으로 옮긴다. 흔히 AI가 쓴 글을 떠올리면 너무 매끈한 문장, 비슷한 표현, 과하게 정돈된 문체를 먼저 생각한다. 하지만 Spero가 짚은 단서는 문장 표면보다 깊다. LLM에게 같은 주제에 대한 주장 100개를 만들게 하면, 그 주장들이 좁은 범위에 몰린다는 것이다.
그의 설명에서 인간 글쓰기의 특징은 완벽함이 아니다. 사람은 문법을 틀리고, 논리를 건너뛰고, 자기 경험이나 이상한 예시를 끼워 넣는다. 같은 결론에 도달하더라도 길이 제각각이다. 반면 LLM은 평균적으로 더 깔끔하고 논리적으로 보일 수 있지만, 여러 답을 만들게 했을 때 사고의 궤적이 비슷한 곳으로 모인다. 이 균질성이 AI의 흔적이 될 수 있다는 주장이다.
Pangram의 접근도 흥미롭다. Spero는 Pangram의 deep learning classifier를 black box라고 표현했다. 도구는 의심스러운 문구를 힌트처럼 보여주지만, 실제 판단은 문서가 조직되는 방식과 구조적 패턴을 본다고 한다. 즉 특정 단어 몇 개를 잡아내는 시스템이라기보다, 글 전체에서 주장이 배열되고 전개되는 방식을 읽는 쪽에 가깝다.
하지만 바로 그 지점에서 문제가 생긴다. AI 탐지기가 단순 문구 감지를 넘어 구조적 패턴을 본다면 우회하기는 더 어려워진다. 동시에 만든 쪽도 완전히 설명하지 못하는 모델이라면, 그 판정을 학교·채용·출판 같은 민감한 영역에서 그대로 받아들이기 어렵다. 탐지 결과가 틀렸을 때 왜 틀렸는지 설명할 수 없다면, 정확도만으로는 충분하지 않다.
이번 이야기는 AI 탐지기의 승리 선언이라기보다, AI 글쓰기의 다음 약점을 보여준다. 더 자연스러운 문장을 쓰는 모델은 계속 나올 것이다. 문제는 그 글들이 얼마나 넓은 사고의 분포를 가질 수 있느냐다. AI가 인간처럼 보이려면 말투만 흔드는 것이 아니라, 주장 자체가 더 예측 불가능하게 흩어져야 한다. 그리고 탐지 도구는 그 차이를 잡아내더라도, 사람이 납득할 수 있는 설명을 함께 내놓아야 한다.