Big 4 컨설팅 기업 KPMG가 2025년 10월 발간한 보고서 《Redefining excellence in the age of agentic AI》를 자사 웹사이트에서 조용히 내렸다. AI 활용 선진 사례로 이름이 오른 UBS, 영국 국민보건서비스(NHS), 스위스 연방철도, 런던교통공사(TfL)가 파이낸셜타임스에 "우리 이야기가 아니다"라고 잇달아 부인한 것이 발단이었다. 처음 문제를 포착한 건 AI 탐지 연구 그룹 GPTZero였다. 보고서를 검토한 GPTZero는 다수의 오류가 AI 환각(hallucination)에서 비롯됐다고 FT에 전달했고, 그 판단을 인용 기업들이 직접 확인해줬다.
KPMG 대변인은 조사를 진행하면서 "AI의 책임있는 사용 지침, 특히 콘텐츠 검증을 위한 인간 감독을 직원들이 준수하길 기대한다"고 밝혔다. 이 발언의 무게는 맥락에 달려 있다. 해당 지침이 존재했음에도 불구하고, 보고서가 출간되기까지 어느 내부 검토 단계도 GPTZero의 외부 분석보다 먼저 같은 오류에 도달하지 못했다. 지침의 존재와 그 지침이 실제 워크플로에 내재화된 정도 사이의 거리가 이번 사건의 실질적인 실패 지점이다.
선례는 이미 한 달 전에 있었다. EY가 충성도 리워드 프로그램에 관한 보고서를 자진 철회했고, 이유는 가짜 각주와 AI 환각이었다. Big 4 두 곳이 한 달 간격으로 동일한 패턴의 실패를 반복했다. 이건 개인적 부주의의 우연한 반복이 아니라, AI 생산성 도구를 도입하는 속도와 그 출력물을 검증하는 기준 사이의 불균형이 산업 전반에 걸쳐 구조화됐다는 신호에 가깝다. 얼마나 빠르게 AI를 쓰느냐와 얼마나 엄격하게 그 결과물을 책임지느냐가 비례하지 않는다면, 규모가 클수록 리스크의 표면적도 커진다.
"agentic AI 시대의 탁월함을 재정의한다"는 제목은 이제 의도치 않은 반어가 됐다. AI 도입 현황을 다룬 보고서에 AI가 만들어낸 허구가 섞여 들어갔고, 그것을 사람이 아닌 다른 AI 탐지 도구가 먼저 잡아냈다. AI를 진지하게 활용하려는 조직에게 이 사건이 남기는 질문은 단순하다. 지금 당신의 검토 프로세스는 GPTZero보다 먼저 같은 오류를 발견할 수 있는가. 그 질문에 자신 있게 답하기 어렵다면, 도구보다 검증 기준을 먼저 정비해야 할 순서가 됐다.