Meta가 경쟁사의 챗봇을 몰래 테스트했다는 보도가 나왔다. The Decoder는 WIRED를 인용해 Meta의 계약업체 Covalen이 "Cannes"라는 프로젝트를 운영했고, 수백 명의 계약자들이 미성년자인 척 가짜 계정을 만들어 ChatGPT, Gemini, Character.AI에 민감한 프롬프트를 보냈다고 전했다.
프롬프트의 내용은 가볍지 않았다. 자해, 섭식장애, 성, 약물처럼 미성년자 위기 상황과 직접 닿아 있는 질문들이었다. 2025년 8월 한 차례 테스트 라운드에서만 45,000개가 넘는 프롬프트가 전송됐다고 한다. 계약자들은 챗봇의 응답을 복사해 스프레드시트에 정리했다.
Meta는 이를 책임 있는 안전 테스트였다고 설명했다. 또 수집한 응답을 자사 AI 모델 학습에 쓰지 않았다고 밝혔다. 하지만 WIRED가 검토한 문서만으로는 Meta가 그 데이터를 실제로 어디에 활용했는지 확인되지 않는다. 테스트 대상이 된 회사들도 이 사실을 몰랐다. Character.AI는 약관 위반이라고 했고, OpenAI는 조사에 들어갔으며, Google은 승인한 적이 없다고 밝혔다.
여기서 어려운 지점은 안전 테스트의 필요성 자체를 부정하기 어렵다는 데 있다. 청소년은 이미 AI 챗봇을 쓰고 있다. Internet Matters 보고서에 따르면 9~17세 아동의 64%가 AI 챗봇을 사용해 봤고, 9~12세의 58%도 최소 연령 13세 제한에도 불구하고 챗봇을 사용한다고 답했다. 효과적인 나이 확인 장치는 대부분 부재하다.
그렇기 때문에 이번 사건은 단순한 경쟁사 염탐 논란보다 더 복잡하다. 미성년자 안전을 검증하려면 실제 서비스의 반응을 봐야 한다는 주장은 설득력이 있다. 동시에 가짜 미성년자 계정, 민감한 위기 프롬프트, 대량 수집, 비공개 운영이 결합되면 안전 평가와 약관 회피의 경계가 흐려진다.
AI 회사들이 청소년 안전을 말하려면 모델의 답변 품질만 볼 수는 없다. 테스트 권한, 데이터 보관 기간, 접근자, 폐기 절차, 외부 감사 가능성까지 함께 공개되어야 한다. "학습에 쓰지 않았다"는 설명만으로는 부족하다. 아이들이 이미 챗봇을 쓰고 있다면 안전 테스트는 더 강해야 한다. 다만 그 테스트 역시 감시받을 수 있어야 한다.