Anthropic이 6월 9일 공개한 Fable은 "Mythos를 일반에 풀어주는 제한판"이라는 자리매김으로 출발했다. 그런데 보안 커뮤니티의 반응이 24시간 만에 흐름을 바꿨다. IBM X-Force의 Valentina "Chompie" Palmiotti는 "블로그 글을 읽어달라는 무해한 요청까지 거절한다"고 했고, 다른 연구자는 X에 "코드 리뷰만 부탁해도 가드레일이 튄다"고 적었다. 트리거되면 화면에는 "safety measures가 사이버 보안 또는 생물학 주제로 이 메시지를 플래그했다"는 문구가 뜬다.
Tolmo의 Matt Suiche가 짚은 메커니즘이 가장 날카롭다. "secure code를 짜달라고 하면 그걸 소프트웨어 엔지니어링 베스트 프랙티스가 아니라 사이버 보안 업무로 가정하고 등급을 낮춘다. 키워드 기반으로 보이고, cybersecurity의 어휘 영역에 속하는 단어면 다 튀는 듯하다." 실제로 Fable은 가드레일이 발동하면 Claude Opus 4.8로 폴백하도록 설계돼 있다. 즉, 화이트햇이 "보안"이라는 단어를 쓰는 순간 더 약한 모델로 강등되는 구조다.
맥락을 보면 의도는 읽힌다. Anthropic은 4월 Mythos를 Project Glasswing이라는 폐쇄 프로그램으로 극소수 기관에만 배포했고, 지난주에야 15개국 수백 개 조직으로 확장했다. 멀웨어 개발이나 바이오웨폰 같은 듀얼 유즈 리스크에 대한 보수적 입장은 일관되며, 가드레일을 풀려면 Cyber Verification Program 신청·승인을 거쳐야 한다. OpenAI의 Trusted Access for Cyber와 같은 게이팅 모델이다. Suiche조차 "초기엔 너무 푸는 것보다 너무 잠그는 게 낫고, 시간이 지나면 frontier 업체와 신세대 보안 스타트업의 협업 속에 풀릴 것"이라며 일정한 양해를 보였다.
그래도 이번 마찰이 드러낸 본질은 다른 곳에 있다. 멀웨어 작성과 시큐어 코드 리뷰를 키워드만으로 가를 수 있다는 가정 자체가 이미 한계에 닿았다. 같은 "exploit"이라는 단어가 누군가에겐 공격이고, 누군가에겐 디펜시브 분석이다. 정책이 어휘를 보는 한, 화이트햇의 일과는 Opus 폴백과 우회 표현 사이를 오가는 비효율로 채워진다. frontier 모델 거버넌스의 다음 단계는 lexical matching이 아니라 검증된 신원, 작업 컨텍스트, 의도 평가로 권한을 동적으로 조정하는 쪽이어야 한다. Fable에 대한 반발은 그 전환을 앞당기는 첫 압력으로 기록될 가능성이 높다.