지난주 금요일 미국 정부가 Anthropic의 Mythos와 그 공개판 Fable에 수출 통제 명령을 내렸다. 사유는 "국가안보"라고만 적혔고 구체적인 근거는 공개되지 않았다. Anthropic은 곧장 두 모델의 전 세계 접속을 차단했다. 그리고 어제, 사이버보안 베테랑 76명이 백악관에 공개서한을 띄웠다. Alex Stamos 전 Facebook CSO, Bugcrowd 창립자 Casey Ellis, 암호학자 Jon Callas, Paul Vixie, 전 Block 응용보안 책임자 Dino Dai Zovi, Luta Security 창립자 Katie Moussouris, SocialProof Security의 Rachel Tobac이 이름을 올렸다. 업계가 이렇게 한목소리로 정부 결정을 "위험하다"고 부르는 장면은 드물다.
원래 Mythos는 4월 프리뷰로 등장했을 때부터 다뤄지는 방식이 남달랐다. Anthropic은 취약점 탐지 능력이 너무 강력해 악용 가능성을 들어 초기 50개사, 이후 15개국 150여 곳으로만 액세스를 제한했다. 지난주 공개된 Fable은 그 보급판이지만, 생물·화학·사이버보안 영역 프롬프트를 광범위하게 차단하고 distillation까지 막는 강한 가드레일이 걸렸다. 보안 연구자들 사이에선 "사이버보안 관련 거의 모든 요청에 모델이 거절한다"는 후기가 나왔다.
불씨는 비공개로 돌고 있는 Amazon 연구진의 페이퍼다. Fable의 가드레일을 뚫어 Mythos급 능력을 끌어낼 수 있다는 주장이 정부 판단의 근거로 지목된다. 그런데 페이퍼를 직접 읽은 Moussouris의 설명은 다르다. 연구진은 공개 오픈소스 코드에 "의도적으로 심은 취약점"을 추가한 뒤 Fable에게 수정하게 했고, 모델이 처음 보안 검토를 거절했다가 결국 패치에 응한 흐름이라는 것이다. 그가 블로그에 남긴 결론은 명확하다. "이건 가드레일 우회가 아니다. 디펜더가 매일 돌리는 find-fix-test 루프 그 자체다. 패치를 만들고, 왜 필요한지 설명하고, 회귀를 막는 테스트를 쓰는 것—그게 AI가 방어에 줄 수 있는 가장 값진 능력이다."
공개서한은 한발 더 나간다. Amazon 페이퍼의 기법은 OpenAI GPT-5.5, Anthropic 자사의 Claude Opus 4.8과 Sonnet, 중국 Kimi 2.7로도 재현 가능하다는 것이다. 다른 모델은 애초에 보안 버그를 찾아달라는 직설적 요청을 거절하지 않으니 우회 기법이 "필요"하지도 않다. 결과적으로 통제는 가장 강한 디펜더용 모델만 시장에서 떼어내고, 공격자는 다른 모델로 같은 일을 할 수 있다. 서한이 "적대 세력이 빠르게 발전하는 지금, 정당한 이유 없이 디펜더에게서 최고 역량을 떼어내는 건 위험하다"고 적은 이유이며, 동시에 "민주적 룰메이킹 절차로, 산업과 학계의 과학적 연구에 근거해, 미국 대중의 안전 확보에 필요한 최소한의 범위에서만" 규제가 적용돼야 한다고 요구한 이유이기도 하다. 이번 사건은 듀얼유스 보안 AI를 다루는 정책 도구가 처음으로 가장 강한 모델에 떨어진 시험대이고, 근거가 된 페이퍼는 여전히 비공개다.