사진 속 인물을 비동의 성적 이미지로 바꾸도록 돕는 이른바 ‘nudify’ 앱을 둘러싼 규제가 미국 법정의 시험대에 올랐습니다. 미네소타는 이런 앱을 허용하는 서비스를 금지하는 법을 마련했고, xAI는 법 시행을 막아 달라며 긴급 가처분을 신청했습니다. 도노번 프랭크 미 연방지방법원 판사는 8월 1일 시행을 앞둔 이 법을 멈추지 않았습니다.
이번 결정은 xAI가 소송에서 최종적으로 졌다는 의미는 아닙니다. 법의 위헌성이나 적용 범위는 본안에서 계속 다뤄집니다. 법원이 이번에 판단한 것은 우선 긴급 구제의 필요성이었습니다. xAI는 법이 서명된 뒤 거의 석 달이 지난 2026년 7월 29일, 시행 사흘 전에야 임시 금지 요청을 냈습니다. 판사는 이 정도의 지연이 피해가 임박했다는 주장과 잘 맞지 않는다고 봤습니다.
xAI는 미네소타 법이 지나치게 넓다고 주장했습니다. 같은 목적을 달성할 수 있는 덜 제한적인 대안도 있다고 했습니다. 이 주장은 일반 이미지 편집과 특정인을 성적 이미지로 합성하는 기능을 법이 어떻게 구분할지와 연결됩니다. 규제 대상이 모델 자체인지, 앱의 기능인지, 플랫폼의 배포 방식인지도 본안 소송에서 중요한 쟁점이 될 수 있습니다.
사건의 배경에는 실제 서비스 악용 사례가 있습니다. 올해 초 일론 머스크의 소셜미디어 플랫폼 X 이용자들이 xAI의 Grok을 이용해 비동의 성적 이미지를 대량으로 퍼뜨렸고, 이후 조사와 차단 조치가 이어졌습니다. 따라서 이번 논쟁은 아직 일어나지 않은 위험을 가정한 규제 논의만은 아닙니다. 이미지 생성 기능이 어떤 방식으로 소비되고, 피해가 발생했을 때 사업자가 얼마나 빨리 대응하는지가 함께 문제로 떠올랐습니다.
제품을 운영하는 팀이 얻을 수 있는 결론은 단순합니다. 법원 판단을 기다리는 동안에도 지역별 제공 범위, 비동의 합성 방지 장치, 신고와 삭제 절차를 준비해야 합니다. 미네소타 법은 소송이 끝날 때까지 시행될 수 있습니다. xAI의 법적 다툼도 끝나지 않았습니다. 이번 판결은 AI 규제의 최종 답이라기보다, 위험한 기능을 둘러싼 법정 공방에서 긴급성과 대응 시점이 얼마나 큰 변수인지 보여주는 중간 판정입니다.