유튜브, 인스타그램, 틱톡이 AI 생성 콘텐츠에 라벨을 붙이기 시작한 지 꽤 됐습니다. 영상 하단에 조그맣게 뜨는 'AI 정보' 표시, 이미지에 겹쳐 뜨는 알림, 설명란 자진 공개. 형식은 플랫폼마다 다르지만 방향은 같습니다. 그런데 '이 라벨 붙은 것들만 안 보기' 기능은 어디에도 없습니다.
The Verge의 Jess Weatherbed가 직접 Meta, Google, TikTok, Spotify에 AI 필터 도입 계획을 물었습니다. TikTok과 Spotify는 답장도 없었고, Google은 '공유할 내용 없다'고 했으며, Meta는 귀속 가능한 발언을 내놓지 않았습니다. 사실상 전원 거절입니다. 현재 AI 필터를 제공하는 몇 안 되는 플랫폼 중 하나인 DeviantArt의 사례가 그 이유를 방증합니다. 설정 이름은 'Exclude AI'가 아니라 'Suppress AI'이고, 켜도 피드에서 AI 이미지는 여전히 눈에 띕니다. DeviantArt가 AI 메타데이터가 명백히 포함된 이미지에도 라벨을 제대로 붙이지 않아서, 필터가 걸러낼 대상 자체가 충분히 태그돼 있지 않기 때문입니다. Pinterest의 카테고리별 AI 필터도 효과는 미미하다는 평가를 받습니다.
이게 단순히 기술 문제만은 아닙니다. C2PA 워터마크와 SynthID 같은 provenance 기반 시스템은 오픈소스 모델에는 처음부터 탑재되지 않고, 메타데이터는 누구나 쉽게 삭제할 수 있습니다. 탐지 기반 분류는 false positive를 내고, 실제로 Meta와 YouTube 모두 AI 라벨을 잘못 붙여 실사 사진 작가들에게 항의를 받은 사례가 있습니다. 요컨대 라벨링 기술 자체가 아직 대규모 환경에서 신뢰할 만한 수준이 아닙니다.
Google CEO Sundar Pichai는 최근 인터뷰에서 'AI slop이 엄청 많다'고 인정하면서 사용자들이 '적응해야 한다'고 했습니다. Instagram 수장 Adam Mosseri는 '진정성이 희소 자원이 되고 있다'고 말했습니다. 문제를 모르는 게 아닙니다. 필터를 만들면 그 필터가 얼마나 제대로 작동하지 않는지가 드러납니다. AI 라벨링 전체가 규제 대응과 비판 무마용 보여주기에 가까웠다는 게 공개 수치로 증명됩니다. 플랫폼들이 두려워하는 건 AI 콘텐츠가 아니라, 그 콘텐츠를 필터링하는 기능이 만들어낼 현실입니다.