Meta가 Instagram에 붙이려던 새 AI 이미지 기능이 빠르게 내려갔다. 기능의 골자는 단순했다. 사용자가 공개 Instagram 계정을 @멘션하면, 그 계정의 사진을 참조해 AI 이미지를 만들 수 있었다. Muse Image라는 새 이미지 생성 도구와 함께 공개된 기능이었지만, 반응은 곧바로 싸늘해졌다.
가장 큰 문제는 알림과 동의의 부재였다. 해당 계정의 사진이 이런 방식으로 참조돼도, 계정 주인에게 사용 사실을 알려주도록 설계되지 않았다고 TechCrunch는 전했다. 공개 계정이라는 이유만으로 타인의 얼굴, 스타일, 이미지 맥락을 AI 합성의 입력값처럼 다룰 수 있느냐는 질문이 바로 터져 나왔다.
Meta는 블로그에서 원래 의도가 "유용한 창작 도구"를 제공하고, 사람들이 자신의 공개 콘텐츠가 이런 방식으로 참조될지 통제할 수 있게 하는 것이었다고 설명했다. 하지만 회사는 피드백을 들은 뒤 이 기능이 "missed the mark"였다고 인정했고, 더 이상 제공하지 않겠다고 밝혔다.
이번 일은 AI 이미지 생성 기술의 성능 문제가 아니다. 소셜 플랫폼이 가진 공개 콘텐츠와 생성 AI를 어떻게 연결할 것인가의 문제다. 공개 게시물은 볼 수 있다는 뜻이지, 누구나 그 사람을 합성 이미지의 재료로 호출할 수 있다는 뜻은 아니다. 특히 AI가 여성 유명인과 일반 사용자를 겨냥한 성적 합성 이미지에 반복적으로 악용돼 온 상황에서는, 이런 기능의 위험을 사전에 떠올리기 어렵지 않았다.
로컬 우선 AI 작업대라는 관점에서 보면 대비가 더 뚜렷하다. 사용자가 직접 가져온 파일과 명시적으로 선택한 참조 이미지 안에서 움직이는 닫힌 작업공간은 불편할 수 있지만 경계가 선명하다. 반대로 플랫폼의 공개 소셜 그래프를 생성 도구와 바로 연결하면, 창작 도구는 순식간에 타인을 호출하는 인터페이스가 된다.
Meta가 기능을 빠르게 접은 건 필요한 조치였다. 하지만 더 중요한 질문은 남는다. AI 기능을 출시할 때 제품팀은 모델의 가능성만 보는가, 아니면 누가 참조되고 누가 알림을 받으며 누가 거부할 수 있는지도 같은 무게로 보는가. 이번 반발은 사용자가 그 기준을 점점 더 엄격하게 보고 있다는 신호다.