Anthropic이 Claude의 텍스트 워터마크 작동 방식을 더 자세히 설명했습니다. 화면에 보이는 로고를 답변에 붙이는 방식이 아닙니다. Claude가 날씨를 설명할 때 ‘overcast’와 ‘grey’처럼 품질 차이가 거의 없는 표현 중 하나를 고르는 순간, 독자에게는 보이지 않는 패턴을 만들 수 있다는 설명입니다. 일반 독자는 워터마크가 있는 답변과 없는 답변을 구분하지 못하지만, 탐지 키를 가진 시스템은 그 패턴을 확인할 수 있습니다.
기술로는 Google DeepMind가 2024년에 공개한 SynthID-Text를 사용하고, Anthropic은 워터마크 탐지 API를 출시할 계획입니다. 이 방식은 Pangram처럼 문장에 남은 ‘AI다운 표현’을 찾는 문체 분석과 다릅니다. 글이 얼마나 자연스러운지를 평가하는 대신, 생성 과정에 특정 신호가 있었는지를 검사합니다. 따라서 워터마크는 AI 사용 여부를 판정하는 만능 도장이 아니라, 특정 생성 시스템을 확인하는 장치에 가깝습니다.
편집을 거치면 신호가 얼마나 남을까요. Anthropic은 가벼운 수정만으로는 워터마크가 완전히 사라지지 않을 수 있다고 말합니다. 모든 단어를 바꾸는 전면 재작성이라면 제거할 수 있지만, 그 결과물을 여전히 AI 생성 텍스트라고 부를 수 있는지는 논쟁의 대상입니다. Claude가 사람 글을 교정한 경우에는 텍스트 길이와 편집 강도가 중요합니다. 사람이 대부분의 단어를 썼다면 워터마크가 붙을 공간 자체가 거의 없을 수 있습니다.
코드는 조금 다릅니다. 실행 가능한 코드는 자연어처럼 표현을 자유롭게 바꿀 수 없으므로 워터마크가 더 약하게 남습니다. 다만 코드 주석처럼 여러 표현이 가능한 부분에는 신호를 넣을 수 있습니다. Anthropic은 실제 코드의 동작에는 무시할 만한 영향만 준다고 설명합니다. 개발자 입장에서는 생성 코드의 기능이 바뀐다기보다, 일부 주석과 표현 선택에 출처 신호가 남는 그림입니다.
로컬 우선 AI 작업대라는 관점에서 이번 변화가 던지는 실무적 질문은 탐지 회피가 아닙니다. 초안은 사람이 썼는지, Claude가 어느 부분을 고쳤는지, 결과물이 전면 재작성인지 구분할 수 있어야 합니다. 워터마크가 검출되지 않는다고 해서 인간 작성이라는 뜻은 아니고, 신호가 검출된다고 해서 최종 문장 전체를 모델이 썼다는 뜻도 아닙니다. 작업 이력을 남기는 습관이 워터마크 자체보다 정확한 설명을 가능하게 합니다.
이번 조치는 EU AI Act 투명성 코드 준수와 연결돼 있습니다. Anthropic만의 실험도 아닙니다. 같은 코드에 서명한 다른 주요 모델 개발사들도 자체 워터마크를 도입할 예정입니다. 앞으로는 AI 생성 여부를 둘러싼 논쟁이 단일 탐지 점수보다 생성, 교정, 재작성의 경계를 어떻게 기록했는지로 옮겨갈 가능성이 큽니다.