앤트로픽이 8월 11일, 유럽연합 AI법이 요구하는 투명성 규범에 맞춰 Claude가 만든 텍스트에 사람 눈에 보이지 않는 워터마크를 심겠다고 밝혔다. 8월 2일 이후 출시되는 신규 Claude 모델부터 적용되며, SVG·PNG·JPG 같은 지원 파일에는 서명된 출처 메타데이터도 함께 붙인다. 그런데 정작 이 규범에 서명한 앤트로픽 스스로 자사 고객 안내 문서에 "심하게 편집하거나 의역·번역하면 표시가 사라질 수 있다"는 한계를 적어 두었다. 벤 톰슨은 스트라테크리(Stratechery) 8월 12일 글에서 이 워터마킹이 기술적으로도, 철학적으로도 좋은 아이디어가 아니라고 짚었다.
이 조치의 출발점은 EU AI법 제50조(2)다. 합성 오디오·이미지·영상·텍스트를 만드는 AI 시스템 제공자는 결과물을 기계가 판독 가능한 형태로 표시하고 AI 생성물임을 탐지할 수 있게 해야 한다는 조항으로, 2026년 8월 2일부터 시행됐다. 앤트로픽은 이 조항을 구체화한 EU의 AI 생성 콘텐츠 투명성 실행규범(Code of Practice)에 생성형 AI 모델·시스템 제공자 자격으로 서명했다.
규제가 표시로 바뀌기까지 무슨 일이 있었나
앤트로픽 고객센터 문서에 따르면 표시 방식은 두 가지다. 첫째, 지원 모델이 만든 텍스트에는 응답 안에 눈에 띄지 않는 워터마크를 짠다. 이 워터마크는 뜻·품질·가독성을 바꾸지 않고, 복사·붙여넣기 뒤에도 함께 이동하며 일부 편집을 거쳐도 남을 수 있다. 모델 수준에서 적용되므로 Claude.ai, API, Claude Code, Claude Cowork, 그리고 AWS·Google Cloud·Microsoft Foundry 같은 클라우드 파트너 경로에서도 같은 방식으로 걸린다. 둘째, Claude가 SVG·PNG·JPG 파일을 생성하면 C2PA(Coalition for Content Provenance and Authenticity) 공개 표준을 따르는 서명된 출처 메타데이터를 붙인다. 다만 클라우드 파트너 경로에서는 텍스트 워터마크는 적용되지만 파일 메타데이터는 플랫폼이 제공하는 기능에 따라 지원되지 않을 수 있다.
워터마크는 왜 "생각보다 약한" 신호인가
앤트로픽이 채택한 방식은 2023년 메릴랜드대 존 커첸바우어(John Kirchenbauer) 연구진이 제안한 기법과 원리가 같다. 모델이 다음 토큰을 뽑기 전에 이전 토큰을 시드로 삼아 어휘 전체를 무작위로 둘로 나누고, 그중 절반인 "그린리스트" 토큰이 선택될 확률을 살짝 높인다. 사람이 읽을 때는 자연스러운 문장이지만, 통계적으로는 그린리스트 토큰의 비율이 우연보다 높게 나타나 검출기가 이 편향을 점수로 환산해 워터마크 여부를 판정한다. 문제는 이 편향이 토큰 단위로 걸리기 때문에, 문장을 통째로 바꿔 쓰면 그린리스트 배치 자체가 무너진다는 점이다.
메릴랜드대 소헤일 페이지(Soheil Feizi) 연구진은 2023년 논문에서 이 약점을 실험으로 보여줬다. 약 300토큰 분량의 글에 재귀적 의역 공격을 반복 적용하자 워터마크 기반 탐지율이 크게 떨어졌고, 그런데도 글의 품질은 거의 나빠지지 않았다. 즉 워터마크를 무력화하는 데 필요한 것은 정교한 기술이 아니라 같은 뜻을 다른 문장으로 한 번 더 쓰는 흔한 작업이다. 앤트로픽도 이 한계를 인지하고 있다. 고객센터 문서는 "심한 편집, 의역, 번역, 다른 글과의 혼합"을 표시가 사라질 수 있는 조건으로 직접 명시했다.
탐지 결과는 무엇을 증명하고, 무엇을 증명하지 못하나
탐지기가 Claude의 표시를 찾아냈다고 해서 콘텐츠 전체의 출처가 확정되는 것은 아니다. 앤트로픽은 사람이 쓴 글을 Claude로 교정만 했거나, 표시가 붙은 결과물을 다시 발췌·수정해 다른 자료와 합쳤을 가능성이 있다고 설명한다. 반대 방향도 마찬가지다. 표시가 없다고 AI 생성 이력이 없었다는 뜻은 아니다. 워터마크 적용 이전 모델의 결과물, 많이 고치거나 번역한 텍스트, 지나치게 짧은 문장, 해당 기능을 지원하지 않는 경로의 결과물에는 애초에 검출 가능한 표시가 남지 않을 수 있다. 결국 워터마크 탐지는 "가능성 신호"이지 법정에서 쓸 수 있는 "증거"에는 미치지 못한다.
이 간극이 실제로 문제가 된 사례가 이미 출판계에 있다. 2026년 상반기 아셰트(Hachette)는 미아 밸러드의 공포 소설 「Shy Girl」을 AI 생성 의혹이 제기된 뒤 철회했다. 저자는 자신이 AI로 쓰지 않았다고 해명하면서, 프리랜서 편집자가 자신도 모르게 AI 생성 자료를 끼워 넣었을 가능성을 언급했다. 2026년 7월에는 범죄 소설 「Call Me, I'll Hide the Body」에 14개 출판사가 입찰해 계약이 성사됐지만, 담당 에이전트가 AI 사용 의혹을 제기하며 지지를 철회했다가 다시 사과하는 소동이 벌어졌다. 작가 제리 팔라데는 AI 사용을 부인했다. 두 사례 모두 워터마크가 없던 시점에 벌어진 논쟁이지만, 워터마크가 있었더라도 원고를 충분히 고쳐 썼다면 같은 논쟁이 똑같이 반복됐을 것이다.
제품·서비스에 Claude를 넣는 팀은 무엇을 준비해야 하나
앤트로픽은 자사 모델을 자체 제품에 통합하는 회사들에게 EU AI법 제50조가 자사 서비스에 어떤 의무를 지우는지 독립적으로 평가하라고 안내한다. 워터마크와 메타데이터가 자동으로 법적 의무를 대신 충족해 주지 않는다는 뜻이다. 실무적으로는 자사 서비스가 어떤 Claude 모델·경로를 쓰는지, 파일 변환·재저장·스크린샷 과정에서 메타데이터가 사라질 수 있는 지점이 어디인지, 사용자에게 표시 여부를 어떻게 알릴지를 먼저 목록으로 정리해야 한다. 출판사·학교처럼 AI 작성 여부를 판정해야 하는 조직이라면 워터마크 탐지 결과를 유일한 증거로 쓰지 않고, 원고 제출 시점의 원본 파일과 수정 이력을 별도로 남기는 절차를 함께 갖추는 편이 안전하다.
출처: Stratechery, Anthropic's Watermarking, How It (Probably) Works, Worse Than It Seems (2026-08-14 확인)