클로드가 쓴 글에는 ‘보이지 않는 표시’가 남는다…AI 워터마크가 증명하는 것
앤트로픽이 8월 14일 클로드의 미래 모델이 생성하는 글에 보이지 않는 워터마크를 넣겠다고 밝혔다. 글자 뒤에 숨은 기호를 붙이거나 화면에 로고를 표시하는 방식은 아니다. 문장을 만들 때 뜻이 비슷한 여러 단어 가운데 하나를 고르는 미세한 패턴을 남겨, 전용 검사 도구가 나중에 “클로드가 이 글 작성에 관여했을 가능성”을 계산하는 방식이다.
이번 변화는 유럽연합 AI법의 투명성 규칙에 대응하기 위한 것이다. 앤트로픽은 출시 시 지역을 안정적으로 나눠 적용할 방법이 아직 없어 워터마크를 전 세계에 적용할 계획이라고 설명했다. 오픈AI나 구글의 제품처럼 눈에 보이는 AI 표시를 떠올리면 이해하기 어렵다. 클로드의 워터마크는 독자에게 보이지 않고, 작성자 이름이나 계정 정보도 담지 않으며, 짧은 글이나 많이 고친 글에서는 잘 잡히지 않을 수 있다.
가장 중요한 결론부터 말하면 이렇다. 워터마크가 검출돼도 그 사람이 글을 전부 AI에게 맡겼다는 뜻은 아니며, 검출되지 않았다고 사람이 직접 썼다는 뜻도 아니다. 학교, 채용, 언론, 출판 현장에서 이를 ‘AI 사용 판결기’로 쓰면 오판할 가능성이 있다.
눈에 보이지 않는데 어떻게 표시가 남나
대규모 언어모델은 문장을 한 번에 쓰지 않는다. 앞에 나온 문맥을 보고 다음에 올 수 있는 단어나 글자 조각의 후보를 계산한 뒤 하나씩 선택한다. “오늘 날씨는 춥고…” 다음에 “흐렸다”와 “쌀쌀했다”처럼 문맥상 자연스러운 후보가 여러 개 있을 수 있다. 뜻과 품질에 큰 차이가 없다면 모델은 어느 정도 무작위성을 이용해 하나를 고른다.
앤트로픽의 설명에 따르면 워터마크는 바로 이 ‘정답이 하나가 아닌 선택’에 일정한 규칙을 넣는다. 일반적인 난수 대신 비밀 키와 앞선 단어들을 이용해 선택을 정한다. 독자가 읽을 때는 자연스러운 문장으로 보이지만, 키를 가진 검사기는 긴 문장에 반복되는 선택 패턴을 분석해 클로드가 관여했을 확률을 계산할 수 있다.
종이 지폐의 그림이나 사진 위 로고와는 전혀 다르다. 별도의 글자나 숨은 코드를 삽입하지 않는다. 복사해서 메모장에 붙여 넣어도 문장 자체가 유지되는 한 패턴이 남을 수 있다. 파일 형식을 바꿨다고 바로 사라지는 메타데이터 표시와도 다르다.
앤트로픽은 구글 딥마인드가 2024년 과학저널 네이처에 공개한 ‘SynthID-Text’ 접근법을 변형해 사용한다고 밝혔다. 구글은 당시 일부 제미나이 사용량에 이 방식을 적용해 평가했고, 워터마크 적용 여부에 따라 이용자의 긍정·부정 평가에서 통계적으로 의미 있는 차이가 나타나지 않았다고 보고했다. 앤트로픽 역시 내부 시험에서 내용, 창의성, 읽기 쉬움에 실질적인 영향을 발견하지 못했다고 주장한다.
여기서 ‘품질 영향이 없다’는 표현은 현재 공개된 회사 시험과 기존 연구에 근거한 설명이다. 여러 언어와 글쓰기 장르, 장기간 실제 사용에서도 항상 차이가 없다고 독립적으로 확정됐다는 뜻은 아니다. 특히 한국어처럼 영어와 문장 구조가 다른 언어에서 탐지력이 어느 정도인지, 창작 문체의 다양성에 미세한 영향이 없는지는 출시 후 자료를 확인해야 한다.
사용자 입장에서 가격과 속도는 달라지지 않는다
앤트로픽은 워터마크가 추가 토큰을 만들지 않으므로 모델 이용 가격이 오르지 않고, 속도에도 무시할 정도의 영향만 준다고 설명했다. 화면에 새로운 표시가 생기는 것도 아니어서 일반 사용자는 이전과 같은 방식으로 클로드의 답을 읽고 복사할 수 있다.
개인정보와 관련해서도 중요한 제한을 명시했다. 워터마크에는 사용자, 회사, 대화방을 식별하는 정보가 들어가지 않는다. 검사 결과로 누가 어느 계정에서 글을 만들었는지 역추적할 수 없다는 뜻이다. 워터마크의 키는 ‘클로드 계열의 출력 패턴’을 확인하는 데 쓰이지, 개인별 꼬리표 역할을 하지 않는다.
이는 직장인에게 특히 중요하다. 회사 문서를 클로드로 다듬었을 때 외부인이 워터마크만으로 회사명이나 내부 대화를 알아낼 수 있다는 식의 해석은 공식 설명과 다르다. 다만 문서 자체에 기밀 정보가 포함돼 있으면 그 위험은 별개의 문제다. 워터마크가 개인정보를 담지 않는다는 사실이 AI 서비스에 민감한 내용을 입력해도 안전하다는 보증은 아니다.
무엇을 얼마나 써야 검출되나
워터마크는 모델이 여러 표현 중 하나를 고를 여지가 많을수록 잘 남는다. 긴 설명문, 번역문, 창작 글처럼 클로드가 대부분의 단어를 선택한 글은 패턴을 관찰할 기회가 많다. 반대로 짧은 답변은 선택 횟수가 적어 확신 있는 판정을 내리기 어렵다.
사실 중심 문장도 탐지가 약해질 수 있다. “아이작 뉴턴의 대표 저서는 프린키피아…”처럼 다음에 올 정확한 고유명사가 사실상 하나뿐이면, 워터마크를 위해 다른 단어를 고를 수 없다. 정확성을 해치지 않기 위해 이런 구간에는 표시가 거의 들어가지 않는다.
코드 역시 비슷하다. 정해진 문법과 정확한 변수·명령이 필요한 부분에서 다른 선택을 하면 코드가 깨질 수 있으므로 워터마크를 강하게 넣기 어렵다. 주석처럼 여러 표현이 가능한 부분에는 일부 패턴이 남을 수 있지만 실제 코드 내용에 미치는 영향은 제한적이라는 설명이다.
이 특성 때문에 “한 문단만 검사해 AI 사용 여부를 확정한다”는 접근은 위험하다. 짧은 숙제 답안, 제목, 광고 문구, 공식 수치가 많은 기사, 코드 조각은 특히 탐지 신뢰도가 낮을 수 있다. 워터마크는 긴 표본에서 통계적 가능성을 높이는 도구이지, 한 글자에서 출처를 읽어내는 도장이 아니다.
사람이 쓴 글을 클로드가 고치면 어떻게 되나
맞춤법과 문장부호만 고쳐 달라고 요청한 경우, 대부분의 단어는 여전히 사람이 선택한 것이다. 클로드가 바꾼 부분이 적으면 워터마크가 붙을 공간도 적어 탐지되지 않을 수 있다. 반대로 원문을 크게 다시 쓰게 하거나 내용을 확장하게 하면 클로드가 고른 단어가 많아지고 표시가 검출될 가능성이 커진다.
따라서 검출 결과는 ‘저자’를 판정하지 못한다. 워터마크가 발견됐다는 것은 클로드가 어느 시점에 글을 만들거나 크게 편집했을 가능성을 뜻한다. 사람이 아이디어와 사실을 준비하고 클로드가 문장을 다듬었을 수도 있고, 클로드가 초안을 만든 뒤 사람이 검토했을 수도 있다. 이 두 과정을 결과만 보고 구분하기 어렵다.
저작권이나 책임도 자동으로 바뀌지 않는다. 앤트로픽은 워터마크가 소유권과 저자성을 판단하지 않고, 서비스 약관상 사용자의 권리도 변경하지 않는다고 설명했다. 오류가 든 보고서를 제출했을 때 책임 주체를 워터마크가 결정해 주는 것도 아니다. 조직은 AI 관여 여부와 별도로 사실 확인, 승인 절차, 책임자를 정해야 한다.
번역에는 남고, 완전히 다시 쓰면 사라질 수 있다
클로드가 번역한 문장은 대상 언어의 거의 모든 단어를 모델이 선택하므로 워터마크가 적용된다. 반면 사람이 문장을 전면적으로 다시 쓰면 기존 선택 패턴이 무너질 수 있다. 앤트로픽도 가벼운 편집으로는 표시가 완전히 사라지지 않을 수 있지만 모든 단어를 바꾸는 수준의 재작성은 워터마크를 없앨 수 있다고 인정했다.
이 한계는 워터마크가 악의적인 사용을 완전히 막는 장치가 아님을 보여 준다. 탐지를 피하려는 사람이 다른 AI에 다시 써 달라고 하거나, 여러 모델의 출력을 섞거나, 문장을 충분히 편집하면 신호가 약해질 수 있다. 이미지의 눈에 보이는 로고를 잘라 내는 것과 과정은 다르지만 ‘표시가 영구적이지 않다’는 결과는 비슷하다.
그렇다고 의미가 없는 것은 아니다. 모든 사람이 탐지를 피하려고 글을 전면 재작성하지는 않는다. 대량으로 생성된 스팸, 조작 캠페인, 자동 게시물처럼 원문을 거의 그대로 배포하는 경우에는 출처를 추정하는 신호가 될 수 있다. 핵심은 워터마크를 단독 증거가 아니라 여러 확인 수단 중 하나로 쓰는 것이다.
왜 지금 도입하나: 유럽연합 AI법의 영향
앤트로픽은 이번 조치의 직접적인 이유로 유럽연합 AI법을 들었다. 회사는 다른 주요 AI 사업자들과 함께 2026년 7월 ‘AI 생성 콘텐츠 투명성 행동규범’에 서명했다. 앤트로픽 설명에 따르면 8월 2일부터 유럽 시장을 대상으로 하는 AI 제공자는 생성 콘텐츠를 표시해야 한다.
흥미로운 점은 유럽 규칙이 전 세계 사용자 경험을 바꾼다는 사실이다. 앤트로픽은 현재 지역별로 안정적으로 워터마크를 나눠 적용하기 어려워 출시 시 전 세계에 적용할 것이라고 밝혔다. 유럽 이용자만을 위한 규제가 한국에서 클로드를 쓰는 사람의 출력에도 영향을 줄 수 있는 셈이다.
다른 주요 모델 회사들도 같은 행동규범에 참여했고 각자의 표시 방식을 준비하고 있다. 다만 워터마크 키와 구현 방법이 회사마다 다르면 앤트로픽의 검사기로 다른 모델의 글을 판정할 수 없다. 업계 공통 표시 체계와 회사별 탐지 도구가 어떻게 연결될지, 여러 모델을 섞은 글은 어떻게 다룰지가 다음 과제다.
사진·파일에는 다른 방식인 C2PA를 쓴다
클로드가 PNG, JPG, SVG 같은 지원 파일을 만들면 텍스트 워터마크가 아니라 C2PA 콘텐츠 자격 정보를 메타데이터에 붙인다. C2PA는 카메라와 편집 소프트웨어가 파일의 생성·수정 이력을 기록하는 데 쓰는 공개 산업 표준이다. 암호학적으로 서명된 작은 기록을 통해 클로드가 파일 생성이나 처리에 관여했다는 사실을 확인한다.
텍스트 방식과 차이를 알아둘 필요가 있다. C2PA 정보는 파일의 메타데이터에 붙기 때문에 이를 읽는 도구로 확인할 수 있지만, 이미지의 픽셀 속에 숨은 흔적은 아니다. 파일을 다시 저장하거나 메타데이터를 제거하는 서비스에 올리면 기록이 사라질 가능성도 있다. 이 역시 ‘클로드가 관여했다’는 사실을 말할 뿐 누가 만들었는지, 내용이 사실인지, 저작권자가 누구인지를 증명하지 않는다.
학교와 회사가 오판하지 않으려면
워터마크 도입으로 가장 먼저 기대가 커질 곳은 교육과 채용이다. 교사는 학생 과제가 AI로 작성됐는지 알고 싶고, 채용 담당자는 지원서가 지원자의 실제 표현인지 확인하고 싶어 한다. 하지만 이번 방식의 한계를 고려하면 탐지 결과 하나로 불이익을 주는 것은 위험하다.
첫째, 짧거나 사실 중심인 글은 클로드가 작성했어도 검출이 어려울 수 있다. 둘째, 사람이 쓴 글을 강하게 편집하면 검출될 수 있다. 셋째, 다른 AI 모델이 쓴 글은 앤트로픽의 키로 확인할 수 없다. 넷째, 재작성으로 패턴이 약해질 수 있다. 즉 거짓 음성과 거짓 양성 가능성을 모두 고려해야 한다.
현실적인 활용법은 과정 증거와 함께 보는 것이다. 초안과 수정 이력, 참고 자료, 구두 설명, 업무 결과의 사실성, 조직의 AI 사용 공개 규칙을 종합해야 한다. 학교라면 AI 사용 자체를 일률적으로 금지하기보다 어느 단계에서 허용하고 어떻게 표시할지를 명확히 하는 편이 낫다. 회사라면 워터마크 탐지보다 고객 정보 입력 금지, 사실 검토, 최종 승인자를 정하는 정책이 더 직접적인 위험 관리가 된다.
아직 확인되지 않은 점
앤트로픽은 워터마크를 확인하는 탐지 API를 ‘곧’ 제공하겠다고 했지만 구체적인 공개일, 일반 이용자의 접근 방법, 가격, 판정 기준은 밝히지 않았다. 2026년 8월 2일 이전에 출시된 구형 클로드 모델에는 전환 기간이 적용되며, 앞으로 몇 달 동안 워터마크를 추가할 계획이라고 설명했다. 따라서 지금 보는 모든 클로드 출력에 이미 같은 표시가 들어갔다고 가정하면 안 된다.
또 한국어를 포함한 언어별 탐지 성능, 긴 글에서 어느 정도 분량이 필요한지, 번역과 요약을 반복했을 때 신호가 얼마나 유지되는지, 다른 회사의 탐지 도구와 상호 운용될지는 더 확인해야 한다. 회사가 가진 비밀 키를 외부 연구자가 어느 범위까지 검증할 수 있는지도 투명성 논쟁의 대상이 될 수 있다.
이번 발표가 남기는 가장 실용적인 기준은 명확하다. 앞으로 AI 생성 여부는 ‘AI 문체처럼 보인다’는 감상보다 기술적 신호로 확인하는 방향으로 이동할 것이다. 그러나 그 신호도 확률이며, 글의 진실성·저자성·책임을 대신 판단하지 않는다. 탐지 도구가 공개되면 먼저 봐야 할 것은 화려한 정확도 숫자가 아니라 짧은 한국어 글, 사람이 편집한 글, 여러 모델을 섞은 글에서의 오류율이다. 그 결과가 나와야 클로드의 보이지 않는 표시가 실제 투명성 장치인지, 제한적인 참고 신호인지 판단할 수 있다.