유럽 챗GPT 글에 ‘보이지 않는 워터마크’가 붙는다…AI 글 판별의 가능성과 한계

오픈AI가 2026년 10월 5일 유럽연합에서 챗GPT와 코덱스가 생성한 일부 텍스트에 보이지 않는 워터마크를 넣겠다고 발표했다. 워터마크는 글자에 표시를 붙이는 방식이 아니라, AI가 단어를 고르는 패턴 속에 통계적 신호를 숨기는 기술이다. 유럽에서는 앞으로 몇 주에 걸쳐 모든 요금제의 적용 가능한 출력에 도입하고, 전 세계 기업용 개발 고객은 일부 모델에서 선택적으로 켤 수 있다.

이 소식은 “이제 AI가 쓴 글을 완벽하게 찾아낼 수 있다”는 뜻이 아니다. 오픈AI는 오히려 탐지기가 틀릴 수 있다는 한계를 강조하며 일반인에게 탐지 도구를 바로 공개하지 않기로 했다. 긴 글은 비교적 잘 찾지만 짧거나 수학처럼 표현 선택이 제한된 글, 번역되거나 조금만 고쳐진 글에서는 신호가 약해질 수 있다. 워터마크 도입과 AI 글 판별의 완성은 전혀 다른 이야기다.

이번 조치는 생성형 AI 콘텐츠를 기계가 알아볼 수 있는 형태로 표시하도록 요구하는 유럽연합 AI법의 투명성 규정에 대응한 것이다. 규제가 제품 설계에 직접 영향을 준 대표 사례이면서, 학교와 언론, 채용 현장에서 널리 쓰이는 이른바 ‘AI 탐지기’를 얼마나 조심스럽게 다뤄야 하는지도 보여준다.

보이지 않는 워터마크는 어떻게 작동하나

오픈AI가 공개한 기술 이름은 ‘텍스트그레인(textGrain)’이다. 생성형 AI는 다음 단어를 하나만 정해 놓고 쓰는 것이 아니라 문맥에 맞는 여러 후보 가운데 하나를 선택한다. 텍스트그레인은 문장의 뜻과 자연스러움을 크게 해치지 않는 범위에서 특정 통계 규칙에 맞는 단어 선택을 조금 더 자주 하게 만든다. 나중에 전용 탐지기가 충분한 분량의 글을 읽고 그 규칙이 반복되는지 계산한다.

종이에 보이는 로고나 사진 구석의 반투명 표시와는 다르다. 복사해 메모장에 붙여도 별도 파일 정보가 남는 방식이 아니며, 글 자체의 단어 선택에 신호가 들어간다. 그래서 단순 복사로 완전히 사라지지 않을 수 있지만, 사람이 문장을 바꾸거나 번역하면 통계 패턴이 훼손될 수 있다.

오픈AI는 자사 시험에서 텍스트그레인이 구글의 텍스트용 신스ID를 포함해 비교한 다른 방법과 같거나 더 나은 성능을 보였다고 주장한다. 하지만 이는 오픈AI가 설계한 평가 조건의 결과다. 다양한 언어, 문체, 편집 방식, 다른 회사 모델이 섞인 현실 환경에서도 같은 수준인지 독립 검증이 필요하다.

워터마크가 적용될 수 있는 글과 적용되지 않는 글도 나뉜다. 출시 전 생성된 글에는 당연히 신호가 없다. 지원하지 않는 모델의 출력, 예외로 분류된 짧은 텍스트, 사람이 직접 쓴 글, 다른 AI가 만든 글은 오픈AI 워터마크 탐지 대상이 아니다. 탐지 결과가 음성이라고 해서 사람이 썼다고 결론내릴 수 없는 이유다.

누구에게 언제 적용되나

오픈AI 발표를 적용 범위별로 나누면 다음과 같다.

• 유럽연합의 챗GPT와 코덱스: 앞으로 몇 주 동안 적용 가능한 텍스트 출력에 보이지 않는 워터마크가 순차 도입된다.
• 요금제: 오픈AI는 유럽의 모든 플랜을 대상으로 설명했다.
• 전 세계 기업용 개발 고객: 10월 5일부터 일부 모델에서 워터마크를 선택해 켤 수 있으며 기본값은 꺼짐이다.
• 클라우드 협력사를 통한 오픈AI 모델 이용: 향후 몇 주 안에 제공하기 위해 협력 중이라고 밝혔다.
• 탐지기: 처음에는 승인된 연구자와 전문 기관에 제한적으로 제공한다.
• 이미지와 음성: 이번 발표는 텍스트에 관한 것이며 기존 이미지·음성 출처 확인 도구는 별도로 운영된다.

한국의 일반 챗GPT 이용자에게 같은 워터마크가 즉시 의무 적용된다는 발표는 아니다. 다만 한국 기업이 전 세계 고객을 상대로 서비스를 제공하거나 유럽 이용자에게 콘텐츠를 내보낸다면, 자율적으로 워터마크를 켜거나 유럽 규정에 맞는 투명성 절차를 준비할 수 있다.

모든 텍스트가 똑같이 표시되는 것도 아니다. 기술적으로 신호를 넣기 어려운 짧은 답, 코드, 정답 표현이 제한된 내용에는 예외가 생길 수 있다. 실제 대상과 예외 기준은 제품 도움말과 유럽 규정의 세부 지침을 함께 확인해야 한다.

왜 유럽연합이 AI 글 표시를 요구하나

생성형 AI가 만든 글은 자연스러워서 사람이 작성한 글과 눈으로 구분하기 어렵다. 선거를 앞둔 허위 정보, 가짜 후기, 대량 스팸, 사칭 메시지처럼 출처를 숨긴 자동 생성물이 늘어날 수 있다는 우려가 있다. 유럽연합 AI법의 투명성 규정은 제공자가 기계가 읽을 수 있는 방식으로 AI 생성 여부를 식별할 수 있게 하려는 목적을 갖는다.

여기서 워터마크는 “이 글은 거짓이다”라는 딱지가 아니다. AI가 썼다고 해서 내용이 틀린 것도 아니고, 사람이 썼다고 해서 참인 것도 아니다. 출처에 관한 하나의 신호일 뿐이다. 뉴스의 진위를 판단하려면 주장과 증거, 작성자, 원문, 수정 이력을 별도로 확인해야 한다.

또한 워터마크는 작성자의 정체를 알려주지 않는다. 특정 계정이 언제 어떤 요청으로 만들었는지 공개하는 추적표도 아니다. 탐지기는 글 안의 통계적 패턴을 보고 해당 방식으로 생성됐을 가능성을 평가한다. 개인정보 보호와 책임 추적은 별도의 정책과 기록 관리 문제다.

규제의 취지는 투명성이지만, 기술이 불완전하면 억울한 판정이 생길 수 있다. 그래서 오픈AI는 일반 대중이 누구의 과제나 자기소개서를 즉석에서 검사하는 공개 탐지기를 제공하지 않고 연구자와 전문 기관부터 제한적으로 접근시키겠다고 했다. 이는 기술의 한계를 인정한 결정으로 볼 수 있다.

오픈AI가 공개한 정확도 숫자를 어떻게 읽어야 하나

오픈AI 기술 설명에 따르면 거짓 양성률, 즉 워터마크가 없는 글을 있다고 잘못 판단하는 비율을 1%로 맞춘 조건에서 심리학처럼 표현의 자유가 비교적 큰 200토큰 분량은 약 80%, 400토큰 분량은 약 95%를 찾아냈다. 토큰은 AI가 글을 처리하는 작은 단위로, 영어에서는 대략 단어나 단어 조각에 해당한다.

95%라는 숫자만 보면 매우 높아 보이지만 반대편도 봐야 한다. 워터마크가 있는 긴 글 100개 가운데 약 5개를 놓칠 수 있고, 워터마크가 없는 글 100개 가운데 약 1개를 잘못 표시하도록 맞춘 조건이다. 수만명의 학생이나 지원자를 검사하면 작은 비율도 상당한 수의 오판으로 이어질 수 있다.

주제에 따라서도 차이가 난다. 수학 문제처럼 가능한 표현이 제한되면 AI가 통계 신호를 심을 단어 선택의 여지가 줄어든다. 짧은 이메일, 제목, 한두 문장의 답처럼 분량이 적어도 신호가 충분히 쌓이지 않는다.

편집은 더 큰 문제다. 오픈AI가 공개한 400토큰 실험에서 원문 워터마크 탐지율은 약 92%였지만 단어 10%를 동의어로 바꾸자 66%로 내려갔고, 25%를 바꾸자 17%로 급락했다. 번역, 요약, 다른 AI를 통한 문체 수정도 비슷하게 신호를 약하게 만들 수 있다. 악의적인 사람이 일부러 우회할 수 있을 뿐 아니라, 선의의 사용자가 자연스럽게 글을 다듬어도 탐지 결과가 달라질 수 있다는 뜻이다.

따라서 탐지 결과는 법정의 지문처럼 단독 증거로 쓰기 어렵다. “워터마크가 검출됐다”는 결과는 해당 기술의 신호와 닮은 패턴이 있다는 의미이고, “검출되지 않았다”는 결과는 AI가 쓰지 않았다는 보증이 아니다.

학교와 채용 현장에서 가장 주의할 점

학교에서는 학생이 AI로 과제를 대신 썼는지 확인하고 싶어 한다. 기업은 자기소개서와 사전 과제가 지원자의 실제 능력을 보여주는지 궁금해한다. 워터마크가 이런 문제를 한 번에 해결해 줄 것처럼 보이지만, 성급한 자동 판정은 위험하다.

첫째, 적용 범위가 제한된다. 오픈AI가 아닌 다른 모델의 글, 과거에 생성된 글, 워터마크가 꺼진 기업용 출력은 탐지하지 못할 수 있다. 둘째, 사람이 문장을 고치면 신호가 약해진다. 셋째, 사람이 직접 쓴 글이 우연히 비슷한 패턴을 가질 가능성을 완전히 없앨 수 없다. 넷째, AI 사용 자체가 허용된 과제와 금지된 과제를 구분하지 않는다.

교육기관은 탐지 점수만으로 부정행위를 확정하기보다 초안과 참고자료, 수정 기록, 구두 설명, 수업 중 작성 과정 등 여러 증거를 함께 봐야 한다. 학생이 어떤 도구를 어디에 썼는지 밝히는 사용 고지 규칙도 명확해야 한다. 아이디어 정리, 문법 교정, 번역, 전체 대필을 모두 같은 행위로 취급하면 교육적 목적이 흐려진다.

채용에서도 마찬가지다. 탐지기 점수가 높다는 이유만으로 지원자를 탈락시키면 설명 책임과 차별 문제가 생길 수 있다. 글쓰기 도구에 접근하기 어려운 사람, 비원어민, 장애 보조 기술을 쓰는 사람에게 다른 영향을 줄 가능성도 살펴야 한다. 실제 업무 능력을 확인하려면 면접에서 사고 과정을 묻거나, 허용 도구를 명시한 실시간 과제를 운영하는 편이 더 타당할 수 있다.

창작자와 언론사에는 어떤 의미인가

창작자는 AI를 일부 활용한 글에 워터마크가 남는 것이 자신의 저작권이나 평판에 어떤 영향을 주는지 궁금할 수 있다. 워터마크는 저작권 소유자를 정하는 제도가 아니다. 사람이 충분한 창작적 선택과 편집을 했다면 권리 판단은 별도의 저작권 원칙을 따른다. 반대로 워터마크가 없다고 순수한 인간 창작이라는 인증이 되는 것도 아니다.

언론사는 자동 생성 기사나 요약을 독자에게 알리는 정책과 워터마크를 함께 사용할 수 있다. 하지만 독자에게 보이는 설명이 없다면 기계만 읽는 신호로는 투명성이 충분하지 않을 수 있다. 중요한 기사에서는 “AI로 초안을 만들고 기자가 검토했다”처럼 사람에게 이해되는 고지가 더 직접적이다.

플랫폼은 대량 스팸과 사칭 계정을 찾는 보조 신호로 워터마크를 활용할 수 있다. 여러 게시물이 같은 생성 패턴을 보일 때 추가 검토 대상으로 삼는 방식이다. 이 경우에도 계정을 자동 정지하기 전 이의 제기 절차와 사람의 검토가 필요하다.

워터마크와 출처 증명은 다르다

텍스트 워터마크는 통계적 흔적을 찾는 방식이다. 반면 이미지와 영상 분야에서 쓰이는 콘텐츠 출처 정보는 누가 어떤 도구로 만들고 편집했는지를 서명된 기록으로 연결하려 한다. 전자는 글 자체에 신호가 남지만 편집에 약하고, 후자는 파일과 편집 도구가 기록 체계를 유지해야 한다.

어느 방식도 만능은 아니다. 파일 기록은 화면 캡처나 복사 과정에서 사라질 수 있고, 통계 신호는 번역과 수정에 약하다. 현실적인 대응은 여러 층을 겹치는 것이다. 서비스 단계의 생성 기록, 이용자에게 보이는 고지, 워터마크, 플랫폼의 이상 행동 탐지, 중요한 주장에 대한 사실 확인을 함께 사용해야 한다.

오픈AI가 탐지기를 곧바로 대중에 공개하지 않은 것도 이런 맥락이다. 공개 탐지기는 투명성을 높일 수 있지만, 오해된 점수가 사람을 처벌하는 도구가 되거나 공격자가 우회 방법을 빠르게 시험하는 수단이 될 수 있다. 제한된 연구 접근을 통해 언어별 성능과 악용 가능성을 먼저 확인하려는 것이다.

아직 확인되지 않은 점

첫 번째는 한국어 성능이다. 오픈AI가 공개한 대표 수치는 영어 데이터의 심리학과 수학 질문을 중심으로 한다. 한국어는 어미와 조사, 띄어쓰기, 번역 관행이 다르므로 같은 길이에서 동일한 탐지율이 나온다고 볼 수 없다. 한국어 글에 대한 독립 평가 결과가 필요하다.

두 번째는 실제 예외 범위다. 어떤 길이와 종류의 텍스트에 워터마크가 적용되지 않는지, 사용자가 화면에서 적용 여부를 알 수 있는지, 기업 서비스가 워터마크를 켰다는 사실을 최종 이용자에게 어떻게 고지할지 세부 정보가 더 필요하다.

세 번째는 탐지 결과의 책임 있는 사용 기준이다. 연구기관과 전문 조직이 접근 권한을 받더라도 학교 징계, 채용 탈락, 콘텐츠 삭제 같은 중대한 결정에 단독으로 쓰지 못하도록 운영 원칙이 필요하다. 오류가 발생했을 때 이의를 제기하고 재검토받는 절차도 중요하다.

핵심 정리

유럽의 챗GPT 글에 보이지 않는 워터마크가 붙기 시작하지만, 이것은 AI 글을 완벽하게 판별하는 도장이 아니다. 긴 원문에서는 유용한 신호가 될 수 있으나 짧은 글, 제한된 주제, 번역·편집된 글에서는 탐지력이 크게 떨어진다. 양성과 음성 어느 쪽도 단독으로 인간 작성 여부를 확정하지 못한다.

일반 이용자가 기억할 점은 두 가지다. AI가 만든 글임을 밝히는 투명성은 강화되고 있지만, 탐지 점수를 사실 판정처럼 쓰면 안 된다. 학교와 기업은 워터마크를 보조 자료로만 사용하고 작성 과정과 사람의 설명을 함께 확인해야 한다. 앞으로 가장 중요한 검증은 한국어를 포함한 다양한 언어의 독립 시험과, 탐지 결과 때문에 불이익을 받는 사람이 이의를 제기할 수 있는 절차다.

핵심 출처: 오픈AI 공식 발표, 텍스트그레인 기술 보고서, TechCrunch 보도