챗GPT가 만든 음성에도 보이지 않는 표시…가짜 목소리를 확인하는 법

오픈AI가 2026년 7월 31일 챗GPT 등 자사 도구로 만든 일부 음성에 구글 딥마인드의 ‘SynthID’ 워터마크를 넣기 시작했다. 사람 귀에는 들리지 않지만 전용 검사 도구로는 찾을 수 있는 신호다. 오픈AI의 공개 검증 도구도 이미지뿐 아니라 지원되는 음성 파일을 검사하도록 확대됐다. 누군가의 목소리를 닮은 AI 음성이 빠르게 퍼지는 상황에서, 파일의 출처를 확인할 수 있는 단서가 하나 더 생긴 셈이다.

다만 이 기능을 ‘가짜 음성을 100% 가려내는 탐지기’로 이해하면 곤란하다. 오픈AI도 어떤 출처 확인 기술도 완벽하지 않다고 명시한다. 검사 결과 신호가 발견되면 해당 파일이 지원되는 오픈AI 도구에서 만들어졌다는 강한 단서가 되지만, 신호가 없다는 이유만으로 사람이 녹음한 진짜 음성이라고 단정할 수는 없다. 다른 회사의 생성 도구를 썼거나, 지원 범위 밖의 파일이거나, 심한 편집으로 신호가 손상됐을 가능성이 있기 때문이다.

이번 변화가 중요한 이유는 기술 이름보다 사용 장면에 있다. 가족을 사칭해 송금을 요구하는 전화, 유명인이 하지 않은 말을 한 것처럼 꾸민 짧은 음성, 후보자의 목소리를 복제한 선거 콘텐츠, 상사의 지시처럼 들리는 회사 메신저 파일이 모두 현실적인 위험이 됐다. 지금까지 일반 이용자는 ‘말투가 어색한지’를 듣고 판단하는 경우가 많았지만, 음성 생성 품질이 좋아질수록 귀만으로 구분하기는 어려워진다. 워터마크와 출처 정보는 그런 직감에 의존하지 않고 확인 절차를 시작할 수 있게 해준다.

무엇이 새로 달라졌나

오픈AI 공식 발표에 따르면 이번 업데이트의 핵심은 세 가지다.

• 챗GPT와 오픈AI 도구로 생성된 지원 대상 음성에 SynthID 신호를 넣는다.
• 일반인이 파일을 올려 확인하는 공개 검증 도구가 이미지에 이어 음성을 지원한다.
• 언론사나 플랫폼 같은 조직이 대량의 파일을 검사 절차에 연결할 수 있도록 검증 기능의 시스템 연동 수단도 제공한다.

오픈AI는 5월부터 이미지 출처 확인에 여러 겹의 방식을 사용해 왔다. 파일에 제작 이력을 붙이는 ‘C2PA 콘텐츠 자격증명’, 파일 자체에 숨은 신호를 넣는 SynthID, 그리고 이 신호를 읽는 검증 도구를 함께 쓰는 방식이다. 7월 31일 업데이트는 이 구조를 음성으로 넓힌 것이다.

C2PA는 사진이나 영상의 ‘디지털 영양성분표’에 가깝다. C2PA 연합은 제작 도구, 편집 과정, 서명 주체 같은 이력을 표준화된 정보로 기록한다. 정보가 남아 있으면 기자나 플랫폼, 일반 이용자가 파일이 어디서 왔고 어떤 편집을 거쳤는지 확인하는 데 도움이 된다. 그러나 메신저로 재전송하거나 화면을 캡처하고 파일을 변환하는 과정에서 부가 정보가 사라질 수 있다는 약점이 있다.

SynthID는 다른 층의 안전장치다. 구글 딥마인드 설명에 따르면 이미지·영상·음성·텍스트에 사람이 알아차리기 어려운 신호를 직접 심는다. 음성에서는 소음 추가, MP3 압축, 재생 속도 변경 같은 흔한 변형을 견디도록 설계됐다. 상세한 제작 이력을 담는 데는 C2PA가 유리하고, 파일 변환 뒤에도 흔적을 남기는 데는 워터마크가 유리하다. 그래서 둘 중 하나만 고르는 대신 함께 사용하는 것이다.

워터마크는 화면의 로고와 어떻게 다른가

우리가 흔히 아는 워터마크는 사진 구석의 회사 로고나 영상 위의 반투명 글씨다. 누구나 볼 수 있어 이해하기 쉽지만 잘라내거나 덮어쓰기도 쉽다. SynthID는 눈이나 귀로 바로 알아채는 표지가 아니라, 생성된 콘텐츠의 패턴에 신호를 분산해 넣고 전용 도구로 확인하는 방식이다. 음성의 말 내용이나 목소리를 바꾸는 안내 문구가 아니라, 파일 안에 남는 기술적 표식에 가깝다.

이 차이는 이용자가 무엇을 기대해야 하는지 정해 준다. 음성을 재생했을 때 “이 파일은 AI로 제작됐습니다”라는 안내가 자동으로 들리는 것은 아니다. 유튜브나 SNS가 별도의 표시를 붙이지 않는 한, 듣는 사람에게는 보통 음성과 똑같이 들릴 수 있다. 의심되는 파일을 검증 도구에 넣거나, 플랫폼이 업로드 단계에서 신호를 검사해야 비로소 출처 단서를 얻는다.

따라서 워터마크 기술의 효과는 생성 회사 하나의 조치만으로 완성되지 않는다. 메신저와 SNS가 신호를 보존하고 읽어야 하며, 뉴스룸과 선거기관, 금융회사가 확인 결과를 실제 대응 절차에 연결해야 한다. 이용자에게도 ‘신호가 있다’와 ‘내용이 사실이다’는 전혀 다른 판단이라는 설명이 필요하다.

이 검사가 알려주는 것과 알려주지 않는 것

가장 먼저 구분할 것은 출처와 진실성이다. 오픈AI 검증 도구가 신호를 찾았다고 가정해 보자. 이 결과가 말해 주는 것은 해당 파일이 지원되는 오픈AI 생성 도구와 관련됐을 가능성이다. 파일 속 발언이 거짓인지, 풍자인지, 합법적으로 동의를 받고 만든 것인지까지 자동으로 판정해 주지는 않는다.

반대로 실제 사람의 발언을 악의적으로 잘라 붙인 파일은 생성형 AI 워터마크가 없을 수 있다. 진짜 녹음이라도 문맥에서 떼어내면 허위 정보가 될 수 있다. 다른 생성 서비스가 SynthID를 쓰지 않는다면 완전한 합성 음성인데도 오픈AI 신호는 나오지 않는다. 오래된 파일이나 지원되지 않는 형식도 검사 범위를 벗어날 수 있다.

검사 결과는 다음처럼 읽는 것이 안전하다.

• 신호가 발견됨: 제작 출처를 추적할 유용한 근거다. 그러나 발언 내용의 사실 여부와 당사자 동의는 별도로 확인해야 한다.
• 신호가 발견되지 않음: 사람이 만든 진짜 파일이라는 증명이 아니다. 다른 도구, 편집, 파일 변환, 지원 범위 문제를 확인해야 한다.
• 판정이 불확실함: 원본 파일을 확보하고 다른 출처 정보와 교차 확인해야 한다. 불확실한 결과를 ‘가짜 확정’으로 공유하면 안 된다.

이 원칙은 특히 사기 대응에서 중요하다. 부모나 자녀의 목소리처럼 들리는 전화가 돈을 요구한다면 워터마크 검사를 기다리는 것보다 먼저 통화를 끊고, 저장된 번호로 직접 다시 연락하고, 가족끼리 정한 확인 질문을 사용하는 편이 빠르다. 기술 검사는 신고와 사후 분석에 도움을 주지만 즉시 판단을 대신하지 않는다.

일반 이용자에게 실제로 도움이 되는 상황

첫째는 메신저로 전달된 음성 파일이다. 유명인의 충격적인 발언, 회사 임원의 투자 지시, 정치인의 비공개 발언을 주장하는 파일이 퍼질 때 원본을 확보해 확인할 수 있다. 재업로드 영상에서 소리만 추출한 파일보다 최초 업로드 파일이 출처 신호를 더 잘 보존할 가능성이 있으므로, 가능하면 처음 게시한 계정과 원본 링크를 함께 확인해야 한다.

둘째는 언론과 사실검증 기관이다. 제보 음성을 기사화하기 전에 파일의 제작 이력을 검사하고, 발언 당사자와 장소·시간을 확인하는 기존 취재 절차에 기술적 단서를 추가할 수 있다. 자동 검사가 도입되면 대량의 제보 중 추가 확인이 필요한 파일을 먼저 분류하는 데 유용하다. 그러나 최종 보도 판단은 여전히 취재와 교차 검증을 거쳐야 한다.

셋째는 금융회사와 기업이다. 음성으로 결재를 지시하거나 고객 인증을 하는 조직은 합성 가능성을 위험 신호로 활용할 수 있다. 예를 들어 ‘대표 목소리와 비슷하다’는 이유만으로 송금을 실행하지 않고, 승인 채널을 하나 더 거치게 할 수 있다. 워터마크가 발견되면 차단하고, 발견되지 않더라도 고액 송금에는 별도 인증을 요구하는 식이다.

넷째는 창작자와 광고주다. AI 음성을 합법적으로 사용한 제작자는 출처 표시를 보존함으로써 어떤 도구를 썼는지 설명할 수 있다. 반면 특정 성우나 연예인의 음성을 닮게 만들었다면 워터마크가 있다고 해서 초상·퍼블리시티·저작권·계약 문제까지 해결되는 것은 아니다. ‘AI로 만들었다고 표시했다’와 ‘사용 허락을 받았다’는 서로 다른 조건이다.

왜 오픈AI가 구글 기술을 쓰나

SynthID는 구글 딥마인드가 개발했지만 오픈AI도 출처 확인 체계에 채택했다. 경쟁 회사의 기술을 쓰는 장면이 낯설 수 있으나, 출처 표시는 여러 서비스가 공통으로 읽을 수 있을수록 가치가 커진다. 도로 표지판이 자동차 회사마다 완전히 다르면 운전자가 혼란스러운 것과 비슷하다. 생성 도구마다 호환되지 않는 표시를 쓰면 플랫폼은 수십 가지 탐지기를 따로 운영해야 한다.

C2PA에도 구글, 메타, 마이크로소프트, 오픈AI, 어도비, BBC, 소니 등 여러 조직이 참여한다. 이 협력은 모든 회사의 생성 정책이 같다는 뜻은 아니다. 최소한 파일 출처를 기록하고 읽는 방식에서는 공통 규격이 필요하다는 이해가 맞아떨어진 것이다. 유럽의 AI 투명성 규칙처럼 생성물을 식별 가능하게 하려는 정책이 시행되면서, 이런 상호운용성의 중요성은 더 커졌다.

다만 하나의 표준에 지나치게 의존하는 위험도 있다. 검증 수단이 특정 회사에만 집중되면 그 회사의 지원 범위와 운영 정책이 사실상 판단 기준이 될 수 있다. 공개 표준, 여러 검증 도구, 독립적인 연구가 함께 필요하다. 오픈AI가 C2PA 같은 공개 규격과 SynthID, 공개 검증 도구를 여러 층으로 결합한다고 설명하는 이유도 여기에 있다.

아직 확인해야 할 한계

첫 번째는 실제 내구성이다. 구글은 SynthID가 압축, 노이즈 추가, 속도 변경 같은 흔한 변형을 견디도록 설계됐다고 밝힌다. 하지만 악의적인 공격자가 신호 제거를 목표로 반복 편집하거나, 스피커로 재생한 소리를 다른 기기로 다시 녹음하면 탐지 성능이 얼마나 유지되는지는 사용 환경별 검증이 필요하다. 기업 설명과 독립적인 시험 결과를 구분해서 봐야 한다.

두 번째는 적용 범위다. 오픈AI는 ‘지원되는 음성’이라는 표현을 쓴다. 모든 과거 파일, 모든 음성 기능, 모든 형식이 동일하게 검사된다는 뜻은 아니다. 사용자는 검증 페이지에 표시되는 지원 조건과 결과 설명을 확인해야 한다. 다른 회사가 만든 음성을 오픈AI 도구가 모두 판별해 주는 범용 탐지기로 오해해서도 안 된다.

세 번째는 개인정보다. 민감한 통화나 사내 회의 파일을 외부 검증 서비스에 올리기 전에는 보관 기간, 데이터 이용 정책, 조직의 보안 규정을 살펴야 한다. 출처를 확인하려다 기밀 음성을 제3자 서비스에 전달하는 문제가 생길 수 있다. 언론사와 기업이 자체 절차에 검증 기능을 연결하려는 이유 가운데 하나도 대량 처리뿐 아니라 접근 통제에 있다.

네 번째는 플랫폼 표시다. 숨은 신호가 있어도 이용자가 검사하지 않으면 아무 안내를 보지 못할 수 있다. 앞으로 더 중요한 변화는 SNS, 검색, 메신저가 업로드 과정에서 신호를 읽고 “AI 생성 가능성”이나 제작 이력을 이해하기 쉬운 방식으로 보여주는지다. 표시가 너무 강하면 합법적인 풍자와 창작물을 오해하게 만들 수 있고, 너무 약하면 사기 방지 효과가 떨어진다.

앞으로 볼 변화

이번 업데이트로 기억할 사실은 간단하다. 오픈AI가 만든 지원 대상 음성에는 이제 사람이 듣지 못하는 SynthID 신호가 들어가고, 공개 도구로 그 신호를 확인할 수 있다. 하지만 이것은 ‘진짜와 가짜를 한 번에 판결하는 기계’가 아니라 출처 조사에 쓰는 단서다.

앞으로 확인할 지점은 두 가지다. 첫째, 주요 SNS와 메신저가 이 신호를 실제 표시와 차단 정책에 연결하는가. 둘째, 속도 변경·재녹음·편집 뒤에도 탐지 성능이 유지되는지 독립적인 시험 결과가 나오는가. 그 전까지 이용자는 의심스러운 음성을 들었을 때 파일 검사 하나에만 기대지 말고, 원본 계정·발언 당사자·시간과 장소를 함께 확인해야 한다. 워터마크는 확인의 시작이지 결론이 아니다.