사진·영상이 AI로 만들어졌는지 누구나 확인…구글 ‘SynthID 탐지기’의 가능성과 한계

구글 딥마인드가 10월 7일 AI 생성물 확인 도구인 ‘SynthID Detector’를 전 세계 일반 이용자에게 공개했다. 이전에는 기자와 연구자 등 일부 시험 이용자만 쓸 수 있었지만, 이제 영어로 제공되는 별도 웹사이트에 이미지·영상·음성 파일을 올리면 파일 안에 구글의 보이지 않는 워터마크인 ‘SynthID’가 있는지 확인할 수 있다. 구글뿐 아니라 오픈AI, 엔비디아, 카카오의 일부 생성 도구가 만든 콘텐츠도 확인 대상에 포함되며 애플도 곧 참여할 예정이라고 구글은 밝혔다.

이 소식은 “인터넷의 모든 딥페이크를 잡는 만능 탐지기가 나왔다”는 뜻은 아니다. SynthID는 AI가 만든 흔적을 눈대중으로 추측하는 도구가 아니라, 참여한 생성 도구가 제작 단계에서 미리 심어 둔 신호를 찾는 방식이다. 따라서 표시가 발견되면 해당 체계를 사용하는 AI 도구에서 만들어졌다는 강한 단서가 되지만, 표시가 없다고 해서 사람이 만든 진짜 콘텐츠라는 보장은 없다. 다른 회사의 도구나 표시를 넣지 않는 공개 모델로 만든 파일, 오래전에 생성된 파일, 크게 변형된 파일은 확인되지 않을 수 있다.

그래도 일반 이용자가 독립된 확인 사이트를 쓸 수 있게 된 변화는 중요하다. 선거, 재난, 유명인 사칭, 투자 사기처럼 조작된 영상 한 개가 빠르게 퍼지는 상황에서 “AI처럼 보인다”는 감상 대신 제작 과정에 남은 기술적 신호를 확인할 통로가 생겼기 때문이다. 다만 이 결과는 출처 확인, 원본 찾기, 보도 교차 검증을 대체하는 최종 판정문이 아니라 여러 단서 중 하나로 써야 한다.

무엇이 새로 열렸나

구글은 2023년 SynthID를 처음 공개했다. 생성형 AI가 이미지나 음성, 영상을 만들 때 사람이 보거나 듣기 어려운 신호를 결과물 안에 넣고, 나중에 전용 도구로 그 신호를 읽는 기술이다. 사진 아래에 “AI 생성”이라는 글자를 붙이는 눈에 보이는 표시와 달리, 콘텐츠 자체에 미세한 패턴을 남긴다는 점이 특징이다.

2025년 구글 I/O에서는 SynthID Detector의 초기판이 소개됐지만 이용자는 기자, 미디어 전문가, 연구자 등으로 제한됐다. 이번 발표로 그 문턱이 사라졌다. 구글 공식 설명에 따르면 누구나 synthid.com에서 이미지와 영상, 음성 파일을 검사할 수 있다. 현재 서비스는 전 세계에서 영어로 제공된다. 별도 서비스 공개에 앞서 구글 검색, 제미나이 앱, 크롬에도 확인 기능이 들어갔고, 이들 기능은 하루 100만 건이 넘는 확인 요청을 처리하고 있다고 구글은 밝혔다.

지원 범위도 구글 제품만으로 한정되지 않는다. 구글은 오픈AI, 엔비디아, 카카오를 파트너로 명시했고 애플은 곧 지원될 예정이라고 설명했다. 이는 한 회사가 만든 콘텐츠만 식별하는 사내 표시에서 여러 회사가 함께 쓰는 출처 확인 장치로 넓히려는 시도다. 다만 ‘파트너 회사가 참여했다’는 말이 그 회사의 과거와 현재 모든 제품, 모든 파일에 표시가 들어간다는 뜻은 아니다. 실제 검사 대상은 각 회사가 SynthID를 적용한 모델과 제품, 적용 시점에 따라 달라진다.

테크크런치는 사이트가 이미지의 JPG·PNG·WEBP·GIF 등 여러 형식, 영상의 MP4·MOV·WEBM, 음성의 WAV·MP3·FLAC·M4A 등을 지원한다고 전했다. 구글의 나노 바나나, Veo, Lyria와 제미나이·Flow·Vids 같은 생성 기능은 SynthID를 활용한다. 이용자는 파일 형식과 크기 제한, 업로드한 자료의 처리 정책도 실제 사이트에서 확인할 필요가 있다.

워터마크는 ‘AI다운 모양’을 찾는 탐지기와 다르다

AI 이미지 탐지 서비스라고 하면 많은 사람은 얼굴의 손가락 개수나 피부 질감, 문자의 깨짐처럼 AI 특유의 오류를 분석한다고 생각한다. 이런 분류형 탐지기는 수많은 사람 제작물과 AI 생성물을 학습해 “AI일 가능성”을 계산한다. 새로운 모델이 나오거나 사람이 파일을 편집하면 성능이 달라지고, 실제 사진을 AI로 잘못 분류하는 오탐도 생길 수 있다.

SynthID의 기본 생각은 다르다. 생성 도구가 결과물을 만드는 순간 식별 신호를 함께 넣고, 나중에 같은 규칙을 아는 탐지기가 이를 찾는다. 우편물의 필체를 보고 발신자를 추측하는 대신 제작 단계에서 찍어 둔 보이지 않는 도장을 확인하는 것에 가깝다. 이 때문에 지원되는 도구가 제대로 표시를 넣었다면 외형만 분석하는 탐지보다 제작 경로에 관한 직접적인 단서를 줄 수 있다.

그러나 도장이 없는 물건에는 아무것도 말해 주지 못한다. 인터넷에는 SynthID를 쓰지 않는 수많은 이미지·영상·음성 생성기가 있다. 사람이 직접 만든 콘텐츠와 표시를 넣지 않은 AI 생성물은 둘 다 ‘SynthID를 찾지 못함’으로 나타날 수 있다. 결과 화면의 부재를 진품 인증으로 읽으면 오히려 사기꾼에게 면죄부를 줄 수 있다.

표시가 발견됐다고 내용이 거짓이라는 뜻도 아니다. AI로 만든 기상 설명 영상, 교육용 삽화, 시각 장애인을 위한 음성, 합법적인 광고처럼 정당한 생성물도 많다. SynthID가 답하는 질문은 우선 “이 파일이 지원되는 AI 제작 체계와 연결되는가”다. 영상 속 발언이 사실인지, 당사자가 사용을 허락했는지, 편집이 오해를 일으키는지는 별도의 질문이다.

일반 이용자는 어떻게 읽어야 하나

첫째, ‘표시 발견’은 출처 조사에 도움이 되는 단서다. 예를 들어 유명인이 특정 투자상품을 추천하는 영상에서 SynthID가 확인된다면 원본 인터뷰인지 의심하고 공식 계정과 언론 보도를 찾아야 한다. 목소리만 AI로 합성된 경우에도 지원되는 음성 생성 도구가 쓰였다면 추가 확인의 근거가 된다.

둘째, ‘표시 없음’은 결론이 아니다. 이때는 영상의 최초 게시자, 업로드 시점, 앞뒤 장면, 원본 링크, 다른 각도의 기록을 함께 봐야 한다. 이미지 역검색이나 공식 기관의 발표, 신뢰할 수 있는 언론의 검증도 필요하다. 특히 재난·전쟁·선거처럼 오래된 영상이 새로운 사건처럼 재활용되는 경우에는 AI 여부보다 촬영 장소와 날짜가 더 중요한 진위 단서일 수 있다.

셋째, 파일이 여러 번 압축되거나 잘리고 화면 녹화된 경우 결과를 조심해서 해석해야 한다. 강한 편집을 견디도록 설계된 워터마크라도 모든 변형에서 영원히 남는다고 단정할 수 없다. 반대로 다른 신호와 파일 처리 과정이 섞여 애매한 결과가 나올 수 있다. 중요한 판단은 한 번의 온라인 검사만으로 끝내지 않는 편이 안전하다.

넷째, 링크의 주소를 확인해야 한다. 딥페이크 공포가 커질수록 가짜 ‘AI 탐지기’ 사이트가 파일 업로드를 유도할 가능성도 있다. 민감한 신분증, 사적인 사진, 회사 내부 영상은 공개 검사 사이트에 함부로 올리지 말아야 한다. 공식 사이트의 개인정보 처리 안내와 보관 기간을 확인하고, 조직 내부 자료라면 회사 규정을 따라야 한다.

언론과 플랫폼에는 무엇이 달라지나

언론사는 제보 영상 검증 과정에 제작 신호 확인을 추가할 수 있다. 지금까지는 촬영자와 연락하고 위치와 날씨, 그림자, 건물 모양을 대조하는 전통적인 공개정보 검증이 중심이었다. 여기에 워터마크 확인을 더하면 지원되는 AI 도구로 생성된 파일을 빠르게 걸러낼 수 있다. 하지만 탐지 결과만으로 보도를 결정하면 안 된다. 표시가 없는 조작물과 사람이 편집한 오해성 콘텐츠는 그대로 남기 때문이다.

소셜 플랫폼에는 더 어려운 과제가 생긴다. 업로드 때 SynthID와 다른 출처 정보 표준을 읽어 이용자에게 표시할 수 있지만, 재압축과 화면 녹화, 편집본을 어떻게 다룰지 정해야 한다. “AI로 생성됨”이라는 라벨도 맥락이 없으면 모든 AI 콘텐츠가 거짓이라는 오해를 만들 수 있다. 완전 생성, 부분 편집, 음성 합성, 배경 보정처럼 변화의 정도를 구분하는 설명이 필요하다.

학교와 기업에서는 과제나 광고의 제작 과정을 확인하는 보조 수단이 될 수 있다. 다만 표시가 없다는 이유로 학생이나 직원이 AI를 쓰지 않았다고 단정하거나, 표시가 있다는 이유로 부정행위라고 자동 판정해서는 안 된다. 허용된 보정 기능이나 번역, 음성 정리에서도 생성형 기능이 개입할 수 있다. 정책은 기술 신호와 실제 사용 맥락을 함께 보도록 설계돼야 한다.

왜 여러 회사의 참여가 중요한가

출처 확인 기술은 이용자가 많을수록 가치가 커진다. 각 회사가 서로 다른 표시와 검사 사이트를 운영하면 일반인은 어느 탐지기를 써야 하는지 알기 어렵다. 같은 파일을 여러 사이트에 올려야 하고, 플랫폼도 여러 규격을 구현해야 한다. SynthID에 오픈AI·엔비디아·카카오가 참여하고 애플이 합류할 예정이라는 발표는 공통 확인 체계가 가능하다는 신호다.

그렇다고 SynthID 하나가 세계 표준으로 확정된 것은 아니다. 마이크로소프트와 메타 등은 자체적인 표시·출처 확인 방식을 쓰고 있으며, C2PA의 ‘콘텐츠 자격 증명’처럼 파일의 제작·편집 이력을 공개 표준으로 기록하는 접근도 있다. 워터마크는 파일 안의 신호를 견고하게 남기는 데 강점이 있고, 콘텐츠 자격 증명은 누가 어떤 도구로 어떤 편집을 했는지 더 풍부한 기록을 제공할 수 있다. 두 방식은 경쟁만 하는 것이 아니라 함께 쓰일 수 있다.

중요한 것은 한 회사가 진실의 판정권을 독점하지 않는 구조다. 검사 방식의 정확도와 한계, 지원 모델, 오류 처리, 이의 제기 절차가 공개돼야 한다. 언론·연구기관이 독립적으로 성능을 시험할 수 있어야 하고, 참여 기업이 표시 적용 범위를 바꿀 때 이용자에게 알려야 한다.

아직 확인되지 않은 점

구글은 지금까지 이미지와 영상 1,800억 개 이상, 음성 24만 년 분량에 워터마크를 넣었다고 밝혔다. 규모를 보여 주는 회사 수치이지만, 실제 인터넷에서 유통되는 AI 콘텐츠 가운데 몇 퍼센트를 확인할 수 있는지는 알려주지 않는다. 검출 정확도, 다양한 편집을 거친 뒤의 유지율, 회사별 지원 제품 목록도 일반 이용자가 판단하기 쉽게 계속 공개돼야 한다.

한국어 화면과 안내가 언제 제공될지도 공식 발표만으로는 확인되지 않는다. 서비스는 전 세계에서 쓸 수 있지만 출시 시점의 언어는 영어다. 또한 애플 지원은 ‘곧’이라는 표현만 있고 구체적인 날짜와 적용 제품 범위는 나오지 않았다. 파트너 이름만 보고 모든 챗GPT 이미지나 모든 카카오 콘텐츠가 곧바로 확인된다고 가정해서는 안 된다.

파일 업로드형 서비스인 만큼 개인정보 보호도 중요하다. 가족 영상이나 회사 자료를 검사할 때 파일이 어디에서 처리되고 얼마 동안 보관되는지, 성능 개선에 사용되는지 확인해야 한다. 공익적인 탐지 기능이라도 민감한 자료를 모으는 새로운 창구가 될 수 있기 때문이다.

핵심 정리

이번 변화의 핵심은 AI 콘텐츠를 완벽히 가려내는 마법의 판별기가 아니라, 참여한 생성 도구가 남긴 제작 신호를 일반인도 직접 확인할 수 있게 됐다는 점이다. SynthID가 발견되면 구글이나 파트너의 지원 도구가 제작 과정에 쓰였다는 중요한 단서가 된다. 발견되지 않으면 “진짜”가 아니라 “이 신호로는 확인되지 않음”으로 읽어야 한다.

앞으로 볼 변화는 세 가지다. 애플을 포함한 참여 기업이 실제로 어떤 제품까지 지원하는지, 압축·편집된 파일에서 독립 시험이 어느 정도 정확도를 확인하는지, 검색과 소셜 플랫폼이 결과를 이용자에게 어떤 문구로 보여 주는지다. 딥페이크에 대응하는 가장 안전한 습관은 탐지기 하나를 믿는 것이 아니라 워터마크, 원본 출처, 게시 시점, 독립 보도를 함께 확인하는 것이다.

출처: 구글 딥마인드 공식 발표, SynthID Detector 공식 사이트, 테크크런치 보도, 오픈AI의 콘텐츠 출처 기술 설명