엔비디아 ‘AI 영상 판별’ 방송 현장으로 확대…99% 정확도 숫자를 그대로 믿으면 안 되는 이유
엔비디아가 9월 9일 네덜란드 암스테르담에서 열리는 방송·미디어 전시회 IBC 2026을 앞두고 AI로 만든 영상을 판별하는 도구의 성능 개선과 방송 현장 도입 사례를 공개했다. 회사는 ‘합성 영상 탐지기’가 글로 만든 영상에서는 99.3%, 한 장의 이미지를 움직이는 영상에서는 97.7%의 정확도에 도달했다고 주장했다. 뉴스 제작 시스템 업체 달렛, 영상 분석 기업 트웰브랩스, 스트리밍 기술 기업 와우자가 이 도구를 검증·준법·실시간 영상 분석 과정에 연결하고 있다고도 밝혔다. IBC 행사는 9월 11일부터 14일까지 진행된다.
딥페이크가 늘어나는 시기에 99%라는 숫자는 강력해 보인다. 하지만 이 발표를 “이제 가짜 영상을 거의 완벽하게 잡아낸다”는 뜻으로 받아들이면 곤란하다. 엔비디아 공식 모델 카드에는 내부 4,000개 영상으로 측정한 별도 정확도가 85.64%로 적혀 있고, 9월 발표의 99.3%와 97.7%가 어떤 시험자료와 조건에서 계산됐는지 세부 정보는 공개문만으로 충분히 알기 어렵다. 실제 인터넷 영상은 잘라내기, 자막, 화면 녹화, 재압축, 색 보정과 여러 생성 도구가 섞이므로 실험실 수치와 현장 오류율이 같다고 볼 수 없다.
이번 소식의 진짜 의미는 숫자 하나보다 사용 위치에 있다. 합성 영상 판별기가 연구용 시연을 넘어 뉴스 편집자가 영상을 검토하고, 스트리밍 사업자가 생방송을 감시하며, 준법 담당자가 장면별 위험 신호를 확인하는 업무 흐름 안으로 들어가기 시작했다. 시청자가 영상 아래에서 초록색 ‘진짜’ 배지를 바로 보는 소비자 기능이라기보다, 언론사와 플랫폼이 의심스러운 영상을 조사할 때 참고하는 추가 신호에 가깝다.
엔비디아 탐지기는 무엇을 보는가
이 도구의 정식 이름은 NVIDIA Synthetic Video Detector다. 영상의 줄거리나 등장인물이 현실적인지를 판단하는 것이 아니라, 생성형 AI가 영상을 만들 때 남기는 미세한 통계적 흔적과 주파수 패턴을 찾는다. 사람 눈에는 자연스럽게 보이더라도 프레임의 질감, 압축 뒤 남는 신호, 생성 과정 특유의 반복 패턴을 분석해 0에서 1 사이의 ‘합성 가능성’을 계산한다. 0에 가까우면 실제 영상 쪽, 1에 가까우면 AI 생성 영상 쪽으로 보는 방식이다.
결과는 영상 전체에 대한 하나의 확률뿐 아니라 프레임이나 구간별 점수로도 나올 수 있다. 이 차이가 중요하다. 몇 분짜리 실제 뉴스 영상에 AI로 만든 장면 몇 초가 끼어 있다면 전체 평균만으로는 놓칠 수 있다. 편집자는 특정 구간의 점수가 갑자기 올라가는지 확인하고 원본 파일, 촬영자 정보, 다른 각도의 영상과 비교할 수 있다.
엔비디아는 이 탐지기가 일반적인 영상 압축과 재인코딩에도 비교적 견디도록 설계됐다고 설명한다. SNS와 메신저에 올라온 영상은 원본보다 화질이 낮아지고 여러 번 압축되는 경우가 많기 때문에 필요한 특성이다. 그러나 ‘비교적 견딘다’는 말이 모든 변형에 강하다는 뜻은 아니다. 화면을 다시 촬영하거나 속도를 바꾸고, 강한 필터와 자막을 넣고, 실제 장면과 생성 장면을 섞으면 탐지 신호가 약해질 수 있다. 반대로 오래된 저화질 영상이나 과도하게 보정된 실제 영상을 가짜로 의심할 가능성도 있다.
99.3%와 97.7%는 왜 그대로 비교하면 안 되나
정확도는 시험 문제의 구성에 따라 크게 달라진다. 가짜 영상 100개와 진짜 영상 100개를 균형 있게 넣은 시험에서 99%를 맞히는 것과, 실제 서비스처럼 1만 개 중 가짜가 10개뿐인 환경에서 99%를 보이는 것은 의미가 다르다. 후자의 경우 진짜 영상의 1%만 잘못 의심해도 100건의 오탐이 생겨, 실제 가짜 10건보다 훨씬 많아질 수 있다. 편집자가 모든 경고를 확인해야 한다면 높은 정확도에도 업무 부담이 커진다.
또 ‘정확도’ 하나만으로는 어떤 실수를 하는지 알 수 없다. 가짜를 진짜로 통과시키는 거짓 음성과 진짜를 가짜로 의심하는 거짓 양성은 피해가 다르다. 선거 조작 영상이나 금융 사기 영상을 놓치면 사회적 피해가 크지만, 시민이 촬영한 실제 사건 영상을 잘못 가짜로 분류하면 증거와 발언권이 부당하게 약해질 수 있다. 정밀도, 재현율, 생성 도구별 성능, 압축 수준별 성능과 오탐 사례가 함께 공개돼야 현장 가치를 판단할 수 있다.
엔비디아의 4월 모델 카드에는 내부에서 만든 혼합 자료로 학습하고 시험했다고 적혀 있다. 훈련 자료는 실제 영상 1,400개와 생성기마다 합성 영상 1,400개를 포함하며, 별도의 내부 4,000개 영상 평가에서 85.64% 정확도를 기록했다고 한다. 반면 IBC 발표는 출시 이후 글 기반 영상 99.3%, 이미지 기반 영상 97.7%로 좋아졌다고 설명한다. 모델이 개선됐을 수 있지만 두 수치는 시험자료, 모델 버전, 분류 기준이 다를 가능성이 있으므로 직접적인 전후 비교로 쓰기 어렵다.
가장 필요한 정보는 공개된 공통 시험 세트와 외부 평가다. 어느 생성기에서 잘 잡고 어느 생성기에서 약한지, 유튜브·틱톡·메신저의 재압축을 거친 뒤에도 성능이 유지되는지, 실제 영상에 특수효과가 들어간 경우 오탐이 얼마나 되는지를 독립 연구자가 재현해야 한다. 엔비디아도 모델 카드에서 실제 사용 환경의 자료로 통합 시험을 하라고 권고한다. 회사가 제시한 최고 수치는 출발점이지 최종 판정서가 아니다.
방송사와 플랫폼은 어떻게 쓰려 하나
달렛은 뉴스팀이 의심스러운 영상을 제출하고 판별 점수와 파일 정보를 기존 화면에서 확인하도록 연결하고 있다. 기자가 별도 연구 도구를 직접 다루지 않아도 평소 편집 과정에서 신호를 볼 수 있게 만드는 방향이다. 트웰브랩스는 지역별·회사별 준법 규칙을 확인하는 제품에 장면별 합성 가능성 점수를 넣었다. 와우자는 녹화 파일뿐 아니라 실시간 영상 흐름에서 물체와 장면, AI 생성 징후를 함께 분석하는 체계에 탐지기를 배포할 계획이다.
이런 통합은 판별 기술의 실효성을 높일 수 있다. 가짜 영상이 널리 퍼진 뒤 전문가가 따로 분석하는 것보다 방송 송출 전이나 라이브 스트림 중에 경고를 받는 편이 빠르다. 다국어 자막과 음성 합성, 영상 보정이 동시에 쓰이는 현대 방송에서는 어느 부분이 실제 촬영이고 어느 부분이 생성·수정됐는지 편집 기록과 함께 확인할 필요도 커졌다.
그러나 자동 차단으로 곧바로 이어지면 문제가 생긴다. 생방송 중 탐지 점수가 높다는 이유만으로 영상을 내려 버리면 실제 사건 보도를 검열할 수 있다. 공격자는 탐지기를 피하려고 영상을 변형할 것이고, 새로운 생성 모델이 나오면 기존 탐지기의 성능이 떨어질 수 있다. 따라서 점수는 “가짜 확정” 버튼이 아니라 추가 검증을 시작하는 경보로 쓰는 편이 타당하다.
뉴스룸이라면 최소한 세 단계가 필요하다. 먼저 탐지 점수와 장면별 변화를 본다. 다음으로 원본 파일과 메타데이터, 촬영 위치·시간, 업로더의 이력, 같은 사건의 다른 영상을 확인한다. 마지막으로 출처에 직접 연락하거나 전문 포렌식 검토를 거친 뒤 보도 여부와 표현을 결정한다. 탐지기가 높은 점수를 냈다는 사실 자체를 보도할 때도 어떤 도구와 기준을 썼는지 밝혀야 한다.
일반 이용자에게 당장 생기는 변화
엔비디아 발표는 모든 SNS 이용자에게 자동으로 ‘진짜/가짜’ 표시가 붙는다는 소식이 아니다. 소개된 도입처는 주로 방송, 스트리밍, 준법 검토를 위한 기업용 시스템이다. 일반인이 엔비디아 사이트에서 시험 기능에 접근할 수 있는 경로가 있지만, 제품 접근 조건과 처리 방식은 별도로 확인해야 한다. 휴대전화 사진 앱에 기본 탑재됐거나 모든 플랫폼이 이 결과를 사용한다는 발표도 아니다.
그럼에도 시청 경험에는 간접적인 변화가 생길 수 있다. 언론사가 제보 영상을 검증하는 시간이 줄고, 스트리밍 플랫폼이 의심 구간을 더 빨리 찾아 사람에게 넘길 수 있다. AI로 만든 장면을 사용한 광고나 방송 콘텐츠의 표시를 확인하는 과정에도 쓰일 수 있다. 반대로 플랫폼이 점수만 믿고 자동 삭제하면 실제 영상이 부당하게 제한되는 사례가 생길 수 있으므로 이의제기 절차와 사람의 재검토가 중요해진다.
이용자가 직접 의심스러운 영상을 만났을 때도 단일 탐지 사이트의 결과를 확정 판정으로 공유해서는 안 된다. “탐지기가 90% 가짜라고 했다”는 화면 캡처는 원본 영상과 시험 조건을 보여 주지 못한다. 먼저 영상을 처음 올린 계정을 찾고, 역이미지 검색으로 과거 장면인지 확인하며, 장소·날씨·언어·그림자 같은 맥락이 다른 자료와 맞는지 살펴야 한다. 신뢰할 수 있는 언론이나 팩트체크 기관의 검증이 있는지도 확인해야 한다.
워터마크·출처표시와 탐지기는 경쟁 관계가 아니다
AI 영상 문제를 푸는 방법은 크게 두 가지다. 하나는 제작 단계에서 AI로 만들거나 편집했다는 정보를 파일에 넣는 방식이다. 촬영 기기와 편집 도구가 출처 기록을 남기는 C2PA 같은 표준이 여기에 해당한다. 다른 하나는 아무 표시가 없는 영상을 보고 생성 흔적을 추정하는 탐지 방식이다.
출처표시는 신뢰할 만한 기록이 유지될 때 강력하지만, 플랫폼 업로드 과정에서 정보가 사라지거나 악의적인 사람이 표시를 제거할 수 있다. 탐지기는 표시가 없는 파일도 검사할 수 있지만 확률적 판단이라 오류가 있다. 따라서 둘 중 하나가 다른 하나를 대체하기보다 함께 쓰여야 한다. 출처 기록이 정상이고 내용도 일치하며 탐지 경고가 낮다면 신뢰가 높아진다. 기록이 없거나 끊겼고 탐지 점수가 높다면 추가 검토가 필요하다.
또한 ‘AI로 편집됨’과 ‘거짓 정보’도 같은 말이 아니다. 영화의 특수효과, 개인정보 보호를 위한 얼굴 합성, 교육용 재현 영상처럼 합법적이고 유익한 생성 영상이 많다. 반대로 실제 촬영 영상에 거짓 설명을 붙이면 AI를 쓰지 않아도 허위정보가 된다. 기술은 영상이 어떻게 만들어졌는지에 관한 단서를 줄 뿐, 주장 전체의 진실을 대신 판단하지 못한다.
창작자와 미디어 기업이 확인할 조건
창작자는 정상적인 AI 편집 영상이 가짜뉴스로 오해받지 않도록 제작 도구가 제공하는 출처 정보를 유지하고, 설명란에 생성·수정 범위를 명확히 밝히는 편이 좋다. 실제 촬영과 생성 장면을 섞었다면 어느 부분이 재현인지 표시해야 시청자가 맥락을 판단할 수 있다. 원본 파일과 편집 기록을 보관하면 잘못된 탐지 결과에 이의를 제기할 때 도움이 된다.
미디어 기업은 도입 전에 자사 자료로 시험해야 한다. 스포츠 중계, 애니메이션, 뮤직비디오, CCTV, 스마트폰 세로 영상은 화질과 움직임이 크게 다르다. 전체 평균 정확도가 높아도 특정 콘텐츠 유형에서 오탐이 몰릴 수 있다. 실제 가짜 영상 비율을 반영해 경보 기준을 정하고, 점수 구간별로 자동 통과·사람 검토·전문 분석을 구분해야 한다.
개인정보와 보안도 확인해야 한다. 제보 영상에는 얼굴, 위치, 내부 시설이 담길 수 있다. 외부 클라우드로 파일을 보내 분석하는지, 자체 시설에서 처리할 수 있는지, 원본이 얼마나 오래 보관되는지, 모델 개선에 재사용되는지 계약으로 확인해야 한다. 엔비디아는 자체 시설·엣지·클라우드 등 여러 배포 형태를 설명하지만 실제 파트너 제품의 저장 정책은 각 업체마다 다를 수 있다.
아직 확인되지 않은 점
첫째, IBC 발표의 99.3%와 97.7%가 정확히 어떤 데이터와 모델 버전, 판정 기준에서 나온 수치인지 더 자세한 평가 보고서가 필요하다. 둘째, 모델 카드의 85.64%와 새 수치 사이의 차이가 모델 개선 때문인지 시험 조건 차이 때문인지 공개 자료만으로 확정할 수 없다. 셋째, 달렛·트웰브랩스·와우자 통합이 실제 고객 환경에서 어느 규모로 사용되는지, 오탐과 누락이 얼마나 발생하는지 아직 장기 자료가 없다.
넷째, 새 영상 생성 모델이 출시될 때 성능이 얼마나 빨리 떨어지고 업데이트가 얼마나 자주 필요한지도 확인해야 한다. 탐지와 회피는 반복되는 경쟁이다. 마지막으로 탐지 결과 때문에 실제 영상이 제한됐을 때 이용자와 제보자가 어떤 설명을 받고 어떻게 이의를 제기할지도 기술 발표만큼 중요하다.
앞으로 볼 변화
이번 발표에서 기억할 사실은 ‘99% 판별기가 나왔다’가 아니라 AI 영상 검증이 방송사의 실제 작업 화면과 생방송 분석 체계로 들어가기 시작했다는 점이다. 다음 단계는 전시회 시연이 아니라 현장 데이터다. 파트너들이 실제 뉴스와 스트리밍 환경에서 생성 도구별 탐지율, 오탐률, 처리 지연과 사람 검토 결과를 공개하는지 봐야 한다.
시청자에게 필요한 태도도 명확하다. 탐지 점수는 유용한 단서지만 진실 판정은 아니다. 원본 출처, 제작 기록, 사건의 맥락, 여러 독립 자료와 함께 볼 때 가치가 생긴다. 엔비디아의 수치가 독립 평가에서 재현되고 파트너가 자동 삭제가 아닌 책임 있는 검증 절차를 보여 줄 때, 이 기술은 딥페이크 공포를 키우는 또 하나의 숫자가 아니라 실제 신뢰 도구가 될 수 있다.