가짜 기자가 실제 매체에 기사 100건을 실었다…오픈AI가 공개한 ‘AI 여론전’의 새 수법
오픈AI가 10월 8일 러시아와 이란에서 운영된 것으로 파악한 두 개의 비밀 영향력 공작을 적발해 관련 챗GPT 계정을 차단했다고 밝혔다. 하나는 중남미의 연구기관처럼 보이는 조직을 앞세웠고, 다른 하나는 일곱 명의 가짜 기자 이름으로 실제 온라인 매체에 글을 기고했다. 후자의 경우 오픈AI가 공개 자료를 추적해 확인한 게시·재게시 글이 약 100건, 매체는 10여 곳에 달했다.
이 보고서가 중요한 이유는 가짜 소셜미디어 계정이 댓글을 많이 다는 익숙한 장면과 다르기 때문이다. 조작 세력은 신뢰받기 어려운 가짜 계정만 키우는 대신 연구기관, 기자, 기고문처럼 사회가 이미 신뢰하는 통로에 들어가려 했다. AI는 존재하지 않는 음모를 혼자 만든 만능 도구라기보다 번역, 문장 다듬기, 편집자에게 보낼 제안서 작성, 대량 댓글 생성, 내부 성과 보고에 사용됐다.
오픈AI의 발표는 자사 조사와 계정 내부 활동을 바탕으로 한 기업 보고서다. 러시아·이란 정부의 공식 반응이나 독립 수사기관의 최종 판단을 대체하지 않는다. 보고서가 확인한 활동과 오픈AI가 평가한 배후·효과를 구분해 읽어야 한다. 그럼에도 AI 기반 여론 조작이 단순한 저품질 댓글을 넘어 실제 조직과 매체의 신뢰를 빌리는 단계로 갔다는 구체적 사례라는 점에서 일반 독자와 언론, 시민단체가 주목할 만하다.
오픈AI가 적발했다는 두 작전
첫 번째는 오픈AI가 ‘다크 클라크’라고 부른 러시아발 활동이다. 중남미를 대상으로 우크라이나에 부정적인 메시지를 퍼뜨리고 아르헨티나·볼리비아 등 일부 국가의 국내 정치 이슈에도 관여한 것으로 조사됐다. 조작된 문서, 음성, 영상과 이야기를 만들고, ‘소셜 리서치 센터’라는 연구 플랫폼을 앞세운 것이 특징이다.
오픈AI는 이 조직의 중남미 직원들 중 일부가 실제 운영 배후를 알지 못했을 가능성을 제시했다. ‘미아 클라크’라는 가상 인물이 직원과 소통했고, 내부 활동에는 직원 채용과 급여, 연구 주제 관리가 포함됐다. 허구의 온라인 프로필만 만든 것이 아니라 실제 사람과 조직 운영을 결합한 셈이다. 이런 구조에서는 직원과 외부 기고자가 자신도 모르게 신뢰의 증명서 역할을 할 수 있다.
두 번째는 ‘보거스 바이라인’이라고 이름 붙인 이란발 활동이다. 운영자들은 서구권 기자처럼 보이는 일곱 개의 가짜 신원을 이용해 미국·이란 갈등과 국제정치 관련 장문을 작성하고 매체에 보냈다. 챗GPT에는 특정 매체의 투고 기준에 맞게 영어 원고를 다듬고 편집자에게 보낼 이메일을 작성해 달라고 요청한 사례가 포함됐다.
오픈AI는 2025년 7월부터 2026년 10월 사이 이 가짜 필자 이름으로 게시되거나 재게시된 글을 약 100건 확인했다고 밝혔다. 대상은 주로 국제정치와 중동 문제를 다루는 중소 온라인 매체였다. 같은 운영자들이 영어와 페르시아어 소셜미디어 댓글도 만들었지만, 댓글 쪽은 좋아요·공유·후속 답변이 거의 없어 영향이 낮았다고 평가됐다.
왜 ‘실제 매체에 실린 글’이 더 위험한가
사람들은 출처를 평가할 때 내용만 보지 않는다. 언론사 로고, 필자 소개, 연구기관 이름, 편집된 문장, 다른 사람의 공유 같은 주변 신호를 함께 본다. 가짜 계정이 직접 올린 게시물은 의심할 수 있어도, 익숙한 뉴스 사이트에 기고문으로 실린 글은 편집 과정을 통과했다고 생각하기 쉽다.
매체에 한 번 실리면 확산 경로도 달라진다. 글은 해당 매체의 검색 노출과 뉴스레터, 공식 소셜 계정, 독자의 재공유를 통해 이동한다. 다른 기사와 AI 검색 서비스가 이를 다시 출처로 인용할 수도 있다. 조작 세력은 직접 수백만 명의 계정을 모으지 않아도 이미 존재하는 매체의 독자와 평판을 빌릴 수 있다.
오픈AI는 자사가 2년 반 동안 공개한 30개 비밀 영향력 공작을 비교했을 때 외부 매체에 콘텐츠를 싣는 작전이 가장 높은 잠재 도달 범위를 보였다고 설명했다. 다크 클라크는 1부터 6까지인 ‘브레이크아웃 스케일’에서 5등급을 받았다. 오픈AI가 관련 보고를 시작한 뒤 차단한 사례 중 첫 5등급이라고 한다. 보거스 바이라인의 기사 활동은 4등급, 소셜 댓글 활동은 2등급이었다.
이 등급은 글의 내용이 사실인지 판정하는 점수가 아니라 공작이 원래 운영 범위를 넘어 실제 사회와 기관에 얼마나 도달했는지를 평가하는 척도다. 5등급이라고 해서 선거 결과나 여론을 결정했다는 뜻은 아니다. 정치인의 공개 언급, 공식 부인, 팩트체크 등 외부 반응을 끌어냈다는 의미로 읽어야 한다.
AI는 무엇을 했고 무엇을 하지 않았나
보고서의 중요한 결론은 AI가 과거에 없던 완전히 새로운 선전 기술을 만든 것은 아니라는 점이다. 가짜 필자, 위장 연구기관, 조작 문서, 매체 기고, 현지 직원 활용은 생성형 AI 이전에도 존재했다. 달라진 것은 이런 작업을 더 싸고 빠르고 자연스럽게 반복할 수 있다는 점이다.
AI는 러시아어·페르시아어 원고를 영어와 스페인어로 옮기고 현지 어휘에 맞게 다듬을 수 있다. 편집자의 투고 규칙을 읽고 형식에 맞게 수정하며, 같은 주장을 여러 길이와 말투로 바꿀 수 있다. 가짜 음성·영상에 넣을 대본을 만들거나, 운영자가 상부에 제출할 그럴듯한 성과 보고서를 작성하는 데도 쓰였다.
하지만 기사 게재를 승인한 것은 실제 매체였고, 가짜 신원을 만들고 편집자와 관계를 맺은 것도 운영자였다. AI 사용 사실만 찾는 탐지 도구로는 전체 작전을 놓칠 수 있는 이유다. 문장이 사람처럼 자연스럽다고 안전한 것도 아니고, AI가 썼다는 흔적이 있다고 내용이 반드시 거짓인 것도 아니다. 배후 신원, 투고 과정, 근거 자료, 계정 간 연계 행동을 함께 봐야 한다.
또한 오픈AI는 두 작전 모두 내부 성과를 과장했다고 밝혔다. 다크 클라크는 자신이 만들지 않은 사건이나 메시지 확산까지 자기 성과처럼 주장하려 했고, 보거스 바이라인은 자기 댓글의 조회가 아니라 댓글을 단 원본 게시물의 조회 증가를 성과로 계산했다. 조작 세력이 외부 대중뿐 아니라 돈을 대는 고객이나 상부도 속일 수 있다는 뜻이다.
일반 독자는 무엇을 조심해야 하나
첫째, 문장이 매끄럽다는 사실을 신뢰의 근거로 삼기 어려워졌다. 과거에는 어색한 번역과 반복 문구가 조직적 조작의 단서가 됐지만, 생성형 AI는 언어와 문체를 쉽게 다듬는다. 자연스러운 한국어, 현지 표현, 전문적인 형식만으로 필자의 정체와 내용의 진위를 판단할 수 없다.
둘째, 필자 이름을 눌러 경력을 확인할 필요가 있다. 다른 매체에서의 활동이 갑자기 시작됐는지, 프로필 사진이 다른 이름으로도 쓰였는지, 소개된 소속 기관에 실제 직원 정보가 있는지 살펴볼 수 있다. 다만 일반 독자에게 모든 조사를 떠넘길 수는 없다. 매체가 기고자의 신원과 이해관계를 먼저 확인해야 한다.
셋째, 하나의 기사를 여러 사이트가 복사해 실었다고 해서 독립된 여러 출처가 확인한 것은 아니다. 같은 원고가 제휴·재게시를 통해 퍼졌을 수 있다. 중요한 주장은 원문 자료와 서로 독립된 보도를 찾아야 한다. 특히 폭로 문서, 녹음, 영상이 핵심 근거라면 최초 출처와 전체 맥락, 검증 과정을 확인해야 한다.
넷째, 감정을 강하게 자극하는 글일수록 공유를 잠시 늦추는 편이 낫다. 조작 활동은 반드시 완전한 거짓말만 쓰지 않는다. 실제 사건과 확인되지 않은 해석을 섞고, 이미 존재하는 사회 갈등을 키우며, 특정 집단이 말한 것처럼 위장할 수 있다. 사실 일부가 맞는다는 이유로 글 전체의 배후와 목적이 정당해지는 것은 아니다.
언론과 플랫폼의 책임
매체는 맞춤법과 문장 품질만으로 기고문을 심사해서는 안 된다. 신분증 한 장을 받는 형식적인 확인보다 필자의 공개 활동, 소속 기관의 실재 여부, 연락처 도메인, 원고의 출처와 이해관계를 함께 봐야 한다. 국제 분쟁과 선거처럼 조작 유인이 큰 주제는 더 엄격한 확인이 필요하다.
이미 실린 글이 조작 작전과 연관된 것으로 드러났을 때의 처리도 중요하다. 조용히 삭제하면 독자는 왜 사라졌는지 알 수 없고, 다른 사이트의 복사본은 계속 남는다. 정정 공지와 편집 기록을 남기고 재게시 파트너에게 알리며 검색엔진과 보관 서비스가 맥락을 표시할 수 있게 해야 한다.
AI 회사는 악용 계정을 차단하는 데서 끝나면 안 된다. 어떤 행동 패턴을 발견했는지, 오류와 한계는 무엇인지, 다른 플랫폼과 연구자가 재현할 수 있는 지표를 가능한 범위에서 공개해야 한다. 동시에 지나친 감시가 정상적인 기자·연구자의 활동을 위축시키지 않도록 절차와 이의 제기 수단이 필요하다.
소셜 플랫폼과 검색·답변형 AI도 책임이 있다. 오래된 기고문을 새로운 질문의 근거로 다시 꺼낼 때 필자 신원 문제나 정정 사실을 반영해야 한다. AI가 여러 매체의 동일 원고를 서로 다른 출처처럼 세어 확신을 높이면 조작 효과가 증폭될 수 있다. 원문 간 복제 관계와 출처의 독립성을 구분하는 기능이 중요해진다.
‘AI가 쓴 글 탐지’만으로 막기 어려운 이유
AI 문체 탐지기는 오탐과 누락이 많다. 사람이 AI 초안을 크게 고치면 탐지하기 어렵고, 외국어 사용자나 정형화된 글은 사람이 썼어도 AI로 잘못 분류될 수 있다. 이번 사례처럼 실제 편집 과정을 통과한 글은 여러 차례 수정됐을 가능성도 있다.
더 중요한 것은 조작의 본질이 문장 생성 방식이 아니라 신원을 숨기고 의도를 속이는 데 있다는 점이다. 진짜 사람이 작성한 선전문도 조작일 수 있고, AI로 문법을 다듬은 정당한 기고문도 있을 수 있다. “AI가 썼는가”보다 “누가 어떤 목적으로 어떤 근거를 가지고 이 글을 배포했는가”가 핵심 질문이다.
따라서 방어도 내용 분석 하나에 의존해서는 안 된다. 같은 계정들이 동시에 움직이는지, 연락처와 결제·접속 정보가 겹치는지, 가짜 조직이 실제 직원과 어떻게 연결되는지, 원고가 여러 매체에 어떤 순서로 퍼졌는지를 봐야 한다. 이런 조사는 플랫폼, 언론, 시민단체, 보안 연구자가 정보를 나눌 때 더 효과적이다.
보고서를 읽을 때 남겨야 할 한계
이번 발표의 주요 수치와 배후 평가는 오픈AI가 제공한 계정 데이터와 조사에 기반한다. 회사는 자사 서비스 안에서 다른 연구자가 볼 수 없는 정보를 갖지만, 동시에 자사 탐지 능력과 대응을 설명하는 이해관계도 있다. 독립 연구자와 해당 매체의 후속 검증이 필요하다.
약 100건의 기사가 실렸다는 사실이 약 100건 모두 거짓이라는 뜻도 아니다. 영향력 공작은 사실과 의견, 선택적 맥락, 왜곡된 출처를 섞을 수 있다. 각 기사의 구체적 오류와 실제 독자 도달, 태도 변화는 별도 분석 대상이다. 기사 수와 매체의 팔로워 수를 실제 영향으로 그대로 환산해서는 안 된다.
배후 국가와 조직의 관계도 공개된 보고서만으로 모든 세부가 확정된 것은 아니다. 오픈AI는 계정 접속 위치, 언어, 내부 대화와 공개 자료를 조합해 러시아·이란발로 평가했다. 독자는 ‘오픈AI 조사에 따르면’이라는 귀속을 유지하고, 정부 수사나 독립 기관의 후속 결과가 나오면 함께 봐야 한다.
이번 보고서가 중요한 이유
가장 기억할 사실은 AI가 가짜 댓글을 더 많이 만드는 데서 그치지 않았다는 점이다. 가짜 기자와 위장 연구기관이 실제 편집자, 직원, 독자를 통과하도록 언어와 운영을 보조했다. 오픈AI 조사에서 소셜 댓글은 낮은 반응에 머물렀지만, 실제 매체에 들어간 기고문은 훨씬 큰 잠재 도달 범위를 얻었다.
앞으로 확인할 변화는 구체적이다. 관련 매체들이 어떤 글을 철회하거나 정정하는지, 가짜 필자 검증 절차를 강화하는지, 다른 AI·소셜 플랫폼이 같은 네트워크를 발견하는지 봐야 한다. 독자에게 필요한 습관도 “AI 같은 문장을 찾아내기”가 아니라 필자와 기관의 실재 여부, 원문 근거, 서로 독립된 출처를 확인하는 것이다. AI 시대의 허위정보 문제는 기계가 그럴듯한 글을 쓴다는 데만 있지 않다. 그 글이 신뢰받는 사람과 기관의 얼굴을 빌려 우리 앞에 도착한다는 데 있다.