미네소타 ‘누디파이 앱’ 금지 시행…xAI가 막지 못한 이유와 남은 쟁점

미국 미네소타주가 2026년 8월 1일 사람의 사진을 동의 없이 성적인 이미지로 바꾸는 이른바 ‘누디파이’ 기술을 금지하는 법을 시행했다. 일론 머스크의 AI 회사 xAI는 시행 직전 법원에 긴급 중단을 요청했지만, 연방법원은 이를 받아들이지 않았다. 따라서 본안 소송이 계속되는 동안에도 미네소타주는 법을 집행할 수 있다.

이 사건을 ‘법원이 xAI에 최종 패소 판결을 내렸다’고 요약하면 틀리다. 미국 연방지방법원 도너번 프랭크 판사가 거절한 것은 임시로 시행을 막아 달라는 긴급 요청이다. 법원 명령을 인용한 TechCrunch 보도에 따르면 판사는 xAI가 법 서명 뒤 약 3개월을 기다렸다가 시행 사흘 전에 신청한 점을 지적했다. 이런 지연은 돌이킬 수 없는 피해가 임박했다는 주장과 맞지 않는다고 본 것이다. 법이 표현의 자유를 지나치게 제한하는지, 범위가 너무 넓은지에 관한 본격적인 판단은 남아 있다.

그럼에도 이번 시행은 중요한 선례다. 지금까지 비동의 성적 딥페이크 문제는 이미지를 만든 개인을 처벌하거나 유포 행위를 다루는 방식이 중심이었다. 미네소타 법은 이용자가 그런 결과물을 만들도록 허용하는 웹사이트·앱·소프트웨어의 소유자와 운영자 책임까지 직접 겨냥한다. 생성형 AI 회사가 이용약관에 금지 문구를 적어 두는 것만으로 충분한지, 실제로 생성을 막기 위해 어느 정도의 조치를 해야 하는지가 법정 쟁점이 됐다.

‘누디파이’는 무엇을 뜻하나

누디파이는 옷을 입은 실제 인물의 사진이나 평범한 영상을 입력해, 그 사람이 노출된 것처럼 보이는 이미지나 영상을 만드는 기술을 가리킨다. 요즘에는 별도의 전문 프로그램 없이 일반 생성형 AI에 사진을 올리고 지시하는 방식으로도 시도할 수 있다. 결과가 완벽히 사실적이지 않아도 피해는 생긴다. 학교·직장·지역 커뮤니티에 퍼지면 당사자가 실제로 촬영한 이미지라는 오해를 받을 수 있고, 삭제 뒤에도 복사본이 남을 수 있다.

미네소타 법이 문제 삼는 핵심은 당사자의 동의 없는 성적 이미지 생성이다. 보도와 법안 설명에 따르면 법은 이런 기능을 제공하거나 홍보하는 서비스에 강한 책임을 부과한다. 위반 때 불법 접근·다운로드·사용 건별로 최대 50만 달러의 민사 제재가 거론되며, 피해자가 손해배상과 금지명령 등을 청구할 수 있는 길도 둔다. 구체적인 적용은 실제 사건의 사실관계와 법원 판단에 따라 달라질 수 있다.

‘사진을 재미로 바꿨을 뿐’이라는 말은 피해를 줄이지 못한다. 성적인 합성물은 당사자의 신체 이미지와 평판을 통제할 권리를 빼앗고, 협박·괴롭힘·금전 요구에 쓰일 수 있다. 특히 아동·청소년을 대상으로 하면 성착취물과 학교 폭력 문제로 이어진다. 한 번 생성된 파일은 익명 계정과 메신저를 통해 빠르게 복제되므로 사후 삭제만으로 회복하기 어렵다.

xAI는 왜 법을 문제 삼았나

xAI는 미네소타 법이 표현 내용에 따라 기술 사용을 제한하는 과도하게 넓은 규제이며, 같은 목적을 달성할 더 제한적인 방법이 있다고 주장한다. 회사는 비동의 누드·성적 이미지 생성을 이미 엄격히 금지하고, 기술적 차단 장치를 우회한 이용자를 상대로 조치해 왔다는 입장도 내놨다.

표현의 자유 주장은 가볍게 볼 문제가 아니다. 이미지 생성 기술은 영화 특수효과, 의학·교육, 예술, 풍자, 성인이 동의한 창작에도 사용될 수 있다. 법률 문구가 너무 넓으면 해로운 비동의 합성물뿐 아니라 합법적인 표현까지 막을 수 있다. xAI는 바로 이 경계를 문제 삼고 있다.

반면 미네소타주는 피해가 발생한 뒤 제작자 한 명만 추적해서는 충분하지 않다고 본다. 플랫폼이 누구나 쉽게 실제 인물의 사진을 성적 이미지로 바꾸게 해 놓고, 약관에만 ‘금지’라고 써 두면 대량 피해를 막기 어렵다는 논리다. 생성 서비스는 입력 차단, 실제 인물 감지, 반복 위반 계정 제한, 신고 처리 같은 통제 수단을 갖고 있으므로 일정한 예방 책임을 져야 한다는 것이다.

본안 소송은 이 두 주장이 어디서 균형을 이룰지를 다툰다. 피해 방지를 위해 서비스 제공자에게 책임을 물을 수 있는가, 법의 정의와 금지 범위가 필요한 수준을 넘었는가, 덜 제한적인 대안으로 같은 보호 효과를 낼 수 있는가가 핵심이다.

법원이 이번에 판단한 것은 제한적이다

긴급 중단 명령은 본안 판결 전까지 법 시행을 잠시 멈추는 강한 조치다. 신청자는 보통 돌이킬 수 없는 피해가 임박했고, 소송에서 이길 가능성이 있으며, 공익과 다른 당사자의 피해를 비교해도 중단이 필요하다는 점을 보여야 한다.

프랭크 판사는 xAI가 7월 29일에 신청했다는 시점을 중요하게 봤다. 법이 약 3개월 전에 서명됐는데 시행 직전까지 기다렸다면, 피해가 너무 급박해 즉시 법을 멈춰야 한다는 설명의 설득력이 떨어진다는 것이다. 따라서 이번 결정은 미네소타 법의 모든 조항이 헌법에 맞는다고 보증한 판결이 아니다.

CBS 미네소타 보도에 따르면 법원은 긴급 임시명령 대신 예비적 금지명령 신청으로 심리를 이어가며, 주 정부의 답변과 xAI의 추가 서면 제출 뒤 8월 19일 심리를 예정했다. 즉 다음 중요한 확인 시점이 이미 잡혀 있다. 이후에도 본안 재판과 항소가 이어질 수 있다.

이 구분은 독자에게 중요하다. ‘시행 허용’은 ‘최종 합헌’이 아니고, ‘xAI가 소송했다’는 사실도 ‘법이 위헌’이라는 뜻은 아니다. 지금 확인된 사실은 미네소타 법이 8월 1일부터 효력을 갖고, 법적 도전은 계속된다는 것이다.

왜 xAI와 Grok이 사건의 중심에 섰나

2026년 초 X 이용자들이 Grok을 이용해 실제 인물의 사진을 비동의 성적 이미지로 바꾸고 대량 공유한 일이 논란이 됐다. TechCrunch는 이 사태 뒤 미국 캘리포니아 법무당국의 조사와 인도네시아의 접근 차단 등 여러 대응이 이어졌다고 전했다. xAI는 이용 정책상 이런 행위를 금지한다고 주장하지만, 규제기관과 피해자들은 실제 차단이 충분했는지를 묻고 있다.

이 사건은 범용 이미지 생성기가 ‘누디파이 전용 앱’으로 분류되는지도 쟁점으로 만든다. 한 서비스는 그림, 광고, 밈, 디자인 등 수많은 합법적 용도로 쓰이면서 동시에 안전장치를 우회하면 성적 합성물을 만들 수 있다. 전용 앱만 금지하면 범용 서비스가 빠져나갈 수 있고, 범용 서비스까지 모두 같은 방식으로 규제하면 지나치게 넓어질 수 있다.

서비스 회사의 책임을 평가할 때는 단순히 나쁜 결과가 한 번 나왔는지보다, 위험을 알게 된 뒤 무엇을 했는지가 중요하다. 금지 정책을 공개했는지, 실제 인물과 미성년자 관련 요청을 차단하는지, 우회 표현에도 대응하는지, 신고된 파일을 얼마나 빨리 제거하는지, 반복 위반자를 제한하는지, 피해자에게 신고 결과를 알리는지 등이 포함된다.

일반 이용자에게 무엇이 달라지나

미네소타 밖에 사는 한국 이용자에게 법이 직접 적용되는지는 서비스 운영 위치와 이용자, 결과물의 유통 경로 등 구체적인 조건을 따져야 한다. 그러나 제품 변화는 지역 경계를 넘어올 수 있다. 글로벌 AI 회사가 한 주만을 위해 완전히 다른 안전장치를 운영하기보다, 실제 인물의 성적 이미지 생성 제한을 전체 서비스에 강화할 수 있기 때문이다.

이용자는 이미지 생성 요청이 이전보다 더 자주 거절되거나, 실제 인물 사진 업로드에 추가 제한이 붙거나, 신고 메뉴가 강화되는 변화를 볼 수 있다. 계정 정지와 기록 보존 정책도 엄격해질 수 있다. 이는 정상적인 창작자에게 불편을 줄 수 있지만, 피해자 보호를 위해 서비스가 예방 책임을 강화하는 과정이기도 하다.

학교와 직장도 대응 방식을 바꿔야 한다. 합성물이 ‘가짜’라는 사실이 피해가 없다는 뜻은 아니다. 유포를 멈추고 증거를 보존하며, 당사자에게 삭제 책임을 떠넘기지 않아야 한다. 학생이나 직원이 합성물을 신고했을 때 진위 확인이 끝날 때까지 기다리기보다 접근 제한과 재유포 방지부터 시행할 필요가 있다.

부모와 교사는 청소년에게 “사진을 올리지 말라”는 조언만 해서는 부족하다. 이미 공개된 졸업사진, 동아리 사진, SNS 프로필도 악용될 수 있다. 피해 책임은 사진을 올린 사람에게 있지 않으며, 동의 없이 성적 합성물을 만든 사람과 유포자, 이를 방치한 서비스에 있다는 점을 분명히 해야 한다.

피해를 입었을 때 먼저 할 일

합성물이 발견되면 당황한 상태에서 유포자와 공개적으로 다투기보다 증거와 확산 경로를 보존하는 것이 중요하다. 게시물 주소, 계정명, 게시 시간, 화면, 파일 정보를 기록하고 플랫폼의 비동의 성적 이미지 신고 항목을 사용해야 한다. 아동·청소년이 관련됐다면 혼자 해결하려 하지 말고 보호자와 학교, 수사기관, 전문 지원기관에 즉시 알리는 편이 안전하다.

원본을 증거로 저장하는 것과 다시 퍼뜨리는 것은 다르다. 단체 채팅방에 파일을 재전송하며 확인을 요청하면 피해를 확대할 수 있다. 가능하면 제한된 저장 공간에 보관하고 링크와 화면 기록 중심으로 신고한다. 검색 결과와 복제 게시물이 많다면 각 플랫폼의 삭제·비공개 절차를 병행해야 한다.

법적 대응은 지역마다 다르다. 미네소타 법의 높은 민사 제재와 피해자 청구권이 한국 사건에 그대로 적용되는 것은 아니다. 국내에서는 성폭력처벌법, 정보통신망에서의 유통, 명예훼손, 개인정보와 초상 관련 권리 등 사실관계에 따라 검토할 수 있으므로 전문기관이나 법률가의 도움을 받는 것이 좋다. 이 글은 개별 사건의 법률 자문이 아니다.

플랫폼 규제의 어려운 경계

가장 어려운 문제는 기술을 금지할지, 해로운 사용을 금지할지다. 칼이나 사진 편집기처럼 범용 도구는 합법적 사용이 많다. 생성형 AI도 성인이 동의한 예술 작업, 영화 제작, 의료 교육처럼 정당한 용도가 있을 수 있다. 그래서 xAI는 전면적인 도구 규제가 과도하다고 주장한다.

그러나 생성형 AI는 한 사람이 짧은 시간에 수백 장을 만들고 자동으로 배포할 수 있게 한다. 피해 속도와 규모가 기존 편집 도구와 다르다는 것이 규제 강화의 근거다. 특히 실제 인물의 신체를 조작한 성적 이미지에는 당사자의 동의 여부라는 비교적 분명한 기준이 있다. 법이 이 기준을 정교하게 반영하면서 합법적인 표현을 과도하게 막지 않는지가 앞으로의 판단 포인트다.

또 다른 문제는 규모가 작은 서비스다. 대형 회사는 안전 연구와 신고팀에 투자할 수 있지만, 작은 개발사는 높은 제재 위험 때문에 이미지 기능 자체를 포기할 수 있다. 반대로 규모를 이유로 예방 의무를 면제하면 피해자가 보호받지 못한다. 규제기관은 서비스 규모, 실제 위험, 반복 위반 대응을 고려한 구체적 지침을 마련할 필요가 있다.

아직 확인되지 않은 점

첫째, 8월 19일 예정된 심리에서 법원이 예비적 금지명령을 어떻게 판단할지 아직 모른다. 이번 긴급 요청 거절과 다른 결론이 나올 가능성을 배제할 수 없다.

둘째, ‘허용한다’는 표현이 플랫폼에 어느 수준의 기술적 차단을 요구하는지 실제 집행 사례가 쌓여야 한다. 금지 약관만 있으면 되는지, 우회 요청까지 적극적으로 막아야 하는지, 신고 뒤 어느 시간 안에 조치해야 하는지가 중요하다.

셋째, 최대 50만 달러로 알려진 건별 제재가 어떤 행위 단위에 적용되는지 법원 해석이 필요하다. 높은 숫자만 떼어 ‘이미지 한 장마다 무조건 벌금’이라고 단정해서는 안 된다.

넷째, 다른 미국 주와 국가가 미네소타 모델을 따를지 지켜봐야 한다. 유사 법률이 늘면 글로벌 플랫폼은 공통 안전 기준을 강화할 가능성이 크지만, 서로 다른 정의와 의무가 충돌하면 지역별 기능 제한이 늘어날 수도 있다.

핵심 정리

미네소타의 누디파이 금지법은 2026년 8월 1일 시행됐다. xAI가 이를 멈춰 달라고 낸 긴급 요청은 거절됐지만, 법의 합헌성과 범위에 관한 소송은 끝나지 않았다. 법원이 이번에 특히 문제 삼은 것은 xAI가 시행 직전에야 긴급 신청을 했다는 시점이었다.

일반 이용자가 기억할 핵심은 ‘가짜 이미지이니 실제 피해가 아니다’라는 주장이 더 이상 통하지 않는다는 점이다. 실제 인물의 사진을 동의 없이 성적 이미지로 바꾸는 행위는 평판, 안전, 학교생활과 직장생활에 구체적인 피해를 준다. 다음 확인 시점은 8월 19일 예정된 심리다. 그때 법원이 표현의 자유와 피해 예방 사이에서 어떤 기준을 제시하는지, 그리고 xAI를 포함한 플랫폼이 실제 생성 차단과 피해자 지원을 어떻게 바꾸는지를 봐야 한다.