애플이 ‘AI 누드화 앱’ 규정을 강화했다…앱스토어에서 실제로 달라지는 점
애플이 2026년 10월 16일 앱스토어 심사 지침을 고쳐, AI로 이미지를 만드는 앱도 비동의 친밀 이미지와 괴롭힘을 막을 책임이 있다는 점을 명시했다. 흔히 ‘누드화 앱’으로 불리는 서비스처럼 실제 인물의 사진을 동의 없이 성적인 이미지로 바꾸는 기능이 핵심 대상이다. 숨겨진 기능을 넣거나 심사 뒤 전혀 다른 서비스를 보여 주는 앱, 거짓 설명으로 구독을 유도하는 앱에 대한 퇴출 근거도 더 분명해졌다.
이번 변화는 아이폰에 설치된 문제 앱이 한 번에 모두 사라졌다는 뜻이 아니다. 애플의 지침은 개발자가 앱스토어에 들어오고 남아 있기 위해 지켜야 할 규칙이다. 실제 효과는 심사 과정에서 문제 기능을 발견하는지, 신고 뒤 얼마나 빨리 조사하는지, 웹사이트로 우회하는 서비스까지 어떻게 다루는지에 달렸다.
일반 이용자에게 중요한 질문은 ‘애플이 새 문장을 넣었나’보다 ‘내 사진이 동의 없이 성적 이미지로 바뀌었을 때 누가 막고, 신고하고, 지울 수 있나’다. 생성형 AI가 이미지 편집을 쉽게 만들면서 과거의 합성사진보다 제작 속도와 확산 규모가 커졌다. 앱 장터 운영자의 규칙은 피해가 생긴 뒤 앱 하나를 지우는 데 그치지 않고, 이런 서비스를 유통 단계에서 걸러 낼 수 있는 기준이 된다.
무엇이 바뀌었나
애플의 앱 심사 지침 1.2는 이용자가 콘텐츠를 만들고 올리고 공유하는 앱이 지식재산권 침해, 비동의 친밀 이미지, 익명 괴롭힘 같은 문제를 일으킬 수 있다고 설명한다. 이번 문구는 소셜미디어와 일반 이용자 제작 콘텐츠 플랫폼뿐 아니라 ‘AI 콘텐츠 생성 앱’도 같은 책임을 진다는 점을 분명히 했다.
해당 앱은 문제가 있는 자료가 게시되지 않도록 걸러 내는 방법, 불쾌하거나 위험한 콘텐츠를 신고하고 제때 대응하는 절차, 가해 이용자를 차단하는 기능, 운영자에게 연락할 수 있는 공개 정보를 갖춰야 한다. 앱이 주로 음란물, 실제 인물의 대상화, 신체적 위협, 괴롭힘에 쓰인다면 사전 통지 없이 앱스토어에서 제거될 수 있다.
또 다른 변화는 숨겨진 기능에 대한 규칙이다. 지침 2.5.19는 앱의 기능을 이용자와 심사팀이 명확히 알 수 있어야 하며, 숨겨진 기능이나 작동하지 않는 척 대기하는 기능, 문서에 적지 않은 기능을 넣어서는 안 된다고 정한다. 코드를 알아보기 어렵게 만드는 방법 등으로 기능을 숨기려 하면 앱 퇴출과 개발자 계정 종료 사유가 된다.
구독 사기와 ‘미끼 바꾸기’도 명시됐다. 소개 화면에서는 무료 편집기처럼 보이지만 실행 뒤 비싼 구독을 강요하거나, 심사를 통과한 뒤 서버 설정으로 성적 이미지 생성 기능을 켜는 식의 행위가 대상이 될 수 있다. 애플은 거짓 전제로 구독을 사게 하거나 미끼 바꾸기와 사기 행위를 하는 앱을 제거하고 개발자 프로그램에서도 퇴출할 수 있다고 밝혔다.
‘AI 누드화’는 왜 일반 사진 편집과 다른가
사진의 배경을 바꾸거나 옷 색을 수정하는 편집도 생성형 AI를 쓴다. 문제는 기술 이름이 아니라 동의와 피해다. 실제 사람의 얼굴이나 몸을 이용해 그 사람이 하지 않은 성적 행동을 한 것처럼 보이게 만들면 사생활과 명예, 안전을 침해한다. 특히 학생이나 직장 동료, 전 연인처럼 피해자의 신원을 아는 집단 안에서 퍼질 때 협박과 따돌림으로 이어질 수 있다.
가짜라는 사실이 피해를 없애지도 않는다. 이미지를 본 사람 모두에게 합성임을 설명하기 어렵고, 검색과 메신저에 복제된 자료를 완전히 회수하기도 힘들다. 피해자는 학교나 직장에 해명하고 플랫폼마다 삭제를 요청해야 한다. 제작자는 몇 초 만에 만들 수 있지만 피해자의 복구에는 오랜 시간과 비용이 든다.
미성년자가 대상이면 위험은 더 커진다. 실제 촬영물이 아니더라도 아동을 성적으로 묘사한 합성 이미지는 여러 나라에서 강한 규제를 받을 수 있다. 앱이 ‘재미’나 ‘의상 시뮬레이션’이라고 소개해도 실제 사용 방식이 특정 인물을 벗긴 것처럼 만드는 데 집중된다면 단순 편집 도구로 보기 어렵다.
이 때문에 앱 장터의 책임이 중요하다. 개별 이용자에게 모든 앱의 위험을 판별하라고 맡기면 피해가 난 뒤에야 문제를 알게 된다. 애플은 결제, 검색 노출, 다운로드, 업데이트를 통제하므로 개발자에게 안전 기능을 요구하고 반복 위반 계정을 막을 수 있는 위치에 있다.
앱스토어에서 사라진다고 문제가 끝나지는 않는다
첫 번째 한계는 심사 회피다. 문제 앱은 초기 심사 때는 평범한 기능만 보여 주고 승인 뒤 서버에서 다른 기능을 켤 수 있다. 웹페이지에서 이미지를 처리하고 앱은 링크나 결제 창구 역할만 할 수도 있다. 그래서 숨겨진 기능과 미끼 바꾸기 규정이 함께 강화된 것이다. 하지만 자동·수동 심사가 이런 변화를 모두 발견할 수 있는지는 별개의 문제다.
두 번째는 이름과 개발자 계정 교체다. 앱이 내려가도 비슷한 이름, 새 아이콘, 다른 회사 계정으로 다시 올라올 수 있다. 애플이 개별 앱만 지우는지, 같은 운영자와 결제 계정, 서버를 연결해 반복 위반을 막는지가 중요하다.
세 번째는 다른 유통 경로다. 웹사이트, 메신저 봇, 다른 운영체제, 비공식 앱 장터에서는 같은 기능이 계속 제공될 수 있다. 아이폰 앱스토어 규칙 하나로 인터넷 전체의 비동의 합성물을 없앨 수는 없다. 구글 플레이와 소셜미디어, 검색엔진, 결제업체도 각자의 유통 단계에서 대응해야 효과가 난다.
네 번째는 합법적인 창작·편집 도구와의 경계다. 영화 제작이나 풍자, 본인 이미지 편집처럼 동의를 전제로 한 용도까지 모두 막으면 표현과 창작을 과도하게 제한할 수 있다. 반대로 ‘범용 이미지 생성기’라는 이름만 내세우고 실제로는 비동의 성적 합성이 쉬운 앱을 방치해서도 안 된다. 앱의 설명보다 기본 기능, 추천 예시, 광고, 이용 패턴을 함께 봐야 한다.
이용자가 체감할 수 있는 변화
규정이 제대로 집행되면 앱을 내려받기 전에 위험한 서비스를 만날 가능성이 줄어든다. AI 이미지 앱은 신고와 차단, 유해 콘텐츠 필터를 갖추도록 압박받는다. 피해자가 앱 안에서 신고할 통로도 더 분명해질 수 있다. 반복적으로 문제를 일으킨 앱은 업데이트가 거부되거나 앱스토어에서 제거될 수 있다.
구독 피해도 함께 줄어들 가능성이 있다. 일부 이미지 앱은 무료 결과를 약속한 뒤 결제 화면을 닫기 어렵게 만들거나 짧은 무료 체험 뒤 높은 주간 요금을 청구한다. 새 규정은 성적 이미지 문제와 별도로 거짓 구독과 미끼 바꾸기를 퇴출 사유로 명시한다. 이용자는 기능의 위험뿐 아니라 결제 구조도 보호받아야 한다.
다만 기존에 설치한 앱이 자동으로 안전해지는 것은 아니다. 이미 기기에 있는 앱은 기능이 계속 작동할 수 있고 웹 계정과 결제가 남을 수 있다. 앱스토어에서 검색되지 않는다는 이유만으로 구독이 해지됐다고 생각해서는 안 된다. 설정에서 활성 구독을 확인하고 필요하면 직접 취소해야 한다.
피해 이미지의 삭제도 앱 삭제와 다르다. 앱이 내려가도 이미 생성된 파일과 소셜미디어 게시물, 다른 사람의 기기에 저장된 복사본은 남는다. 피해자는 배포된 플랫폼마다 신고하고 검색 노출 삭제도 요청해야 할 수 있다. 규정 집행은 새로운 피해를 줄이는 예방책이지 이미 퍼진 자료를 자동 회수하는 도구가 아니다.
부모와 학교가 알아야 할 점
청소년 사이에서는 사진 한 장을 장난으로 넣었다가 결과가 단체 대화방에 퍼지는 일이 생길 수 있다. 제작자가 돈을 벌지 않았거나 직접 촬영하지 않았다는 이유로 피해가 가벼워지지 않는다. 학교는 합성 여부를 가리는 데만 집중하기보다 동의 없는 제작과 공유 자체가 폭력이라는 기준을 분명히 해야 한다.
피해 학생에게 휴대전화를 빼앗거나 계정을 지우게 하는 방식은 오히려 신고를 막을 수 있다. 우선 화면과 주소, 계정명, 시간 같은 증거를 안전하게 보존하고 해당 플랫폼과 학교의 공식 절차를 이용해야 한다. 공개적으로 이미지를 다시 공유하며 사실을 확인하는 행동은 피해를 확대할 수 있다.
부모는 자녀의 사진을 인터넷에 올리는 습관도 돌아볼 필요가 있다. 공개 사진이 있다고 해서 합성에 동의한 것은 아니지만, 쉽게 내려받을 수 있는 고화질 얼굴 사진은 악용될 수 있다. 가족 계정의 공개 범위와 위치·학교 정보 노출을 점검하는 것은 현실적인 예방책이다.
학교와 기관은 ‘딥페이크 탐지기’ 하나만 믿어서는 안 된다. 생성 방식이 빠르게 바뀌어 탐지 결과가 틀릴 수 있다. 피해자의 진술, 유포 경로, 계정 기록, 원본 파일을 함께 살펴야 한다. 합성임을 입증하는 일보다 빠르게 확산을 막고 피해자를 보호하는 일이 먼저다.
개발자와 플랫폼에 생긴 책임
AI 이미지 앱 개발자는 금지 문구를 약관에 넣는 것으로 충분하지 않다. 실제 인물의 비동의 성적 이미지를 만들기 어렵게 하는 필터, 의심 결과를 검토하는 절차, 신속한 삭제와 이의신청, 반복 위반자 차단이 필요하다. 필터가 어떤 언어와 피부색, 나이에서 잘못 작동하는지도 점검해야 한다.
얼굴을 입력받는 앱은 개인정보 처리도 명확히 설명해야 한다. 사진이 기기 안에서 처리되는지 서버로 전송되는지, 학습에 재사용되는지, 얼마 동안 보관되는지, 삭제 요청이 가능한지를 알려야 한다. 성적 합성 문제를 막더라도 얼굴 사진을 장기간 저장하거나 다른 목적으로 쓰면 또 다른 위험이 생긴다.
애플 역시 집행 자료를 공개할 필요가 있다. 관련 앱을 몇 건 거부하고 제거했는지, 신고 후 처리 시간은 얼마인지, 재등록을 어떻게 막았는지 알려야 규정의 효과를 평가할 수 있다. 지침 문구만으로는 실제 위험이 줄었는지 확인하기 어렵다.
피해자를 위한 신고 창구도 단순해야 한다. 앱 이름을 모르는 경우, 이미지가 이미 다른 플랫폼으로 옮겨 간 경우, 여러 나라의 개발자가 관련된 경우에도 안내가 이어져야 한다. 앱스토어 운영자와 콘텐츠 플랫폼이 서로 책임을 떠넘기면 가장 많은 일을 피해자가 하게 된다.
과장해서 받아들이면 안 되는 부분
이번 지침은 AI로 만든 모든 성인 콘텐츠를 전면 금지한 발표가 아니다. 핵심은 비동의 친밀 이미지와 실제 인물의 대상화, 괴롭힘, 숨겨진 기능, 사기적 구독이다. 성인이 자신의 이미지와 명확한 동의 아래 사용하는 창작 도구까지 동일하게 처리된다고 단정할 수 없다.
또한 애플이 기술적으로 모든 합성물을 탐지할 수 있다고 발표한 것도 아니다. 규정은 앱에 예방·신고·차단 장치를 요구하고 위반 시 유통을 제한하는 기준이다. 잘 만든 악성 앱이 심사를 통과할 가능성, 합법적 앱이 잘못 거부될 가능성 모두 남아 있다.
앱스토어 퇴출이 형사처벌을 뜻하지도 않는다. 앱 장터의 계약상 제재와 각 나라의 개인정보·성폭력·아동보호법에 따른 법적 책임은 별개다. 피해가 발생하면 앱 신고와 함께 지역의 수사·상담·법률 지원이 필요할 수 있다.
앞으로 볼 변화
첫째, 애플이 실제로 어떤 앱을 제거하고 반복 위반 계정을 어떻게 막는지 봐야 한다. 둘째, 신고부터 삭제까지 걸리는 시간이 줄어드는지 확인해야 한다. 셋째, 피해자 이미지와 얼굴 정보의 보관·삭제 기준이 강화되는지 봐야 한다. 넷째, 구글과 결제업체, 소셜미디어가 비슷한 기준을 맞추는지가 중요하다.
이용자가 기억할 핵심은 간단하다. 새 규정은 ‘AI 이미지 생성’이라는 이름 뒤에 숨어 있던 비동의 성적 합성과 사기 기능을 앱 심사 책임 안으로 더 분명히 넣었다. 그러나 안전은 문구가 아니라 집행으로 증명된다. 앱스토어에서 문제 앱을 찾기 어려워지고, 신고가 빨라지고, 재등록이 막히는지가 다음 확인 지점이다.
핵심 출처