메타 AI가 자녀 정보를 모아 보여줬다…공개된 정보도 위험해지는 이유

메타가 페이스북과 인스타그램에 붙인 AI 추천 질문이 한 이용자의 어린 자녀와 거주지에 관한 정보를 모아 보여 준 사실이 알려진 뒤 해당 문제를 수정했다고 밝혔다. 문제는 9월 2일 공개된 영상으로 확산됐고, 메타는 9월 11일 “선을 넘었다”며 개인적인 질문이 추천되지 않도록 고쳤다고 설명했다. 9월 12일 CNET은 당사자와 메타의 추가 입장을 전했다.

이 사건을 단순히 “삭제한 사진을 AI가 되살렸다”는 공포담으로 이해하면 핵심을 놓친다. 삭제 시점과 일시적 노출에 대해서는 당사자와 메타의 설명이 엇갈린다. 더 분명한 문제는 사용자가 여러 해에 걸쳐 올린 각각의 평범한 게시물과 가족 계정의 정보를 AI가 몇 초 안에 한 사람, 특히 미성년자에 대한 구체적인 프로필처럼 조립했다는 점이다.

독자가 궁금해할 질문은 이것이다. “AI가 공개된 정보만 썼다면 왜 개인정보 침해처럼 느껴지며, 가족 사진을 올리는 사람은 무엇을 알아야 하는가?” 답은 정보의 공개 여부와 정보의 결합 가능성이 다른 문제라는 데 있다. 흩어진 사진 한 장, 이름 한 번, 학교 행사 게시물 하나는 대수롭지 않아 보여도 AI가 연결하면 나이, 가족관계, 생활권, 이동 경로를 추정하는 재료가 된다.

무슨 일이 있었나

육아·라이프스타일 콘텐츠를 올리는 칼리 로빈스는 자신과 딸이 차에서 노래하는 영상을 페이스북에도 함께 게시했다. 영상 아래에는 메타 AI가 자동으로 제안한 “어린이 승객은 누구인가?”라는 질문이 나타났다. 로빈스가 이를 누르자 AI는 이전 게시물과 친척 계정의 게시물을 바탕으로 딸들에 관한 정보를 모아 답했고, 자녀의 나이와 가족의 거주지를 묻는 추가 질문까지 제안했다고 한다.

로빈스는 과거에 삭제했다고 생각한 자녀 사진도 AI 답변에 나타났다고 주장했다. 메타는 이 부분을 다르게 설명했다. 해당 사진은 영상을 만들기 직전에 삭제됐고, 일시적인 오류 때문에 잠깐 계속 보였다는 입장이다. 어느 설명이 정확한지는 공개된 자료만으로 완전히 확인하기 어렵다. 따라서 “메타가 오래전에 삭제한 사진을 비밀리에 보관해 AI에 제공했다”고 단정할 수는 없다.

하지만 메타도 추천 질문 자체가 부적절했다는 점은 인정했다. 메타 대변인은 질문 추천 기능이 “의도를 벗어났다”고 밝혔고, 이런 개인적 질문을 제안해서는 안 됐다고 말했다. 회사는 원인을 수정해 메타 AI가 게시물에서 부적절한 개인 질문을 추천하지 않게 했다고 설명했다.

메타의 핵심 해명은 AI가 질문한 사람이 이미 볼 수 있는 콘텐츠만 답변에 사용한다는 것이다. 이용자가 접근할 수 없는 게시물이라면 메타 AI도 답변에 내놓지 않는다는 설명이다. 이 해명은 접근 권한을 넘어서 비공개 자료를 꺼냈다는 의혹에는 답한다. 그러나 여러 게시물의 조각을 자동으로 결합해 민감한 결론을 만드는 문제까지 해결하지는 못한다.

로빈스도 후속 글에서 바로 이 점을 지적했다. 무엇이 정확히 수정됐는지, 어떤 보호장치가 실패했는지, AI가 아동 관련 정보를 만났을 때 어떤 새 보호 조치가 작동하는지 물었다. 사진 한 장의 삭제 여부보다 자녀에 관한 정보를 여러 출처에서 종합했다는 사실이 더 큰 문제라는 입장이다.

‘이미 공개된 정보’가 왜 새 위험이 되나

사람은 보통 SNS 게시물을 시간순으로 본다. 오늘의 가족 사진을 보고, 몇 달 뒤 생일 게시물을 보고, 다른 친척 계정에서 학교 행사를 볼 수 있다. 이 조각들을 모두 기억하고 연결하려면 시간과 노력이 든다. 생성형 AI는 이 비용을 크게 낮춘다. 검색하고, 이름을 맞추고, 관계를 추정하고, 하나의 설명으로 정리하는 일을 빠르게 수행한다.

이 차이를 ‘집합 효과’라고 생각할 수 있다. 각각의 정보는 공개돼 있어도 합쳐진 결과는 훨씬 민감해진다. 아이의 이름, 대략적인 나이, 자주 가는 장소, 부모 이름, 친척 관계가 따로 있을 때와 한 화면에 정리돼 있을 때의 위험은 같지 않다. 범죄자가 아니더라도 낯선 이용자가 호기심으로 질문을 눌러 이런 프로필을 얻는다면 가족이 예상한 공개 범위를 넘어선다.

검색엔진도 공개 정보를 찾을 수 있지만, AI 추천 질문은 사용자가 생각하지 못한 탐색을 먼저 제안한다는 점에서 다르다. 이번 사례에서 문제의 시작은 누군가 일부러 아이를 조사한 것이 아니라 플랫폼이 영상 아래에 “어린이 승객은 누구인가?”라는 질문을 붙였다는 데 있다. 서비스가 호기심의 방향을 정하고, 클릭 한 번으로 조사 과정을 대신했다.

이런 설계는 사용자의 의도와 무관하게 민감한 관심을 만들어 낼 수 있다. 여행 영상 아래에서 숙소 위치를 묻거나, 교복 사진 아래에서 학교를 묻거나, 병원 사진 아래에서 건강 상태를 묻는 추천이 나타난다고 상상하면 위험이 분명해진다. 답에 쓰인 정보가 공개 자료라고 해도 질문 자체가 사적인 영역으로 사용자를 이끈다.

메타의 수정으로 무엇이 해결됐나

확인된 범위에서 메타는 부적절하고 개인적인 추천 질문이 나타난 원인을 수정했다고 밝혔다. 페이스북, 인스타그램, 왓츠앱, 메신저에 통합된 메타 AI는 게시물에 관한 추가 정보를 쉽게 찾도록 추천 질문을 제공해 왔다. 회사는 이 기능의 목적이 이용자가 관심 있는 주제나 게시물을 더 알아보도록 돕는 것이라고 설명한다.

추천 문구에서 자녀의 신원이나 거주지 같은 질문이 사라진다면 이번 사례가 반복될 가능성은 줄어든다. 특히 사용자가 생각하지 못한 사적 질문을 플랫폼이 먼저 제시하는 문제를 완화할 수 있다. 하지만 메타는 어떤 기준을 새로 적용했는지, 아동 관련 질문을 어떤 방식으로 감지하는지, 여러 계정의 정보를 결합하는 범위를 줄였는지까지 자세히 공개하지 않았다.

또한 추천 질문을 없애는 것과 사용자가 직접 같은 질문을 입력했을 때의 답변은 별개다. 메타의 설명대로 AI가 이용자가 볼 수 있는 게시물을 바탕으로 답한다면, 수동 질문을 통한 정보 결합 가능성은 남을 수 있다. 회사가 “문제를 고쳤다”고 한 범위가 추천 문구인지, 답변 생성의 민감정보 규칙까지 포함하는지 외부에서 더 확인해야 한다.

삭제된 사진 논란도 완전히 해소된 것은 아니다. 메타는 일시적인 버그였다고 했지만, 이용자는 삭제 버튼을 누른 순간부터 콘텐츠가 더 이상 보이지 않을 것으로 기대한다. 캐시나 처리 지연으로 잠시 남아 있을 수 있다면 서비스는 삭제 완료 시점과 잔여 복사본 처리 방식을 명확히 알려야 한다. 이번 보도만으로 메타의 전체 삭제 체계를 평가할 수는 없지만, AI가 남아 있는 정보를 즉시 찾아낼 수 있다는 점은 기존의 짧은 지연도 더 민감하게 만든다.

부모와 일반 이용자에게 실제로 달라지는 점

이 사건이 “SNS에 가족 사진을 절대 올리지 말라”는 하나의 결론으로 이어질 필요는 없다. 사람마다 공유의 가치와 위험 판단이 다르다. 다만 게시물 하나만 보고 공개 범위를 판단하던 습관은 바꿀 필요가 있다. AI는 여러 해의 게시물과 가족·지인 계정의 정보를 연결할 수 있기 때문이다.

예를 들어 생일 케이크 사진에는 나이가 드러나고, 운동회 사진에는 학교 이름이 보이며, 주말 사진에는 자주 가는 공원이 표시될 수 있다. 부모 계정은 비공개여도 조부모나 학원, 동호회 계정이 공개 상태일 수 있다. 각각 올린 사람은 큰 위험을 느끼지 못했지만, 합치면 아이의 생활 반경과 일정이 보인다.

가장 현실적인 대응은 과거 게시물을 모두 지우는 공포 반응보다 정보 조각의 조합을 점검하는 것이다. 프로필과 사진 설명에 실명, 생년, 학교, 주소, 정기 일정이 함께 드러나는지 확인할 수 있다. 위치 정보는 실시간으로 올리기보다 장소를 떠난 뒤 공유하고, 교복 명찰이나 집 근처 표지판처럼 식별 가능한 배경은 가리는 편이 낫다.

가족끼리 공개 기준을 맞추는 것도 중요하다. 한 사람이 자녀 사진을 비공개로 관리해도 친척이 공개 계정에 이름과 사진을 함께 올리면 연결 고리가 생긴다. 자녀의 사진과 이름을 올리기 전에 보호자에게 확인하고, 학교와 현재 위치를 동시에 공개하지 않는 정도의 간단한 합의가 도움이 된다.

플랫폼 설정도 다시 볼 필요가 있다. 페이스북과 인스타그램의 공개 범위, 과거 게시물 공개 제한, 태그 검토, 검색 노출 설정을 점검할 수 있다. 다만 설정만으로 완전한 보호를 기대해서는 안 된다. 친구가 다시 공유하거나 화면을 저장할 수 있고, 공개 범위가 나중에 바뀔 수도 있다. 한 번 올라간 정보는 원래 문맥을 벗어나 결합될 수 있다는 전제로 판단해야 한다.

이 사건이 메타의 ‘개인 AI’ 전략에 던지는 질문

메타는 AI를 별도 앱에만 두지 않고 사람들이 매일 쓰는 페이스북, 인스타그램, 왓츠앱, 메신저에 깊게 넣고 있다. 최근에는 사용자를 대신해 더 많은 일을 수행하는 개인 AI 에이전트 ‘뮤즈’도 공개했다. AI가 개인화될수록 더 많은 과거 게시물, 관계, 취향을 이해해야 유용해진다. 바로 그 장점이 개인정보 위험의 원인이 되기도 한다.

일반 챗봇이 사용자가 직접 붙여 넣은 문서만 본다면 데이터 범위를 비교적 쉽게 이해할 수 있다. SNS 안의 AI는 다르다. 사용자가 예전에 무엇을 올렸는지, 누구와 연결됐는지, 어느 게시물을 볼 권한이 있는지 같은 플랫폼 문맥을 활용할 수 있다. 사용자는 AI가 현재 화면만 보는지, 계정 전체를 검색하는지, 친구 게시물까지 참고하는지 알기 어렵다.

메타의 “이미 볼 수 있는 정보만 사용했다”는 설명이 충분하지 않은 이유가 여기에 있다. 법적 접근 권한과 사용자의 기대는 다를 수 있다. 친구가 오래된 게시물을 직접 찾아볼 수 있다고 해서 AI가 그 내용을 자동으로 요약해 자녀 프로필로 만들어 줄 것이라고 예상한 것은 아닐 수 있다. AI 서비스에는 기존 공개 설정뿐 아니라 ‘결합과 추론’에 대한 별도 통제가 필요하다는 논의가 커질 수 있다.

개인화 기능의 동의 방식도 중요하다. 이용자가 명확히 요청했을 때만 과거 게시물을 검색하게 할지, 기본적으로 검색한 뒤 민감한 결과만 거를지에 따라 경험이 크게 달라진다. 아동, 건강, 정치 성향, 종교, 정확한 위치처럼 민감한 범주는 더 엄격한 기본값이 필요하다. 메타가 이번 수정에서 이런 범주별 보호를 도입했는지는 아직 공개되지 않았다.

기업 해명과 확인되지 않은 부분

현재 확인된 사실은 세 층으로 나눠야 한다. 첫째, 로빈스의 영상에 자녀 신원을 묻는 AI 추천 질문이 나타났고, AI가 여러 게시물에서 가족 정보를 모아 답했다는 화면과 당사자 증언이 보도됐다. 둘째, 메타는 질문 추천이 부적절했다는 점을 인정하고 원인을 수정했다고 밝혔다. 셋째, AI는 질문한 이용자가 이미 접근할 수 있는 정보만 사용했다는 것이 메타의 설명이다.

반면 오래전에 삭제된 사진을 AI가 찾아냈다는 주장은 다툼이 있다. 로빈스는 삭제한 지 오래된 사진이라고 말했고, 메타는 영상 제작 직전에 삭제돼 일시적 오류로 보였다고 반박했다. 독립적인 삭제 기록이 공개되지 않았으므로 어느 쪽 설명을 확정할 수 없다. 이 부분을 과장해 쓰면 오히려 분명히 확인된 정보 결합 문제를 흐린다.

또한 메타가 정확히 무엇을 수정했는지도 제한적으로 알려졌다. 추천 질문 생성 규칙을 바꾼 것인지, 답변 검색 범위도 바꾼 것인지, 아동 관련 보호 필터를 새로 만든 것인지 공개 설명만으로는 알 수 없다. 수정 효과를 판단하려면 비슷한 게시물에서 부적절한 추천이 다시 나타나는지, 직접 질문에도 민감정보를 조합하는지 외부 검증이 필요하다.

이 사건 하나만으로 메타 AI 전체가 비공개 메시지나 접근 불가능한 사진을 마음대로 읽는다고 결론 내려서도 안 된다. 현재 보도는 그런 사실을 입증하지 않는다. 정확한 비판은 ‘접근 가능한 정보의 자동 결합’과 ‘플랫폼이 사적 질문을 먼저 추천한 설계’에 맞춰야 한다.

플랫폼이 바꿔야 할 기준

첫 번째 기준은 추천 질문의 민감도다. AI가 답할 수 있는 질문이라도 먼저 제안해서는 안 되는 질문이 있다. 미성년자의 신원, 정확한 거주지, 학교, 건강 상태처럼 피해 가능성이 큰 정보는 기본적으로 추천 대상에서 제외해야 한다.

두 번째는 여러 출처 결합에 대한 제한이다. 한 게시물의 문맥을 설명하는 것과 여러 계정·여러 해의 기록을 모아 개인 프로필을 만드는 것은 다르다. 서비스는 결합 범위를 사용자에게 보여 주고, 민감한 추론에는 명시적인 확인을 요구할 수 있다.

세 번째는 출처 표시다. AI가 “어디에 산다”거나 “몇 살이다”라고 답한다면 어떤 공개 게시물에서 그 결론을 얻었는지 알 수 있어야 한다. 잘못된 추론을 고치고, 원치 않는 정보 노출을 찾아 삭제하려면 근거가 필요하다. 출처 없이 단정적인 답만 나오면 오류와 침해를 구분하기 어렵다.

네 번째는 아동 정보에 대한 더 높은 보호다. 미성년자는 자신의 과거 게시물과 장기적인 디지털 흔적에 동의할 능력이 제한적이다. 보호자가 올린 정보라고 해도 AI가 다시 조합해 낯선 사람에게 보여 주는 범위는 별도로 제한할 필요가 있다.

다섯 번째는 삭제의 명확성이다. 삭제 요청이 접수된 시점, 화면에서 사라지는 시점, 검색과 AI 응답에서 제외되는 시점을 구분해 알려야 한다. 일시적 지연이 있다면 그 기간과 이유를 설명해야 이용자가 위험을 판단할 수 있다.

핵심 정리

메타의 이번 문제는 AI가 비밀 데이터베이스를 해킹했다는 사건으로 확인된 것이 아니다. 더 현실적이고 넓은 문제다. 우리가 스스로 공개했거나 지인에게 보이도록 허용한 정보의 조각을 AI가 빠르게 모아, 예상하지 못한 민감한 프로필로 바꿀 수 있다는 사실이 드러났다. 게다가 플랫폼이 자녀의 신원과 거주지를 묻는 질문을 먼저 추천했다.

메타는 9월 11일 부적절한 개인 질문 추천을 수정했다고 밝혔지만, 구체적인 보호장치와 정보 결합 범위는 충분히 공개하지 않았다. 삭제된 사진의 시점에 대해서도 당사자와 회사 설명이 다르다. 따라서 지금 기억할 사실은 두 가지다. 공개 설정은 AI 시대에 필요한 보호의 출발점일 뿐이며, 여러 게시물을 합쳤을 때 드러나는 정보까지 점검해야 한다. 앞으로 확인할 변화는 메타가 아동과 위치 정보에 적용하는 구체적인 제한, 직접 질문에 대한 답변 규칙, 삭제 정보가 AI 결과에서 제외되는 시점을 투명하게 공개하는지다.

출처: The Verge 보도, CNET 후속 보도