메타 AI, 청소년 자해 위험 대화를 부모에게 알린다…전 세계 확대는 연말 예정

메타가 7월 16일 청소년이 Meta AI와 나눈 대화에서 자살이나 자해 위험 신호가 발견되면 보호자에게 알리는 기능을 발표했다. 미국·영국·호주·캐나다에서는 이미 적용됐고, 올해 말까지 전 세계로 확대할 계획이다. 다만 모든 청소년 계정이 대상은 아니다. 인스타그램의 보호자 감독 기능으로 연결된 계정에 우선 적용된다.

어떤 대화가 보호자 알림으로 이어지나

청소년이 자신을 해칠 생각을 직접 밝히거나, 표현은 간접적이어도 위험 가능성이 있다고 판단되는 대화가 대상이다. Meta AI는 기존에도 위기 상담 전화와 부모·상담교사 같은 신뢰할 수 있는 어른에게 도움을 요청하도록 안내해 왔다. 이번에는 AI의 답변에 그치지 않고 보호자에게 위험 신호를 전달하는 단계가 추가됐다.

메타는 별도의 AI 시스템으로 해당 대화를 찾되, 알림을 보내기 전 사람이 다시 검토한다고 설명했다. 의도가 명확하지 않으면 안전을 우선해 보호자에게 알릴 방침이어서 실제 위험이 아닌데도 알림이 가는 경우가 생길 수 있다는 점도 인정했다.

부모와 청소년에게 실제로 달라지는 점

보호자에게는 단순 경고만 보내는 것이 아니라 청소년과 대화를 시작하는 데 도움이 되는 전문가 자료도 함께 제공한다. 이미 인스타그램 보호자 감독 기능을 쓰는 가정이라면, 해당 기능의 범위가 검색·게시물뿐 아니라 Meta AI 대화까지 넓어지는 셈이다.

청소년 입장에서는 AI와 나눈 민감한 대화가 항상 사적인 공간으로 남지는 않는다는 뜻이기도 하다. 메타는 청소년의 사생활과 안전 사이에서 위험 가능성이 있으면 알림을 택하겠다는 기준을 세웠다. 가족은 기능 도입 전에 어떤 상황에서 보호자에게 정보가 전달될 수 있는지 함께 확인할 필요가 있다.

아직 확인되지 않은 점

메타는 자살이 임박한 것으로 보이는 경우 성인·청소년을 가리지 않고 응급기관에 연락하는 기능도 개발 중이라고 밝혔다. 그러나 이 기능의 출시 시점과 국가별 적용 방식은 아직 공개하지 않았다.

또한 이번 기능은 메타가 설명한 탐지·검토 절차에 근거한 발표다. 오탐률이나 실제 위기 개입 효과를 보여주는 독립적인 자료는 아직 없다. 위험 표현은 언어와 문화에 따라 달라질 수 있어, 전 세계 확대 뒤 각 언어에서 얼마나 정확하게 작동하는지가 중요한 검증 대상이다.

핵심 정리

이번 변화의 핵심은 AI가 위험한 대화에 답하는 수준을 넘어 보호자에게 직접 신호를 전달하기 시작했다는 점이다. 현재는 네 나라의 인스타그램 감독 계정부터 적용되며 전 세계 확대 목표는 2026년 말이다. 한국 이용자는 실제 출시 시점, 한국어 탐지 정확도, 보호자 알림 설정 방식을 확인해야 한다.

출처: 메타 공식 발표