오픈AI, 아동 AI 안전 연구에 200만달러…부모가 알아야 할 변화와 한계
오픈AI는 2026년 11월 12일 아동과 청소년에게 AI가 미치는 영향을 연구하는 국제 네트워크에 200만달러를 지원한다고 발표했다. 회사는 파리평화포럼에서 ‘아동을 위한 더 안전한 AI 참여 헌장’에 서명했고, 아동의 권리와 보호를 다루는 국제 연합체의 연구에 자금을 대기로 했다. 연구 결과는 오픈AI에 유리하지 않거나 결론이 명확하지 않은 경우에도 공개한다는 원칙도 헌장에 포함됐다.
이번 발표는 새 부모 통제 기능이나 청소년 전용 챗봇의 출시 소식이 아니다. 당장 사용자가 켤 수 있는 버튼이 생긴 것도 아니다. 핵심은 아동이 AI를 사용할 때 무엇이 위험하고 무엇이 도움이 되는지 공통으로 측정할 방법을 만들겠다는 약속이다. 지금까지 기업마다 ‘안전하다’는 기준과 평가 방식이 달랐는데, 독립 연구자가 비교할 수 있는 도구와 근거를 만들자는 취지다.
부모와 교사 입장에서는 200만달러라는 금액보다 연구의 독립성, 실제 제품 반영 의무, 연령별 보호 방식이 더 중요하다. AI는 이미 숙제, 검색, 창작, 상담, 친구 같은 대화에 들어와 있다. 아이가 얼마나 자주 쓰는지조차 정확히 모르는 가정도 많다. 이번 헌장은 기술이 충분히 보급된 뒤 피해를 조사하는 대신, 사용 습관이 굳기 전에 위험을 측정하고 보호 장치를 고치자는 방향을 제시한다.
무엇을 발표했나
오픈AI의 공식 발표와 파리평화포럼의 헌장에서 확인되는 내용은 다음과 같다.
- 오픈AI는 아동과 AI를 연구하는 국제 과학 네트워크에 200만달러를 지원한다.
- 연구는 AI의 위험뿐 아니라 학습·창의성·접근성 같은 기회도 함께 측정한다.
- 연구 우선순위와 방법, 분석, 결론은 독립 연구진이 책임진다.
- 자금을 낸 기업은 개별 지원 결정이나 연구 결과를 통제할 수 없고, 출판을 막을 권한도 갖지 않는다.
- 부정적이거나 결론이 불분명한 결과도 공개한다.
- 아동이 접근할 수 있는 AI를 만드는 참여 기업은 출시 전과 출시 후 정기적으로 평가와 시험을 수행한다.
- 안전·개인정보 보호·보안은 선택 설정이 아니라 기본값으로 제공하는 방향을 따른다.
헌장에는 오픈AI 외에도 앤트로픽, 마이크로소프트, 블랙포레스트랩스 등이 참여했다. 프랑스·스페인·케냐가 이끄는 연합체와 여러 유엔 기관이 관여한다. 따라서 한 회사의 자체 캠페인보다 범위가 넓다. 그러나 국제 헌장은 법률과 같지 않다. 위반했을 때 자동으로 과징금이 부과되는 강제 규칙이 아니라 기업의 약속과 연구 협력 틀에 가깝다.
왜 지금 아동과 AI를 따로 연구하나
성인에게 유용한 AI가 아동에게도 같은 방식으로 안전하다고 볼 수 없기 때문이다. 아이와 청소년은 나이에 따라 언어 이해, 충동 조절, 위험 판단, 사회적 관계, 자아 형성이 크게 달라진다. 똑같은 친근한 말투와 개인화 기능도 성인에게는 편리하지만 어린 사용자에게는 과도한 신뢰나 정서적 의존을 만들 수 있다.
생성형 AI는 검색 결과처럼 정보만 보여주지 않는다. 사용자의 말을 기억하고, 공감하는 표현을 쓰고, 대화를 오래 이어 간다. 목소리와 얼굴이 결합되면 사람처럼 느껴질 수 있다. 아이가 “친구가 나를 싫어하는 것 같아”라고 말했을 때 AI가 어떤 답을 하는지, 반복해서 AI에게만 고민을 털어놓을 때 어떤 영향이 생기는지, 밤늦게까지 대화를 이어가도록 설계됐는지가 중요한 안전 문제가 된다.
또한 아동은 학습과 평가 환경에서 AI를 쓴다. 정답을 바로 주는 도구는 당장 과제를 끝내는 데 도움이 되지만, 스스로 문제를 풀고 실패를 견디는 과정을 줄일 수 있다. 반대로 읽기나 언어 장벽이 있는 아이에게는 개인별 설명과 반복 연습이 큰 도움이 될 수 있다. 위험과 이익이 동시에 있기 때문에 단순히 ‘금지’하거나 ‘무조건 허용’하는 접근으로는 부족하다.
유니세프는 AI가 이미 아이들이 보는 영상과 뉴스, 친구 추천, 학습과 숙제, 창작 활동에 깊이 들어왔다고 지적한다. 아르헨티나의 9~11세 아동 가운데 3분의 1 이상이 정보를 찾기 위해 챗GPT를 사용한다는 사례도 소개했다. 12,000명의 아동과 보호자를 대상으로 한 유니세프 연구에서는 국가와 소득 수준에 따라 접근, 사용 방식, 신뢰, 위험 노출에 큰 차이가 나타났다. 이 때문에 영어권의 일부 청소년만 조사해서 전 세계 기준을 만들 수 없다.
연구비 200만달러가 실제로 쓰일 곳
오픈AI는 자금이 ‘공통 측정 작업’에 쓰인다고 설명했다. 이는 막연히 좋은 연구를 지원한다는 말보다 구체적인 방향이다. 예를 들어 연구자는 서로 다른 챗봇이 자해 표현, 따돌림, 성적 대화, 개인정보 요구, 과도한 정서 의존에 어떻게 반응하는지 같은 조건을 공통 기준으로 시험할 수 있다.
연령별 차이도 평가 대상이 된다. 8세, 13세, 17세에게 같은 보호 문구를 보여주는 것이 적절한지, 부모 통제가 어느 나이까지 유효한지, 아이가 이해할 수 있는 설명은 어떻게 달라야 하는지 연구해야 한다. 헌장은 이를 ‘발달 단계에 따라 구분된 관점’으로 보라고 요구한다. 단순히 18세 미만을 하나의 집단으로 묶지 말라는 뜻이다.
사용 시간과 관계 형성도 중요하다. AI가 아이의 관심을 붙잡기 위해 계속 말을 걸거나 감정적 유대를 강화하면 과도한 사용을 유도할 수 있다. 반대로 적절한 휴식 알림, 대화 종료, 현실의 보호자나 전문가에게 도움을 요청하도록 안내하는 기능은 위험을 줄일 수 있다. 이런 기능이 실제 행동을 바꾸는지 검증하려면 실험실 평가와 장기 관찰이 모두 필요하다.
연구는 위험만 찾는 것이 아니다. 장애 아동의 의사소통, 개인별 학습 속도, 번역, 창작 참여, 정보 접근에서 AI가 어떤 도움을 주는지도 측정한다. 안전 연구가 오직 금지 목록을 만드는 작업이 되면 유익한 사용까지 막을 수 있다. 헌장이 위험과 기회를 함께 평가한다고 명시한 이유다.
‘독립 연구’ 약속이 중요한 이유
AI 기업이 자금을 대는 연구는 이해충돌 우려를 피하기 어렵다. 제품을 판매하는 회사가 평가 기준과 결과 공개 여부까지 결정하면 불리한 발견이 감춰질 수 있다. 이번 헌장은 연구 우선순위, 방법, 분석, 결론을 독립 과학자가 맡고 후원 기업에는 출판 거부권이 없다고 명시한다. 부정적이거나 결론이 나지 않은 결과도 공개한다는 원칙은 의미가 있다.
그렇다고 독립성이 자동으로 보장되는 것은 아니다. 어떤 연구기관이 선정되는지, 원자료에 접근할 수 있는지, 기업이 제품 내부 정보를 얼마나 제공하는지, 연구 기간이 충분한지, 결과가 실제 제품 변경으로 이어지는지를 봐야 한다. 공개된 보고서만 있고 필요한 데이터가 비공개라면 외부 검증은 제한된다.
또한 200만달러는 전 세계 아동의 장기적인 AI 사용 효과를 모두 연구하기에는 큰 금액이라고 보기 어렵다. 여러 언어와 문화, 연령, 장애, 소득 수준을 포함하고 수년간 추적하려면 더 많은 자원과 공공 연구비가 필요하다. 이번 지원은 출발점으로 볼 수 있지만 문제를 해결한 최종 투자로 포장해서는 안 된다.
부모에게 당장 생기는 새 기능은 없다
이번 발표를 보고 챗GPT에 새로운 청소년 모드가 즉시 생겼다고 오해해서는 안 된다. 오픈AI는 연구 지원과 정책 방향을 발표했으며, 개별 제품의 구체적인 출시 일정이나 국가별 적용 범위를 밝히지 않았다. 부모 통제, 연령 추정, 사용 시간 제한 같은 기능은 헌장에서 권장되지만 모든 참여 제품에 같은 날 적용되는 것은 아니다.
따라서 가정에서의 현재 안전 관리는 여전히 필요하다. 다만 모든 책임을 부모에게 떠넘겨서도 안 된다. 부모가 아이의 모든 대화를 감시하는 방식은 개인정보와 신뢰를 해칠 수 있고, 기술적으로도 현실적이지 않다. 헌장의 중요한 원칙은 높은 수준의 아동 안전과 개인정보 보호를 기본값으로 제공하고, 부모에게 이해하기 쉬운 도구를 주며, 아이의 자율성과 발달 단계도 존중하는 것이다.
가정에서는 감시보다 대화가 우선이다. 아이가 AI를 어디에 쓰는지, 이상하거나 불편한 답을 받은 적이 있는지, 개인정보를 입력했는지, AI를 사람처럼 느끼는지 물어볼 수 있다. 숙제를 대신시키지 말라는 훈계만으로는 부족하다. AI가 틀릴 수 있고, 친절한 말투가 진짜 이해나 책임을 뜻하지 않으며, 위험한 상황에서는 사람에게 도움을 요청해야 한다는 기준을 함께 정해야 한다.
학교와 교육기관에 달라질 점
학교는 AI 사용을 허용할지 금지할지에만 집중하기 쉽다. 그러나 학생들은 교실 밖에서 이미 AI를 쓴다. 교육기관이 확인해야 할 것은 어떤 서비스가 연령에 맞는지, 학생 데이터가 학습에 사용되는지, 대화 기록이 얼마나 보관되는지, 교사가 결과를 검토할 수 있는지, 장애 학생에게 필요한 접근성을 제공하는지다.
공통 평가 도구가 만들어지면 학교와 교육청이 기업의 광고 문구 대신 비교 가능한 안전 자료를 요구할 수 있다. 예를 들어 자해 위험 대응률, 부적절한 관계 형성 방지, 개인정보 최소 수집, 연령별 설명 방식 같은 항목을 계약 조건에 넣을 수 있다. 이는 ‘유명한 AI니까 안전할 것’이라는 막연한 판단을 줄이는 데 도움이 된다.
교사의 역할도 바뀐다. AI가 만든 답의 사실 여부만 확인하는 것이 아니라 학생이 출처를 찾고, 다른 관점을 비교하고, AI의 조언을 거절할 수 있는 능력을 가르쳐야 한다. 아이가 AI에게 정서적 상담을 요청했을 때 교사와 상담사에게 연결하는 절차도 필요하다. 연구 결과가 이런 운영 지침으로 번역되지 않으면 논문만 늘고 현장은 달라지지 않을 수 있다.
기업이 지켜야 할 핵심 약속
헌장은 참여 기업이 아동이 접근할 수 있는 AI를 출시하기 전과 이후 정기적으로 평가하고 시험하도록 요구한다. 여기에는 안전을 제품 설계의 마지막 단계에 덧붙이는 것이 아니라 처음부터 기본값으로 넣는다는 원칙이 포함된다.
구체적으로는 과도하거나 강박적인 사용을 막는 시간 관리, 감정적 애착을 부추기는 기능에 대한 보호, 부모 통제, 아동이 이해할 수 있는 설명, 개인정보 보호가 거론된다. 중요한 것은 기능의 존재만이 아니라 실제 효과다. “휴식이 필요할 수 있어요”라는 문구 한 줄이 새벽까지 대화하는 행동을 줄이지 못한다면 충분한 보호라고 보기 어렵다.
위기 대응도 필요하다. 아이가 자해, 학대, 성착취, 폭력 위험을 언급할 때 AI가 대화를 어떻게 제한하고 어떤 도움을 안내하는지 평가해야 한다. 지나치게 민감하게 반응하면 정상적인 학습과 표현을 막을 수 있고, 너무 느슨하면 실제 위험을 놓칠 수 있다. 연령과 문맥을 고려한 정교한 기준이 필요한 이유다.
아직 확인되지 않은 점
첫째, 연구 네트워크의 구체적인 과제와 일정이 아직 모두 공개된 것은 아니다. 어떤 위험부터 측정하고 첫 결과를 언제 발표할지 지켜봐야 한다.
둘째, 참여 기업이 연구 결과를 제품에 반영해야 하는 기한과 강제력이 명확하지 않다. 헌장은 공개 약속이지만 법적 규제와 동일하지 않다. 실제 변화는 각 회사의 출시 기록과 외부 감사를 통해 확인해야 한다.
셋째, 연령 확인 기술의 정확성과 개인정보 문제가 남는다. 아이를 보호하려고 신분증이나 얼굴 정보를 과도하게 수집하면 또 다른 위험이 생긴다. 잘못된 연령 추정으로 성인이 제한되거나 아동이 보호 밖에 놓일 수도 있다. 헌장이 개인정보를 보호하는 연령 확인을 강조하지만 구체적인 기술 선택은 제품마다 다를 수 있다.
넷째, 한국을 포함한 비영어권 아동이 충분히 연구에 포함될지 알 수 없다. 한국어의 높임말, 학교 문화, 학원과 입시 환경, 가족의 디지털 사용 방식은 영어권과 다르다. 국제 기준이 의미 있으려면 여러 문화권의 실제 사용을 반영해야 한다.
다섯째, 안전 연구와 사업 목표가 충돌할 때 기업이 어떤 선택을 할지 검증되지 않았다. 대화 시간이 길수록 서비스 이용 지표는 좋아질 수 있지만, 아동의 건강한 사용에는 반대일 수 있다. 독립 연구가 이런 충돌을 드러냈을 때 회사가 제품을 바꾸는지가 가장 중요한 시험이다.
이번 발표가 중요한 이유
이번 발표의 의미는 오픈AI가 200만달러를 냈다는 사실 하나에 있지 않다. 아동 AI 안전을 ‘좋은 의도’가 아니라 측정 가능한 제품 기준으로 바꾸고, 기업이 돈을 대더라도 연구 결론과 출판을 통제하지 못하게 하겠다는 원칙에 있다. 앤트로픽과 마이크로소프트 등 여러 회사가 같은 헌장에 참여했다는 점도 비교와 공동 기준을 만들 가능성을 높인다.
그러나 부모와 학교가 오늘부터 안심해도 된다는 뜻은 아니다. 새 기능의 출시 일정은 발표되지 않았고, 헌장은 법적 강제 규칙이 아니다. 앞으로 확인할 것은 첫 연구 과제와 결과 공개 시점, 한국어와 다양한 연령의 포함 여부, 기업별 제품 변경, 정부가 이를 법과 조달 기준에 어떻게 반영하는지다.
독자가 기억할 핵심은 분명하다. 아이들은 이미 AI를 사용하고 있는데 장기 영향에 대한 근거는 부족하다. 이번 국제 헌장과 연구 지원은 그 공백을 메우려는 출발점이며, 성공 여부는 보고서의 수가 아니라 아이가 쓰는 실제 제품의 기본 설정과 행동이 달라지는지로 판단해야 한다.