미국 8개 주, 오픈AI 제소…챗GPT 청소년 안전 논쟁에서 지금 확인된 사실

미국 8개 주가 10월 14일(현지시간) 오픈AI를 상대로 각각 소송을 냈다. 아이오와·캔자스·네브래스카·웨스트버지니아·아칸소·애리조나·아이다호·몬태나주는 챗GPT가 특히 어린이와 취약한 이용자에게 줄 수 있는 위험을 충분히 알리지 않았고, 안전을 앞세운 설명으로 소비자를 오도했다고 주장한다. 오픈AI는 연령에 맞춘 보호 장치를 운영하고 있으며 부모 통제, 휴식 알림, 청소년용 모델 보호 기능을 계속 강화하겠다고 반박했다.

이번 사건을 “챗GPT가 곧 금지된다”는 뉴스로 받아들일 필요는 없다. 소송이 제기됐다는 사실과 법원이 위법성을 인정했다는 것은 전혀 다른 단계다. 다만 여러 주 정부가 같은 날 소비자보호법을 근거로 문제를 제기했다는 점은 중요하다. AI 챗봇의 청소년 안전이 기업의 자율적인 기능 개선을 넘어, 법원이 광고 문구와 제품 설계, 데이터 수집 방식까지 따지는 문제로 이동했기 때문이다.

무슨 일이 있었나

로이터 보도와 더버지의 소송 정리에 따르면 8개 주는 별도의 소장을 제출했다. 주마다 적용하는 법과 요구하는 구제 방식에는 차이가 있지만, 공통된 중심 주장은 비슷하다. 오픈AI가 챗GPT를 안전하고 청소년에게도 적절한 도구로 소개하면서 실제 위험을 충분히 경고하지 않았고, 안전보다 성장과 수익을 앞세웠다는 것이다.

소장에는 챗봇이 취약한 이용자의 망상이나 편집증을 강화할 수 있다는 주장, 위험한 의료 조언을 할 수 있다는 주장, 비판적 사고와 건강한 인간관계에 부정적인 영향을 줄 수 있다는 주장이 담겼다. 미성년자의 데이터 수집과 나이 확인이 충분했는지도 쟁점으로 제기됐다. 일부 주는 민사상 제재금뿐 아니라 위법하게 수집된 개인정보의 삭제도 요구한다.

이 대목에서 표현을 정확히 구분해야 한다. 지금 공개된 것은 주 정부의 주장이다. 개별 피해 사례와 챗GPT 사용 사이의 법적 인과관계, 오픈AI가 어떤 위험을 언제 알고 있었는지, 현재의 보호 기능이 법이 요구하는 수준에 미달하는지는 재판 과정에서 다퉈질 사안이다. 소장에 강한 표현이 있다고 해서 그 내용 전체가 사실로 확정된 것은 아니다.

오픈AI 대변인은 더버지에 “업계를 선도하는 연령별 보호 장치”를 구축했다고 밝혔다. 어떤 시스템도 완벽할 수는 없지만 전문가와 협력해 추가 안전장치를 만들고 있으며, 현재 부모 통제와 휴식 알림, 연령에 적합한 모델 보호 기능이 있다는 설명이다. 회사는 한 기업만 겨냥하는 규제가 아니라 AI 업계 전체에 적용되는 실용적인 정책을 주 정부들과 논의하겠다는 입장도 내놨다.

왜 여러 주가 ‘소비자보호’ 문제로 보는가

챗봇 안전 논쟁은 흔히 “AI 답변이 틀릴 수 있다”는 기술 문제로만 설명된다. 이번 소송의 초점은 조금 다르다. 제품이 틀릴 가능성이 있다는 사실 자체보다, 회사가 소비자에게 제품을 어떤 말로 소개했고 어떤 위험을 예상할 수 있었으며 위험을 줄이기 위해 무엇을 했는지가 핵심이다.

예를 들어 계산기가 가끔 틀린다는 경고와, 오랫동안 감정적인 대화를 이어 가며 사람처럼 반응하는 챗봇의 위험 경고는 같을 수 없다. 이용자는 챗봇이 차분하고 공감하는 문장으로 답하면 그 내용을 신뢰하기 쉽다. 특히 외롭거나 불안한 청소년은 “이것은 사람이나 전문가가 아니다”라는 사실을 머리로 알아도 대화 속에서는 정서적 권위를 부여할 수 있다. 이런 제품 특성을 알고도 일반적인 면책 문구만 보여 줬는지가 법적·정책적 질문이 되는 것이다.

또한 안전을 강조한 광고와 실제 제품 경험 사이에 간격이 있었는지도 중요하다. 기업이 “안전 우선”을 홍보했다면 소비자는 그 말을 구매나 사용 결정에 반영한다. 주 정부들은 바로 이 지점을 소비자보호법으로 다루려 한다. 앞으로 재판에서는 홈페이지의 홍보 문구, 청소년 대상 설명, 위험한 대화가 감지됐을 때의 개입 방식, 출시 전후 내부 평가와 수정 기록 등이 함께 검토될 가능성이 있다.

부모와 청소년에게 지금 달라지는 것은

소송 제기만으로 챗GPT의 이용 약관이나 미국 밖 서비스가 즉시 바뀌지는 않는다. 한국 이용자의 계정이 갑자기 제한되거나 앱이 중단되는 사건도 아니다. 하지만 부모와 학교가 챗봇을 대하는 기준은 더 구체적이어야 한다는 신호다.

첫째, 숙제 보조와 정서 상담을 같은 위험도로 보면 안 된다. 영어 문장을 고치거나 개념을 다시 설명해 달라는 요청과, 자해 충동·섭식 문제·망상·가정 폭력처럼 안전이 걸린 대화는 성격이 다르다. 후자의 경우 챗봇 답변을 최종 조언으로 사용하지 않고 보호자, 교사, 상담사, 의료진 또는 지역의 긴급지원 체계와 연결해야 한다. AI가 공감하는 문장을 잘 만든다는 사실은 위기 개입 능력이 검증됐다는 뜻이 아니다.

둘째, 부모 통제가 있다는 사실만으로 충분하다고 단정하면 안 된다. 실제로 어떤 알림을 부모가 받는지, 청소년이 기능을 끌 수 있는지, 과거 대화가 얼마나 저장되는지, 가족 계정과 개인 계정의 차이가 무엇인지 확인해야 한다. “청소년용 보호”라는 이름 아래 어떤 종류의 답변이 제한되는지도 제품별로 다를 수 있다.

셋째, 나이 입력창은 완전한 나이 확인 장치가 아니다. 생년월일을 직접 쓰는 방식은 우회하기 쉽고, 더 강한 확인 방식은 신분증이나 얼굴 같은 민감한 정보를 추가로 요구할 수 있다. 안전을 높이려는 나이 확인이 오히려 개인정보 수집을 늘릴 수 있는 딜레마가 있다. 이번 소송이 주목받는 이유 중 하나도 보호와 프라이버시를 동시에 어떻게 맞출지 아직 표준 답이 없기 때문이다.

넷째, 대화 기록에는 학교생활, 가족 갈등, 건강, 위치, 친구 이름처럼 생각보다 많은 개인정보가 들어간다. 청소년에게 “비밀 일기처럼 무엇이든 써도 된다”고 안내해서는 곤란하다. 계정의 기록·학습 설정과 삭제 기능을 함께 확인하고, 주민등록번호·정확한 주소·학교 반·타인의 건강정보처럼 불필요한 식별 정보는 입력하지 않는 습관이 필요하다.

학교와 기업이 받는 영향

학교는 학생에게 AI 사용을 허용할 때 표절 규칙만 만들고 끝내기 쉽다. 이제는 안전 범위도 정해야 한다. 학습 아이디어를 얻거나 문장을 다듬는 용도, 개인 상담이나 의료·법률 조언을 요청하는 용도, 다른 학생의 정보를 입력하는 용도를 구분해야 한다. 교사가 추천한 서비스라면 학생과 부모는 학교가 안전성을 검토했다고 믿을 수 있으므로, 도입 주체의 설명 책임도 커진다.

학교용 계정에서는 대화가 학습에 쓰이는지, 관리자가 내용을 볼 수 있는지, 졸업이나 전학 뒤 자료가 언제 삭제되는지 확인할 필요가 있다. 위기 표현을 탐지했을 때 누구에게 알리는지도 민감하다. 위험 신호를 무시하면 보호가 부족해지고, 지나치게 넓게 신고하면 학생의 사생활과 신뢰가 훼손된다. 기술 하나를 켜는 문제가 아니라 상담 체계와 책임자를 함께 정해야 하는 이유다.

일반 기업도 무관하지 않다. 고객 상담 챗봇이나 직원용 AI에 청소년이 접근할 수 있다면 나이, 위험한 대화, 개인정보 처리 기준을 점검해야 한다. “우리는 기반 모델을 만들지 않았다”는 이유만으로 책임이 사라지는 것은 아니다. 서비스 화면과 이용 흐름을 설계하고 고객에게 안전성을 설명한 사업자에게도 별도의 소비자보호 의무가 생길 수 있다.

이번 소송이 바로 증명하지 않는 것

이번 뉴스에서 가장 경계할 부분은 양쪽의 과장이다. 소송이 제기됐다는 이유만으로 챗GPT가 모든 청소년에게 해롭다고 결론 내릴 수 없다. 많은 학생이 번역, 아이디어 정리, 시험 개념 설명, 진로 탐색에 실제 도움을 받는다. 반대로 보호 기능이 추가됐다는 회사 설명만으로 위험이 해결됐다고 볼 수도 없다. 기능의 존재와 실제 효과는 다르다.

평가할 때는 최소한 세 가지를 나눠 봐야 한다. 첫째는 모델이 위험한 요청에 어떤 답을 하는지다. 둘째는 긴 대화에서 처음의 안전 원칙이 약해지는지다. 셋째는 실제 이용자가 경고를 이해하고 도움받을 사람에게 연결되는지다. 실험실에서 한 번 거절한 결과만으로 현실의 안전을 보장할 수 없고, 반대로 온라인에 공유된 한 건의 충격적인 대화만으로 전체 발생률을 알 수도 없다.

법원의 판단 역시 시간이 걸린다. 관할과 적용 법률, 표현의 의미, 피해와 제품 사이의 인과관계, 연방 규정과 주법의 관계를 다툴 수 있다. 합의로 끝날 가능성도 있다. 따라서 현재 단계에서 확실한 사실은 8개 주가 소송을 제기했고, 오픈AI가 혐의 취지에 반박하며 기존 보호 기능을 강조했다는 것까지다.

여러 주가 같은 날 움직였다고 해서 하나의 전국 판결이 즉시 나오는 것도 아니다. 각 주의 소비자보호법과 소장의 세부 요구가 다르므로 법원이 일부 주장을 받아들이고 다른 주장은 기각할 수 있다. 민사상 제재금, 광고 표현 수정, 데이터 삭제 같은 구제도 각각 별도로 판단될 수 있다. 이용자는 “승소 또는 패소”라는 한 단어보다 실제로 어떤 기능과 개인정보 처리 방식의 변경이 명령되는지 봐야 한다.

또 이번 사건은 부모의 감독 책임과 기업의 제품 책임 가운데 하나만 고르는 문제가 아니다. 가정에서 대화 범위와 위기 대응 원칙을 알려 주는 일은 필요하지만, 취약한 이용자가 예측 가능한 방식으로 위험에 빠질 수 있다면 회사 역시 기본 설정과 경고, 개입 절차를 설계해야 한다. 두 책임은 서로를 대신하지 않는다.

앞으로 볼 변화

가장 먼저 볼 것은 법원이 위법 여부를 판단하기 전이라도 오픈AI가 청소년 계정의 기본 설정과 위험 경고를 바꾸는지다. 부모 통제의 범위, 나이 확인, 장시간 대화 알림, 위기 상황에서 사람의 도움으로 연결하는 방식이 수정될 수 있다. 다른 AI 기업들도 같은 기준이 자신들에게 적용될 수 있다고 보고 유사한 기능과 광고 문구를 점검할 가능성이 크다.

두 번째는 소송에서 요구한 개인정보 삭제가 어디까지 받아들여지는지다. 미성년자의 대화를 회사가 어떤 근거로 보관했는지, 모델 개선에 사용했는지, 나중에 삭제할 수 있는지가 구체적으로 드러나면 미국 밖 서비스의 개인정보 정책에도 영향을 줄 수 있다.

마지막으로 기억할 점은 이번 사건이 “아이에게 AI를 전면 금지할 것인가”만을 묻는 소송이 아니라는 사실이다. 더 현실적인 질문은 사람처럼 대화하는 제품을 청소년에게 제공할 때 회사가 어떤 위험을 미리 설명하고, 기본값으로 어떤 보호를 켜며, 문제가 생겼을 때 어떤 책임을 져야 하느냐다. 8개 주의 주장은 이제 법정에서 검증된다. 이용자에게 필요한 태도는 판결을 미리 정하는 것이 아니라, 편리한 학습 도구와 고위험 상담 도구를 구분하고 현재 제공되는 보호 장치의 실제 작동 범위를 확인하는 것이다.