미 법원, 국방부의 앤트로픽 제재에 제동…‘AI를 전쟁에 어디까지 쓸까’가 쟁점
미국 연방법원이 8월 27일 밤(현지시간) 인공지능 기업 앤트로픽을 ‘공급망 위험’으로 지정하고 연방기관에서 클로드 사용을 중단시키려 한 미 국방부의 조치가 위법하다고 판단했다. 이번 판결은 단순한 정부 조달 분쟁이 아니다. 군이 강력한 AI를 법이 허용하는 모든 목적에 쓸 수 있어야 한다는 주장과, 대규모 국내 감시나 사람의 최종 통제 없는 무기에 최신 AI를 쓰면 안 된다는 회사의 안전 기준이 정면으로 부딪힌 사건이다.
AP통신에 따르면 샌프란시스코 연방법원의 리타 린 판사는 59쪽 결정문에서 국방부의 조치가 앤트로픽이 정부의 AI 사용 방침을 비판한 데 대한 처벌이었다고 봤다. 판사는 정부가 앤트로픽이 실제로 모델을 방해하거나 훼손할 것이라는 구체적인 근거를 제시하지 못했으며, 회사를 본보기로 삼으려 했다고 지적했다. 다만 정부가 판결에 불복할 가능성이 있고, 워싱턴DC 연방항소법원에는 다른 법적 근거를 둘러싼 별도 사건도 남아 있다. 따라서 이 판결로 군사용 AI 논쟁이 끝났다고 보기는 이르다.
무엇을 두고 국방부와 앤트로픽이 충돌했나
갈등의 핵심은 클로드를 군이 사용할 때 적용할 제한이었다. 앤트로픽은 군과의 협력 자체를 거부하지 않았다. 회사가 끝까지 지키겠다고 한 제한은 크게 두 가지였다.
- 미국인을 대상으로 한 대규모 감시에 클로드를 사용하지 않는 것
- 사람이 실질적으로 개입하지 않는 완전 자율무기에 클로드를 사용하지 않는 것
국방부는 군의 지휘와 작전 판단은 민간 기업이 아니라 정부가 내려야 하며, 군은 ‘모든 합법적인 목적’에 구매한 기술을 쓸 수 있어야 한다고 맞섰다. 국방부 대변인과 고위 관계자들은 미국인에 대한 불법 감시를 원하지 않고 인간이 전혀 개입하지 않는 무기를 만들려는 것도 아니라고 설명했다. 하지만 앤트로픽은 계약 문구만으로는 미래의 사용 범위를 충분히 제한할 수 없다고 봤다. 법적으로 허용된다는 이유만으로 현재 AI가 안전하고 신뢰할 만하다는 뜻은 아니라는 입장이다.
이 차이는 말장난이 아니다. 예를 들어 미사일 방어처럼 대응 시간이 매우 짧은 상황에서는 AI가 표적을 찾아내고 방어 수단을 선택하는 속도가 사람보다 빠를 수 있다. 반대로 모델이 목표를 잘못 분류하거나 상황을 꾸며내면, 일반 챗봇의 오답과 달리 되돌릴 수 없는 피해가 생긴다. 대규모 감시도 마찬가지다. 공개 자료를 모아 분석하는 행위가 합법일 수는 있지만, AI가 수많은 사람의 관계·행동·성향을 자동으로 추론하면 기존 검색과는 다른 규모의 사생활 침해가 가능해진다.
왜 ‘공급망 위험’ 지정이 큰 제재였나
공급망 위험이라는 말은 보통 외국 정부의 통제를 받는 장비나 소프트웨어가 시스템을 몰래 훼손하거나 정보를 빼낼 가능성을 가리킨다. 그런데 국방부는 미국 기업인 앤트로픽과의 계약·정책 갈등에 이 수단을 사용했다. 지정이 유지되면 국방부만 클로드를 쓰지 않는 데서 끝나지 않을 수 있었다. 군과 계약한 다른 기업들도 자사 사업에 앤트로픽 제품을 계속 써도 되는지 검토해야 했고, 실제로 일부 방산업체는 관계를 정리하려는 움직임을 보였다.
AP 보도에 따르면 국방부는 2월 앤트로픽을 공급망 위험으로 지정하면서 군 체계에 깊이 들어간 클로드를 6개월 안에 단계적으로 빼도록 했다. 트럼프 대통령은 다른 연방기관에도 앤트로픽 기술 사용을 중단하라고 지시했다. 마이크로소프트는 법률 검토 뒤 비국방 사업에서는 앤트로픽과 계속 일할 수 있다고 밝혔지만, 적용 범위가 불명확하다는 것 자체가 기업 고객에게 위험이었다.
린 판사는 바로 이 지점을 문제 삼았다. 정부가 인용한 법률은 적대 세력이 제품을 방해하거나 악성 기능을 심는 위험에 대응하기 위한 것인데, 앤트로픽이 정부 정책을 공개적으로 비판했다는 이유로 광범위한 불이익을 주는 데 쓸 수는 없다는 판단이다. 7월 30일 심리에서도 판사는 정부의 논리가 표현의 자유를 보장한 수정헌법 1조와 충돌해 보인다고 말한 바 있다.
이번 판결로 당장 달라지는 점
첫째, 앤트로픽은 미국 정부·방산 시장에서 사실상 퇴출될 수 있었던 가장 큰 법적 위험을 일단 낮췄다. 법원은 앞서 임시로 공급망 위험 지정과 연방기관의 클로드 사용 중단 명령 집행을 막았고, 이번에는 본안 판단에서 국방부 조치의 근거와 동기를 더 강하게 비판했다. 앤트로픽은 판결을 환영하며 국가안보를 위해 정부와 생산적으로 협력하겠다는 입장을 냈다.
둘째, 일반 클로드 이용자가 갑자기 서비스를 못 쓰게 되는 문제는 아니었다는 점도 분명히 할 필요가 있다. 분쟁의 직접 대상은 미국 정부와 국방 계약이었다. 그러나 정부 조달에서 배제되면 클라우드 사업자, 방산업체, 공공기관이 어떤 AI를 채택할지에 연쇄 영향을 줄 수 있다. 최신 AI 모델은 여러 클라우드와 업무도구에 연결되어 있기 때문에, 한 회사를 ‘위험’으로 지정하는 결정은 일반 기업 시장의 신뢰도와 계약에도 영향을 준다.
셋째, AI 회사가 제품의 사용 제한을 어디까지 고집할 수 있는지를 둘러싼 기준이 생겼다. 이번 판결은 민간 기업이 군 작전을 최종 통제할 수 있다고 선언한 것이 아니다. 정부가 특정 회사의 정책 비판을 이유로 공급망 보안 제도를 보복 수단처럼 사용할 수 없다고 본 것이다. 군이 앤트로픽과 계약하지 않을 자유와, 정부가 회사를 광범위하게 제재할 권한은 같은 문제가 아니라는 구분이다.
오픈AI와 구글에도 남는 질문
앤트로픽의 경쟁사인 오픈AI, 구글, xAI도 미 국방부와 협력하고 있다. AP에 따르면 오픈AI는 앤트로픽 제재 발표 직후 기밀 군사 환경에 챗GPT를 공급하는 계약을 발표했고, 국내 감시와 완전 자율무기에 관한 보호장치를 계약에 넣으려 했다. 이후 샘 올트먼은 발표가 성급해 기회주의적으로 보였다고 인정하며 계약 설명을 수정했다.
이 대목은 기업마다 ‘군사용 AI를 한다, 안 한다’로 단순하게 나눌 수 없다는 점을 보여준다. 실제 쟁점은 어떤 작업을 허용하는지, 사람이 언제 승인해야 하는지, 문제가 발생했을 때 누가 기록을 보고 중단시킬 수 있는지다. 같은 모델도 문서 요약, 위성사진 분류, 물류 계획, 표적 판단에 쓰일 때 위험의 크기가 전혀 다르다.
일반 독자에게도 이 구분은 중요하다. 직장에서 AI 도구를 도입할 때도 “법에 어긋나지 않는다”는 답만으로 충분하지 않다. 채용, 대출, 의료, 직원 감시처럼 오판의 피해가 큰 영역에는 회사의 추가 제한과 사람의 검토가 필요하다. 이번 사건은 가장 극단적인 군사 사례를 통해 합법성과 안전성이 같은 말이 아니라는 점을 드러냈다.
정부와 AI 기업의 계약은 어떻게 달라져야 하나
이번 사건은 정부가 최신 AI를 구매할 때 일반 소프트웨어 계약만으로는 부족하다는 점도 보여준다. 모델은 한 번 납품하고 끝나는 제품이 아니라 계속 업데이트되고, 새로운 자료와 외부 도구에 연결된다. 계약 시점에 허용한 기능이 몇 달 뒤 훨씬 강력해질 수 있다. 따라서 사용 목적을 넓게 적어 두는 것보다 고위험 기능을 별도로 분류하고, 기능이 바뀔 때 재검토하는 절차가 필요하다.
기업의 일방적인 이용정책에만 기대는 것도 충분하지 않다. 정부는 국민을 대신해 감시와 무력 사용의 기준을 정해야 하고, 의회와 법원은 그 권한을 통제해야 한다. 반대로 정부가 ‘합법적 사용’이라는 넓은 문구만 요구하면 실제 현장에서 누가 최종 결정을 내리는지 알기 어렵다. 현실적인 계약에는 사람의 승인 단계, 사용 기록 보존, 독립 감사, 오류 보고, 긴급 중단, 모델 업데이트 뒤 재검증 같은 조건이 들어가야 한다.
여러 회사의 모델을 함께 쓰는 전략도 해답의 일부일 수 있다. 한 업체와의 갈등이나 서비스 장애가 전체 작전을 멈추지 않게 할 수 있기 때문이다. 다만 공급자를 바꾸는 것만으로 안전 문제가 해결되지는 않는다. 회사마다 금지 기준과 기록 방식이 다르면 오히려 책임 소재가 흐려질 수 있다. 정부는 공급자와 관계없이 적용되는 공통 최소 기준을 먼저 공개해야 한다.
판결을 과장해서 읽으면 안 되는 이유
이번 판결이 완전 자율무기를 금지한 것은 아니다. 법원이 앤트로픽의 기술적 주장, 즉 현재 AI가 무기 통제에 충분히 신뢰할 수 없다는 평가를 최종 확정한 것도 아니다. 판단의 중심은 행정부가 공급망 위험 제도를 사용할 법적 근거가 있었는지, 그리고 회사의 비판에 보복했는지였다.
또한 앤트로픽의 정책이 실제 군사 상황에서 항상 명확하게 적용되는지도 검증이 필요하다. 요격 미사일이 날아오는 상황처럼 사람이 짧은 시간 안에 결정을 내려야 할 때 ‘의미 있는 인간 통제’가 정확히 무엇인지 합의된 답이 없다. 사람이 버튼만 누르면 되는지, AI의 근거를 이해하고 거부할 시간이 있어야 하는지에 따라 안전 기준은 크게 달라진다.
국방부 역시 AI 모델이 매우 크고 내부 작동을 완전히 파악하기 어렵기 때문에 일반 하드웨어처럼 공급망 위험을 평가하기 어렵다고 주장했다. 이 문제 제기 자체는 가볍지 않다. 모델이 업데이트되고 외부 도구와 연결되면 정부가 구매 시점에 검사한 것과 실제 운영 상태가 달라질 수 있다. 다만 법원은 그런 일반적 불확실성이 특정 회사를 보복성으로 제재할 근거가 되지는 않는다고 본 셈이다.
앞으로 볼 변화
가장 먼저 확인할 것은 미국 정부의 항소 여부와 별도 항소심 결과다. 국방부가 판결을 받아들이더라도 앤트로픽과 새 계약 문구에 합의할지는 별개의 문제다. 정부는 회사를 제재하지 않고도 다른 공급자를 선택할 수 있고, 앤트로픽은 안전 제한을 유지한 채 국방부와 협력 범위를 다시 정할 수 있다.
두 번째는 군사용 AI 계약이 더 구체적으로 공개되는지다. ‘모든 합법적 사용’이나 ‘사람이 관여한다’는 표현만으로는 실제 통제 수준을 알기 어렵다. 어떤 기능에 사람 승인이 필요한지, 사용 기록을 누가 감사하는지, 모델 오작동 때 자동 중단 장치가 있는지가 핵심이다.
이번 판결에서 기억할 사실은 분명하다. 법원은 정부가 AI 회사의 비판을 이유로 공급망 보안 제도를 동원할 수 없다고 판단했다. 그러나 전쟁과 감시에 AI를 어디까지 맡길지에 대한 답은 아직 나오지 않았다. 이제 논쟁은 회사의 선언보다 계약 문구와 실제 통제 장치가 얼마나 구체적인지로 옮겨가야 한다.