미국·러시아가 AI 자율무기 협상에 제동…‘사람 없는 공격’을 막을 규칙은 왜 늦어지나
미국과 러시아가 사람의 직접 통제 없이 표적을 찾아 공격할 수 있는 자율무기를 제한하기 위한 국제 협상 개시에 반대할 전망이라고 로이터가 2026년 11월 16일 보도했다. 각국 대표들은 이번 주 유엔에서 법적 구속력이 있는 규칙을 만들기 위한 공식 협상을 시작할지 논의한다. 두 군사 강국이 반대하면 협상 자체가 늦어지거나 훨씬 약한 정치적 선언에 머물 가능성이 커진다.
이 뉴스에서 먼저 구분할 점이 있다. 자율무기는 모든 드론이나 모든 AI 무기를 뜻하지 않는다. 사람이 화면을 보며 표적을 선택하고 발사 명령을 내리는 원격조종 드론과, 센서와 알고리즘이 표적을 식별해 공격 과정의 핵심 결정을 스스로 내리는 시스템은 다르다. 국제 논쟁의 중심은 기계가 생사를 가르는 판단을 어느 범위까지 맡을 수 있는지, 사람이 언제 개입하고 중단할 수 있어야 하는지다.
일반 독자가 궁금해할 질문은 분명하다. AI가 스스로 공격하는 무기는 이미 금지돼 있는가, 그리고 미국과 러시아의 반대로 이제 아무 규칙도 만들 수 없는가? 현재 별도의 포괄적 국제조약이 완성된 것은 아니다. 기존 국제인도법은 전쟁 중 민간인 보호와 비례성, 구별 원칙을 요구하지만, AI가 표적을 고르는 상황에 맞춘 구체적인 금지선과 인간 통제 기준은 합의되지 않았다. 미국과 러시아의 반대가 곧 모든 국가의 논의를 끝낸다는 뜻은 아니지만, 주요 군사국이 참여하는 실효성 있는 규칙을 만들기 어렵게 하는 큰 장애물이다.
로이터 보도는 이번 쟁점을 ‘무기를 당장 전면 금지하느냐’보다 제한 규칙을 협상할 공식 절차를 시작할 수 있느냐의 문제로 전했다. 따라서 보도 시점에 새로운 조약이 부결됐다고 단정하면 안 된다. 논의 결과와 각국의 최종 표결, 합의 문구는 회의가 끝난 뒤 확인해야 한다.
자율무기는 정확히 무엇인가
자율무기 체계에는 하나의 세계 공통 제품 목록이 있는 것이 아니다. 일반적으로는 활성화된 뒤 센서로 주변을 탐지하고, 미리 정한 기준에 따라 표적을 선택하며, 사람의 추가 명령 없이 무력을 사용하는 기능이 논쟁의 대상이 된다. 이 정의 안에서도 자동화 수준은 크게 다르다. 날아오는 미사일을 짧은 시간 안에 요격하는 방어체계와, 복잡한 도시에서 사람을 찾아 공격하는 이동식 무기를 같은 방식으로 다루기 어렵다.
핵심은 속도가 아니라 판단의 성격이다. 사람이 “이 좌표의 이 차량을 공격하라”고 구체적으로 결정한 뒤 자동 항법이 경로를 조정하는 것과, 무기가 넓은 구역에서 ‘적군처럼 보이는 사람’을 스스로 골라 공격하는 것은 책임과 위험이 다르다. 후자의 경우 누가 표적 선택을 승인했는지, 오인했을 때 누가 책임지는지, 민간인과 전투원을 구별할 수 있는지가 불분명해진다.
AI라는 말도 넓게 쓰인다. 모든 자율무기가 오늘날의 생성형 AI를 사용하는 것은 아니고, 챗GPT 같은 언어모델이 미사일을 직접 조종한다는 뜻도 아니다. 영상에서 물체를 분류하는 모델, 센서 정보를 합치는 알고리즘, 경로를 계획하는 소프트웨어가 결합될 수 있다. 대중이 익숙한 챗봇의 오답과 군사용 표적 식별의 오류는 기술적으로 같지 않지만, 확률적 판단이 현실의 피해로 이어질 수 있다는 점에서 검증과 통제가 중요하다.
왜 기존 전쟁법만으로 충분하지 않다는 주장이 나오나
국제인도법은 전쟁에서도 민간인과 군사 목표를 구별하고, 예상되는 민간 피해가 군사적 이익에 비해 과도하지 않도록 하며, 불필요한 고통을 주는 수단을 제한한다. 무기를 쓰는 국가는 새 기술에도 이 원칙을 적용해야 한다. 자율무기 규제가 필요 없다고 보는 쪽은 이미 존재하는 법이 행동을 규율하며 특정 기술만을 위한 새 조약이 혁신과 방어 능력을 지나치게 막을 수 있다고 주장한다.
반대쪽은 기존 원칙만으로는 기계의 표적 판단을 누가, 어떻게 검증해야 하는지 답하기 어렵다고 지적한다. 사람이 공격 결정을 이해하고 거부할 충분한 시간과 정보가 있어야 하는지, 무기가 작동할 장소와 시간, 표적 종류를 얼마나 좁게 제한해야 하는지, 예측하지 못한 행동이 나타나면 자동으로 멈춰야 하는지 같은 세부 기준이 필요하다는 것이다.
법적 책임도 문제다. 잘못된 공격이 일어났을 때 현장 지휘관, 무기 운영자, 소프트웨어 개발자, 제조사, 국가 가운데 누구의 판단 실패였는지 따져야 한다. 알고리즘이 예상 밖의 조건에서 오인했다고 해서 책임이 사라질 수는 없다. 하지만 운영자가 모델의 내부 판단을 이해할 수 없고 공격 전에 개입할 수도 없었다면 기존 지휘 책임을 적용하는 과정이 복잡해진다. 명시적인 인간 통제 규칙이 필요하다는 주장이 나오는 이유다.
미국과 러시아는 왜 협상에 신중한가
두 나라의 구체적인 최종 입장과 회의 발언은 협상 결과에서 확인해야 한다. 다만 자율무기 규제를 둘러싼 군사 강국들의 일반적인 우려는 알려져 있다. 첫째, 자율 기능은 빠르게 접근하는 미사일이나 드론을 사람이 일일이 판단하기 어려운 상황에서 방어 속도를 높일 수 있다. 둘째, 너무 넓은 정의로 규제하면 이미 운용 중인 자동 방어체계와 앞으로 개발할 기술까지 제한될 수 있다. 셋째, 상대국이 비밀리에 개발하는지 검증하기 어렵다는 문제가 있다.
군사적 경쟁도 크다. 한 나라가 강한 제한을 받아들이는 동안 경쟁국이 더 빠른 자율체계를 개발하면 안보상 불리해질 수 있다는 두려움이 생긴다. 미국과 러시아뿐 아니라 여러 국가가 AI를 정보 분석, 감시, 드론 운영, 표적 지원에 확대하고 있다. 이 상황에서는 각국이 윤리적 위험을 인정하면서도 먼저 능력을 포기하는 결정을 꺼릴 수 있다.
그러나 경쟁 논리가 규칙 부재를 정당화하는 것은 아니다. 핵무기와 화학무기, 지뢰 같은 무기에서도 국가들은 군사적 이익과 인도적 피해 사이에서 제한과 검증 방식을 만들어 왔다. 자율무기는 소프트웨어 업데이트로 기능이 바뀌고 민간 기술과 군사 기술의 경계가 흐려 검증이 더 어렵지만, 그렇기 때문에 최소한의 금지선과 투명성 규칙을 먼저 합의해야 한다는 반론도 강하다.
‘의미 있는 인간 통제’는 무엇을 뜻하나
협상에서 자주 등장하는 표현이 ‘의미 있는 인간 통제’다. 단순히 사람이 어딘가에 앉아 있거나 전원을 켰다는 뜻으로는 부족하다. 사람이 공격 대상과 주변 상황을 이해하고, 무기가 어떤 조건에서 행동할지 예측하며, 결정에 이의를 제기하고 중단할 실제 기회를 가져야 통제라고 볼 수 있다.
예를 들어 운영자가 수백 대의 무기를 동시에 맡아 몇 초 안에 승인 버튼만 누른다면 형식상 사람이 과정에 있어도 실질적으로는 알고리즘 결정을 그대로 따르는 셈이 될 수 있다. 반대로 사람이 특정 군사 차량 한 대를 확인하고 제한된 구역과 짧은 시간 동안만 추적하도록 명령하며 언제든 중지할 수 있다면 통제 수준이 더 높다. 따라서 ‘사람이 개입한다’는 문구만으로는 충분하지 않고 정보, 시간, 권한, 책임을 함께 정해야 한다.
통제는 공격 직전만의 문제가 아니다. 개발 단계에서 어떤 데이터로 학습했는지, 시험이 다양한 날씨와 환경에서 이뤄졌는지, 특정 인종이나 복장, 민간 물체를 잘못 분류하는지 검증해야 한다. 배치 전에는 작동 구역과 표적 종류를 제한하고, 운용 중에는 기록을 남기며, 사고 뒤에는 판단 경로를 조사할 수 있어야 한다. 인간 통제는 버튼 하나보다 전체 생애주기의 책임 구조에 가깝다.
빠른 무기가 항상 더 안전한 것은 아니다
자율무기의 지지자들은 기계가 공포나 분노에 흔들리지 않고, 센서를 통해 사람보다 빠르게 위험을 찾아 민간 피해를 줄일 수 있다고 주장할 수 있다. 정확한 방어체계가 미사일을 더 빨리 요격하거나, 무인 시스템이 위험한 지역에서 군인을 대신하면 생명을 구할 가능성도 있다. 모든 자동화가 곧 비인도적이라는 단순한 결론은 맞지 않는다.
하지만 속도는 새로운 위험을 만든다. 여러 무기가 서로의 행동에 반응하며 짧은 시간 안에 공격을 확대하면 사람이 상황을 이해하기 전에 충돌이 커질 수 있다. 센서가 민간 차량을 군사 목표로 잘못 분류하거나 통신 방해로 잘못된 정보를 받아도 자동 과정이 빠르게 이어질 수 있다. 사이버 공격자가 데이터를 속이거나 시스템을 탈취했을 때 피해 규모도 커질 수 있다.
특히 전쟁터는 AI가 시험받는 정돈된 실험실이 아니다. 연기와 먼지, 파손된 건물, 민간인과 군인의 혼재, 위장, 통신 두절이 일상적이다. 평시 시험에서 높은 정확도를 보인 모델도 낯선 환경에서 성능이 떨어질 수 있다. 평균 정확도보다 가장 위험한 실패 상황을 확인해야 하는 이유다.
민간인에게 어떤 영향이 있나
이 논쟁은 먼 미래의 공상과학 이야기가 아니다. 이미 드론과 센서, 자동 표적 추천 시스템이 전쟁에서 널리 사용되고 있고, 사람이 공격 결정을 내리는 시간은 짧아지고 있다. 규칙이 늦어질수록 군대와 기업은 서로 다른 기준으로 시스템을 개발하고 배치하게 된다. 나중에 조약을 만들 때 이미 막대한 비용을 들인 무기를 바꾸기 어려워질 수 있다.
민간인에게 가장 큰 위험은 오인과 책임의 공백이다. 무기가 사람의 행동이나 외형, 차량의 모양을 근거로 적을 추정하면 일상 행동이 위험 신호로 잘못 해석될 수 있다. 공격 뒤 국가가 “알고리즘 오류였다”고 설명하고 개발사가 “운영 방식의 문제였다”고 반박하면 피해자가 책임자를 찾기 어려워진다. 기록 보존과 조사 의무, 피해 구제 절차가 규칙에 포함돼야 한다.
자율무기의 확산 비용도 상대적으로 낮을 수 있다. 소프트웨어와 상용 부품을 이용한 무인 시스템이 널리 퍼지면 강대국뿐 아니라 소규모 국가와 비국가 무장단체도 접근할 수 있다. 대량의 저가 드론이 결합하면 방어체계를 압도하거나 도시의 민간 기반시설을 위협할 수 있다. 국제 규칙은 최첨단 무기 몇 종만이 아니라 확산과 이전, 민간 부품의 전용까지 고려해야 한다.
조약 협상이 어려운 세 가지 이유
첫째는 정의다. 자율성은 켜짐과 꺼짐으로 나뉘지 않고 항법, 감시, 표적 추천, 표적 선택, 발사 등 단계마다 다르게 나타난다. 어느 단계부터 규제 대상인지 국가마다 생각이 다르다. 제품 이름을 목록으로 정하면 소프트웨어 업데이트로 쉽게 낡은 기준이 될 수 있고, 너무 추상적으로 정하면 적용 범위를 둘러싼 분쟁이 생긴다.
둘째는 검증이다. 핵탄두나 미사일 발사대처럼 외형을 확인하기 쉬운 무기와 달리 자율 기능은 코드와 데이터에 들어 있다. 같은 기체도 소프트웨어 설정에 따라 사람이 표적을 고르는 무기에서 자동 선택 무기로 바뀔 수 있다. 군사 기밀을 보호하면서도 금지된 기능이 없는지 확인할 방법을 찾아야 한다.
셋째는 의사결정 방식이다. 기존 유엔 군축 논의의 일부는 참가국 합의를 중시해 한두 강대국의 반대가 절차를 늦출 수 있다. 그래서 일부 국가는 같은 틀 안에서 계속 합의를 시도해야 실효성 있는 보편 규칙이 된다고 보고, 다른 국가는 뜻이 맞는 나라끼리 별도 조약을 먼저 만들자고 주장한다. 지뢰와 집속탄 제한에서도 주요 군사국이 참여하지 않은 별도 협약이 만들어진 전례가 있다.
협상이 막히면 규칙이 완전히 사라지나
아니다. 공식 협상이 지연돼도 국가는 자국 군대의 무기 검토 절차를 강화하고, 인간 통제 원칙을 국내 규정에 넣을 수 있다. 기업과 연구기관은 사람을 직접 표적으로 삼는 자율 기능을 개발하지 않겠다는 기준을 만들고, 군사용 계약의 사용 범위를 공개할 수 있다. 국제기구와 시민사회는 사고와 운용 사례를 기록해 공통 기준을 발전시킬 수 있다.
뜻이 맞는 국가들이 별도 정치 선언이나 조약을 추진할 가능성도 있다. 이런 규칙은 미국과 러시아가 참여하지 않으면 군사적 영향력이 제한될 수 있지만, 무기 수출과 동맹의 조달 기준, 기업의 설계 원칙에 영향을 줄 수 있다. 국제 규범은 모든 국가가 동시에 동의하지 않아도 시작될 수 있다. 다만 주요 개발국이 빠진 규칙은 검증과 확산 방지에서 큰 빈틈이 남는다.
기존 국제인도법도 계속 적용된다. 자율 기능을 사용했다는 이유로 민간인 보호 의무가 사라지는 것은 아니다. 국가는 새 무기를 배치하기 전에 법적 검토를 하고, 구별과 비례성 원칙을 지킬 수 있는지 판단해야 한다. 문제는 각국의 검토 기준과 결과가 얼마나 투명한지, 실패했을 때 누가 책임지는지다. 새 조약 논의는 기존 법을 대체하기보다 그 빈틈을 구체화하려는 시도다.
과장해서는 안 되는 부분
이번 보도를 “미국과 러시아가 살인 로봇을 자유롭게 풀어 놓기로 했다”고 표현하면 사실보다 앞선다. 보도의 핵심은 공식 협상을 시작하는 절차에 두 나라가 반대할 전망이라는 것이다. 각국이 현재 어떤 시스템을 어디에 배치했는지와 이번 외교적 입장은 별도로 확인해야 한다. 모든 자동 방어체계를 금지하자는 합의가 이미 존재했다가 폐기된 것도 아니다.
반대로 “아직 완전자율 로봇 병사가 없으니 규칙을 서두를 필요가 없다”는 주장도 위험하다. 표적 추천과 자동 추적, 드론 군집, 센서 융합처럼 공격 결정의 일부를 기계에 넘기는 기술은 빠르게 발전하고 있다. 규칙은 완성된 제품이 널리 배치된 뒤보다 설계와 조달이 굳어지기 전에 만드는 편이 현실적이다.
언론과 기업이 사용하는 ‘AI 무기’라는 표현도 세부 기능을 가릴 수 있다. 독자는 해당 시스템이 단순히 길을 찾는지, 사람에게 후보 표적을 보여 주는지, 사람 승인 없이 발사하는지를 구분해서 봐야 한다. ‘AI가 들어갔다’는 사실만으로 위험 수준을 판단할 수 없다.
앞으로 볼 변화
첫 번째 확인점은 이번 유엔 회의의 실제 결정 문구다. 공식 협상을 시작하기로 했는지, 법적 구속력 있는 조약을 목표로 하는지, 단순한 연구와 비구속 원칙에 머무는지 구분해야 한다. 미국과 러시아가 공동으로 반대했는지, 각각 어떤 대안을 제시했는지도 중요하다. 헤드라인만으로 최종 결과를 확정해서는 안 된다.
두 번째는 인간 통제의 구체성이다. ‘적절한 통제’처럼 넓은 표현만 남는지, 사람을 표적으로 삼는 시스템과 예측할 수 없는 시스템을 명시적으로 금지하는지, 작동 시간·공간·표적 범위를 제한하는 의무가 들어가는지 봐야 한다. 기록과 사고 조사, 무기 법률 검토를 공개할 의무도 실효성을 좌우한다.
세 번째는 주요 군사국이 빠진 별도 협상이 생기는지다. 협상 개시가 막히면 규제를 원하는 국가와 국제기구가 다른 틀을 선택할 수 있다. 그 경우 한국을 포함한 동맹국들은 미국과의 군사 협력, 국내 방위산업, 민간 AI 기업의 책임 사이에서 입장을 정해야 한다.
이번 뉴스가 중요한 이유는 AI의 위험이 챗봇의 잘못된 답이나 일자리 변화에만 머물지 않기 때문이다. 기계가 현실에서 사람을 식별하고 무력을 쓰는 단계에서는 오류 한 번을 수정 버튼으로 되돌릴 수 없다. 미국과 러시아의 반대는 국제 규칙을 만들기 어려운 현실을 보여 주지만, 동시에 어떤 기능을 절대 기계에 맡기지 않을지 지금 정해야 한다는 질문을 더 선명하게 만들었다. 독자가 기억할 핵심은 ‘모든 드론 금지’ 논쟁이 아니라, 생사를 결정하는 과정에서 사람이 충분한 정보와 시간, 중단 권한, 법적 책임을 가져야 하는가라는 문제다.