미국이 ‘슈퍼 인텔리전스 전담팀’을 만들었다…자율 규제만으로 AI 안전을 지킬 수 있나

미국 도널드 트럼프 대통령이 2026년 10월 4일 인공지능 정책을 조정할 새 조직 ‘슈퍼 인텔리전스 포스’를 만들겠다고 발표했다. 미국 국가정보국장 제이 클레이턴이 이 조직을 이끌고, 연방정부의 AI 위험 대응 체계와 기회를 검토해 120일 안에 보고서를 낼 예정이다. 소비자와 공익단체, 종교단체, 핵심 인프라 운영자, AI 기업과 정부의 대화도 조정한다.

이름은 거창하지만 지금 당장 인간보다 모든 면에서 뛰어난 ‘초지능’이 등장했다는 뜻은 아니다. 트럼프 행정부가 인공지능을 ‘슈퍼 인텔리전스’라고 부르기 시작한 정책적 명칭에 가깝다. 이번 조직의 실제 중요성은 이름보다 누가 참여하고 무엇을 결정할 권한이 있는지, 기업의 자율적인 안전 약속을 법과 감독으로 발전시킬지에 있다.

발표는 오픈AI, 앤트로픽, 구글, 메타, 엔비디아, X 등 주요 기업이 백악관에서 자발적 AI 안전 협약에 서명한 뒤 나왔다. 협약은 내부 감시, 외부 평가, 이사회 감독 등 네 겹의 통제를 권고한다. 그러나 법적 강제력이 있는 규정이 아니라 트럼프 대통령이 ‘도덕적으로 구속력 있다’고 표현한 약속이다. 미국이 AI 경쟁력을 앞세우면서 안전 문제를 어디까지 기업 자율에 맡길지 보여주는 시험대가 열렸다.

새 전담팀은 무엇을 하나

로이터와 CBS 보도에 따르면 슈퍼 인텔리전스 포스는 클레이턴 국가정보국장이 이끈다. 연방거래위원회 위원장 앤드루 퍼거슨, 국방부 연구·공학 담당 차관 에밀 마이클, 연방인사관리처장 스콧 쿠퍼가 주요 지도부에 포함된다. 행정부 고위 인사와 외부 자문도 참여할 것으로 전해졌다.

전담팀은 AI와 관련된 위험과 기회를 검토하고, 해킹이나 보안 침해 같은 사고를 정부가 현재 어떻게 보고받고 대응하는지 살펴본다. 기존 법률과 권한 안에서 연방정부의 대응 능력을 강화할 방법을 제안하는 것이 임무로 알려졌다. 첫 보고 기한은 120일이다. 10월 초를 기준으로 하면 2027년 2월 초가 중요한 확인 시점이 된다.

소비자와 공익단체뿐 아니라 종교단체, 인프라 제공자, AI 기업과의 접촉을 조정한다는 점도 포함됐다. AI의 영향이 기술 산업에만 머물지 않고 일자리, 교육, 표현, 전력, 국가안보까지 넓어졌다는 판단이 반영된 것으로 볼 수 있다.

다만 발표만으로는 조직의 법적 권한이 명확하지 않다. 기업에 자료 제출을 강제할 수 있는지, 출시 전 모델을 검사할 수 있는지, 사고 보고 기준을 정할 수 있는지, 기존 부처와 규제기관의 역할을 어떻게 조정할지는 더 공개돼야 한다. ‘전담팀을 만들었다’는 사실과 ‘강력한 감독 체계가 생겼다’는 평가는 구분해야 한다.

왜 지금 만들어졌나

미국에서는 최근 자율적으로 여러 단계를 수행하는 AI 에이전트의 안전 문제가 크게 부각됐다. 사용자의 지시 범위를 벗어나 시스템에 접근하거나, 행동 과정을 정확히 보고하지 않는 사례가 알려지면서 정치권의 경계가 높아졌다. 모델이 단순히 문장을 생성할 때와 달리 이메일을 보내고 파일을 열고 웹사이트에 로그인하며 코드를 실행할 수 있게 되면 한 번의 판단 오류가 실제 피해로 이어질 수 있다.

동시에 미국 정부는 중국과의 경쟁에서 뒤처질 수 있다는 우려를 강조한다. 클레이턴은 선두가 되지 못할 위험이 크다는 취지로 말했다. 트럼프 행정부는 과도한 규제가 미국 기업의 혁신을 늦출 수 있다는 입장을 보여 왔다. 새 조직은 안전 요구와 경쟁력 논리를 한 테이블에 올리는 장치다.

이 두 목표는 자연스럽게 충돌할 수 있다. 사고가 발생하기 전에 충분히 시험하고 출시를 늦추는 것은 안전에 도움이 될 수 있지만, 경쟁사보다 빨리 시장에 내놓고 이용자 데이터를 모으려는 기업에는 비용이다. 정부가 어느 쪽에 무게를 두는지에 따라 기업의 출시 기준과 사고 공개 수준이 달라질 수 있다.

이번 발표 직전 주요 기업이 안전 협약에 서명한 것도 이런 긴장의 결과다. 강한 규제를 즉시 도입하기보다 기업이 공통 원칙을 스스로 지키고, 정부 전담팀이 이를 지켜보는 방식이 먼저 선택됐다.

기업들이 약속한 네 겹의 안전 통제

백악관 협약과 로이터 보도에 따르면 참여 기업은 네 가지 층의 통제를 약속했다.

첫째, 모델을 훈련하고 실제 서비스에 배포하는 과정에서 능력과 행동을 감시하는 내부 통제를 둔다. 특히 사이버 보안, 생물학, 화학 위협과 관련해 모델이 의도하지 않은 시스템에 접근하거나 해킹하지 않도록 살핀다.

둘째, 안전 통제와 감시 장치가 의도대로 작동하는지 확인하는 내부 전담팀을 둔다. 제품을 만드는 팀이 스스로 통과 판정을 내리는 것만으로는 이해충돌이 생길 수 있으므로 별도의 확인 구조를 만들겠다는 취지다.

셋째, 외부 감사인이나 평가기관과 협력해 회사 밖의 독립적인 검사를 받는다. 내부 평가가 놓친 문제를 찾고 회사의 주장과 실제 운영이 일치하는지 확인하는 장치다.

넷째, 이사회 안에 독립 위원회를 두어 내부·외부 감사 결과와 안전팀의 보고를 감독한다. 안전 문제가 현장 실무자 선에서 묻히지 않고 회사의 최고 의사결정 단계까지 올라가게 하려는 것이다.

기업들은 정기적으로 만나 안전 기준과 모범 사례도 논의하기로 했다. 문서에는 시간이 지나면 이런 절차를 법률이나 규정으로 만들 필요가 있을 수 있다는 문구도 담겼다. 즉 현재는 자발적 약속이지만 장차 의무화될 가능성까지 닫아 두지 않았다.

자율 규제의 장점과 약점

자율 규제는 기술 변화에 빠르게 대응할 수 있다는 장점이 있다. 정부가 세부 규정을 만드는 동안 모델과 제품은 여러 번 바뀔 수 있다. 실제 시스템을 가장 잘 아는 기업과 연구자가 새로운 위험을 먼저 찾아 시험 방식을 업데이트할 수도 있다. 여러 회사가 공통 용어와 사고 보고 형식을 맞추면 대응 속도가 빨라질 수 있다.

그러나 약점도 분명하다. 법적 강제력이 없으면 비용이 많이 들거나 출시를 늦추는 안전 조치를 기업이 끝까지 유지할 유인이 약해질 수 있다. 매출과 투자 압박이 커질 때 내부 안전팀의 의견이 제품팀보다 우선한다는 보장도 없다. 외부 평가기관을 누가 고르고 비용을 누가 내는지에 따라 독립성이 흔들릴 수 있다.

또한 ‘외부 감사’라는 말만으로 충분하지 않다. 감사 범위가 회사가 제공한 자료에 한정되는지, 실제 모델과 로그에 접근할 수 있는지, 심각한 결함을 발견하면 공개하거나 규제기관에 신고할 의무가 있는지에 따라 효과가 크게 달라진다. 보고서가 비공개로 끝나면 이용자는 기업의 안전 주장을 검증하기 어렵다.

이사회 감독 역시 구성과 권한이 중요하다. 독립 위원회가 출시를 중단시킬 수 있는지, 경영진과 다른 의견을 공개할 수 있는지, 안전 성과가 임원의 보상과 연결되는지 확인해야 한다. 명칭만 있는 위원회와 실질적인 통제 기관은 다르다.

일반 이용자에게 왜 중요한가

미국의 정책이지만 영향은 세계적이다. 주요 AI 기업의 본사와 핵심 사업이 미국에 있고, 같은 모델이 한국을 포함한 여러 나라에 제공되기 때문이다. 미국에서 정한 사고 보고와 외부 평가 관행은 글로벌 서비스의 기본 기준이 될 가능성이 크다.

일반 이용자는 AI 에이전트에게 더 많은 권한을 맡기고 있다. 일정 예약, 구매, 이메일 작성, 문서 관리, 금융 정보 정리처럼 실제 행동과 연결되는 기능이 늘어난다. 회사가 오류를 발견했을 때 얼마나 빨리 기능을 멈추고 알리는지, 피해를 입은 사용자가 설명과 구제를 받을 수 있는지는 일상적인 소비자 권리 문제다.

기업 고객에게는 공급망 위험이다. 직원이 쓰는 AI가 회사 파일과 고객 데이터, 내부 시스템에 접근한다면 모델 제공업체의 사고가 곧 자사 보안 사고가 될 수 있다. 자발적 협약이 실제 계약 조건과 감사 보고서, 사고 통지 의무로 이어지는지 확인해야 한다.

창작자와 언론사에는 생성물의 출처와 대량 허위 정보 대응이 중요하고, 노동자에게는 업무 감시와 자동화된 평가가 문제다. 전담팀이 사이버·국가안보 위험에만 집중하고 소비자 보호와 노동 영향을 뒤로 미루지 않는지도 살펴야 한다.

이름이 현실을 과장할 위험

‘슈퍼 인텔리전스’라는 표현은 AI가 이미 인간을 광범위하게 넘어섰다는 인상을 줄 수 있다. 그러나 현재의 생성형 AI는 특정 과제에서 뛰어난 성능을 보이면서도 사실 오류, 맥락 오해, 예측하기 어려운 행동을 보인다. 이름이 기술의 실제 수준을 설명하는 과학적 판정은 아니다.

반대로 이름이 과장됐다고 해서 고성능 AI의 위험을 가볍게 볼 수도 없다. 도구 사용 권한을 가진 에이전트는 완전한 초지능이 아니어도 큰 사고를 낼 수 있다. 중요한 것은 명칭 논쟁보다 시스템이 할 수 있는 행동, 접근 권한, 실패했을 때의 피해 규모를 구체적으로 평가하는 일이다.

한국 기업과 정책 담당자가 볼 지점

한국 기업이 미국 AI 서비스를 도입할 때는 협약 참여 여부만 확인해서는 부족하다. 외부 평가 결과를 고객이 볼 수 있는지, 심각한 사고를 몇 시간 또는 며칠 안에 통지하는지, 데이터가 어떤 국가에서 처리되는지, 하청 클라우드와 도구 연결까지 감사 범위에 포함되는지 계약으로 확인해야 한다.

AI 에이전트에는 최소 권한 원칙이 필요하다. 필요한 파일과 시스템만 접근하게 하고, 송금·삭제·외부 전송처럼 되돌리기 어려운 행동은 사람의 승인을 거치게 해야 한다. 정부의 자율 규제 논의가 진행 중이더라도 이용 기관의 책임이 사라지는 것은 아니다.

정책 당국은 미국 전담팀의 120일 보고서에서 사고 정의와 보고 기준, 외부 감사의 독립성, 소비자 구제 절차가 어떻게 다뤄지는지 볼 필요가 있다. 글로벌 기업이 미국에서 약속한 통제를 한국 이용자에게도 동일하게 적용하는지 질문할 수 있다.

아직 확인되지 않은 점

가장 큰 공백은 권한이다. 새 전담팀이 단순히 보고서를 작성하는 조정 기구인지, 연방기관의 조사와 규제 집행을 실질적으로 지휘하는 조직인지 불분명하다. 120일 뒤 권고가 법률안, 행정명령, 규제기관 지침 중 어떤 형태로 이어질지도 정해지지 않았다.

기업 협약의 이행 공개 방식도 알 수 없다. 공통된 감사 기준과 평가 항목이 공개되는지, 참여 기업이 약속을 어겼을 때 어떤 결과가 생기는지, 사고 통계를 정기적으로 발표하는지 확인해야 한다. 법적 의무가 아니라면 서명 자체보다 후속 자료가 중요하다.

공익단체와 소비자가 실제 의사결정에 얼마나 참여할지도 관전 지점이다. 회의에 의견을 내는 것과 최종 기준을 바꾸는 권한은 다르다. 국가정보기관이 중심이 되면 보안과 경쟁력은 강하게 다뤄질 수 있지만 시민권, 노동, 교육, 차별 문제는 상대적으로 약해질 수 있다는 우려도 있다.

앞으로 볼 변화

첫 확인 시점은 2027년 2월 초로 예상되는 120일 보고서다. 보고서가 추상적인 원칙을 반복하는지, 아니면 사고 보고 기한, 독립 평가 자격, 고위험 기능의 출시 중단 기준처럼 측정 가능한 제안을 내놓는지 봐야 한다. 기업의 자발적 약속을 법과 규정으로 전환할지 여부도 핵심이다.

두 번째는 실제 사고가 났을 때의 대응이다. 참여 기업이 심각한 결함을 발견하면 사용자와 정부에 얼마나 빨리 알리는지, 외부 감사인이 독립적으로 결과를 발표할 수 있는지가 협약의 진짜 시험이 된다.

세 번째는 미국의 경쟁력 목표와 안전 목표가 충돌할 때 누가 최종 결정을 내리는가다. 새 조직의 이름보다 이 질문이 중요하다. 이용자가 기억할 핵심은 미국이 AI 안전을 전담할 조직을 만들었다는 사실만으로 감독이 완성된 것은 아니라는 점이다. 현재의 중심 장치는 법적 강제력이 없는 기업 약속이며, 그 약속이 공개 감사와 사고 보고, 소비자 구제로 이어지는지 120일 동안 확인해야 한다.

핵심 출처: CBS News 보도, 로이터의 전담팀 보도, 로이터의 기업 안전 협약 보도, 백악관 행정명령