클로드가 차세대 AI 연구의 26%를 주도한다는 앤트로픽…‘스스로 발전하는 AI’는 아직 아니다

앤트로픽이 9월 17일 자사 AI 모델 클로드가 회사 내부 AI 연구개발 업무의 26%에서 사람의 세부 지시 없이 큰 작업을 처음부터 끝까지 이끄는 수준에 도달했다고 밝혔다. AI가 상당 부분 협업하는 업무까지 넓히면 비율이 90%를 넘는다. 클로드를 만드는 회사에서 클로드가 다음 세대 AI를 만드는 일에 깊숙이 들어왔다는 뜻이어서 ‘AI가 스스로 후계자를 만든다’는 관심을 받고 있다.

그러나 26%라는 숫자를 ‘클로드가 사람 없이 차세대 모델의 4분의 1을 완성했다’고 읽으면 과장이다. 앤트로픽은 측정한 연구개발 업무 가운데 AI가 완전히 자율적으로 수행한 영역은 없다고 명시했다. 26%는 높은 수준의 요청을 받은 뒤 대부분의 과정을 AI가 처리하고, 사람이 감독하고 최종 결정을 내리는 ‘AI 주도’ 단계로 회사가 분류한 비중이다. 어떤 모델을 만들지, 출시할지, 실제 시스템에 반영할지는 여전히 사람이 결정한다.

이번 발표의 진짜 뉴스는 화려한 새 챗봇 기능이 아니라 AI 회사 안에서 개발 속도와 감시 수준을 수치로 공개하려 했다는 데 있다. 앤트로픽은 AI가 다음 AI 개발을 얼마나 맡는지, 내부 AI 에이전트의 행동을 얼마나 감시하는지, 연구용 연산 자원 가운데 안전 분야에 얼마를 쓰는지 등 세 가지 측정법과 자사 수치를 제시했다. 회사 주장에 의존한 첫 측정이라는 한계가 있지만, ‘AI가 빨라지고 있다’는 추상적인 말을 외부가 비교할 수 있는 질문으로 바꿨다는 의미가 있다.

26%는 정확히 무엇을 뜻하나

앤트로픽은 회사에서 이뤄지는 AI 연구개발 업무를 세부 작업으로 나누고 자동화 수준을 여섯 단계로 평가했다. 기준은 AI 연구기관 에포크AI가 제안한 분류를 활용했다. AI를 전혀 쓰지 않는 단계부터 보조, 협업, 주도, 완전 자율 단계까지 이어진다.

‘협업’ 단계에서는 AI가 큰 작업 덩어리를 맡을 수 있지만 사람이 가까이에서 방향을 잡고 예상하지 못한 문제가 생기면 개입한다. ‘주도’ 단계에서는 사람이 높은 수준의 목표를 주면 AI가 조사, 작성, 시험, 예외 처리까지 대부분 수행하고 결과를 보고한다. 다만 중요한 변경을 실제로 배포하거나 최종 승인하는 일은 사람이 맡는다. ‘완전 자율’은 사람이 문제를 알려 주지 않아도 AI가 스스로 발견하고 범위를 정해 해결하고 배포하는 단계다. 앤트로픽은 마지막 단계에 해당하는 측정 업무는 없다고 밝혔다.

회사는 2026년 7월 내부 업무 기록에서 약 1만5천 개의 세부 연구개발 작업을 모아 378개의 말단 항목을 포함한 작업 지도를 만들었다. 각 업무에 사람이 얼마나 시간을 쓰는지를 바탕으로 중요도를 정하고, 클로드가 실제로 어느 수준까지 수행하는지 평가했다. 그 결과 8월 기준으로 ‘AI가 주도’하는 업무가 26%, ‘AI가 협업 이상’인 업무는 90%를 넘었다는 것이 회사의 결론이다.

생활 속 비유로 보면 26%는 운전자가 목적지를 정한 뒤 차가 대부분의 길을 달리지만, 복잡한 상황과 최종 책임은 운전자가 맡는 구간의 비율에 가깝다. 차량이 목적지와 여행 이유까지 스스로 결정한다는 뜻은 아니다. 더구나 이 수치는 회사의 전체 매출이나 모든 직원 업무의 26%가 아니라, 앤트로픽이 정의한 AI 연구개발 작업 묶음 안에서 계산한 결과다.

AI가 다음 AI를 만드는 일이 왜 중요한가

대부분의 기술은 개발 도구가 좋아지면 다음 제품을 더 빨리 만든다. AI도 코드를 작성하고 시험 결과를 분석하며 오류를 찾는 데 쓰이면 연구자가 더 많은 실험을 할 수 있다. 이 자체는 이상한 일이 아니다. 문제는 개선 속도가 일정 수준을 넘으면 사람이 변화의 이유와 결과를 이해하고 통제하는 속도보다 개발 속도가 더 빨라질 수 있다는 데 있다.

예를 들어 한 모델이 실험 코드를 만들고, 수천 번의 시험을 실행하고, 결과를 분석해 다음 실험을 제안하고, 다른 AI가 이를 검토하는 과정이 이어질 수 있다. 사람은 최종 보고서만 읽게 된다. 생산성은 높아지지만 중간 단계에서 같은 가정이 반복되거나 잘못된 평가 기준을 여러 AI가 공유하면 오류도 빠르게 커질 수 있다. 개발 속도가 빨라질수록 사람의 승인 한 번만으로 전체 과정을 충분히 이해하기 어려워진다.

앤트로픽이 측정하려는 것은 흔히 말하는 ‘재귀적 자기개선’, 즉 AI가 사람의 실질적 개입 없이 자신의 후속 모델을 만들어 능력을 계속 높이는 상태와 얼마나 가까워졌는지다. 회사는 현재 완전 자율 단계가 아니라고 선을 그었다. 그럼에도 내부 업무의 90% 이상에서 AI가 큰 부분을 협업하고, 4분의 1 정도에서는 주도 역할을 한다는 자체 측정은 연구 조직의 일하는 방식이 이미 크게 바뀌었음을 보여 준다.

일반 직장인에게도 이 변화는 멀리 떨어진 연구실 이야기가 아니다. AI 회사에서 먼저 나타난 업무 분담 방식은 문서 작성, 재무 분석, 고객 지원, 마케팅, 제약 연구 같은 분야로 퍼질 수 있다. 사람이 모든 단계를 직접 처리하는 대신 목표를 정하고 AI의 작업을 감시하며 결과를 승인하는 역할로 이동할 가능성이 커진다. 따라서 ‘몇 개의 일자리가 사라지나’만큼 ‘사람이 과정에 어디서 개입하나’가 중요한 질문이 된다.

동시에 움직이는 AI 에이전트 3만 개

앤트로픽은 가장 많이 쓰는 내부 연구·엔지니어링 플랫폼에서 어느 시점이든 약 3만 개의 AI 에이전트가 동시에 일한다고 밝혔다. 여기서 에이전트는 질문에 한 번 답하고 끝나는 챗봇이 아니라, 여러 단계를 이어 수행하고 다른 에이전트에게 일을 나누기도 하는 프로그램이다.

회사는 이 에이전트들의 행동을 실시간 감시와 사후 감시 두 층으로 본다고 설명했다. 실시간 감시는 행동이 실행되기 전에 위험한 일을 막거나 다른 방향으로 유도한다. 모델 파일을 외부로 복사하는 것처럼 한 번 발생하면 되돌리기 어려운 행동이 주요 대상이다. 사후 감시는 이미 끝난 작업 기록을 읽어 장기간에 걸쳐 드러나는 이상 징후를 찾는다.

공개 수치에 따르면 8월 한 달 동안 연구·엔지니어링 에이전트가 내린 10억 건이 넘는 결정 가운데 실시간 감시가 차단한 비율은 0.002%, 약 4만7천 건에 한 건이었다. 모든 행동은 실행 전 온라인 감시를 통과하고, 실행 뒤에는 사후 감시 시스템에 들어간다고 회사는 밝혔다. 사후 시스템은 매주 약 10만 개의 대화 기록을 표시하고, 여러 자동 분류 단계에서 대부분을 걸러 낸 뒤 가장 우선순위가 높은 약 50건을 사람에게 넘긴다.

0.002%는 아주 작아 보이지만 해석에는 분모가 필요하다. 10억 건 가운데라면 약 2만 건이 차단됐다는 계산이 된다. 드문 행동도 에이전트 수와 작업량이 커지면 반복해서 나타날 수 있다는 뜻이다. 반대로 차단 수가 많다고 해서 모두 실제 사고였다고 볼 수도 없다. 감시 시스템이 안전을 위해 의심스러운 행동을 넓게 막았을 수 있고, 잘못 경고한 사례도 포함될 수 있다.

중요한 것은 회사가 ‘사고가 없었다’는 결과만 말하는 대신 감시 범위, 검토 지연, 차단·상향 검토 비율을 측정 항목으로 제안했다는 점이다. 다른 AI 회사도 같은 기준으로 공개한다면 이용자와 정부는 에이전트 수가 늘어나는 속도에 비해 감시 인력과 시스템이 따라가고 있는지 비교할 수 있다. 지금은 앤트로픽 한 회사의 자체 측정이라 업계 전체의 수준을 판단할 수 없다.

안전 연구에 쓴 연산 자원은 6%

세 번째 측정은 AI 개발에 필요한 연산 자원을 어디에 썼는지다. 앤트로픽은 7월 13일부터 20일까지 한 주의 사용량을 분류한 결과, AI 연구개발용 연산 가운데 약 6%가 안전 관련 작업에 쓰였다고 밝혔다. AI가 AI 연구를 수행하는 연산만 따로 보면 안전 분야의 비중은 약 12%였다.

안전 작업에는 모델이 왜 그런 답을 냈는지 이해하는 연구, 위험 행동 시험, 감시 도구 개발 등이 들어간다. 회사는 능력 개선에도 안전에도 비슷하게 도움이 되는 작업은 보수적으로 일반 연구개발로 분류했다고 설명했다. 이용자에게 제공되는 별도의 안전 분류 시스템이 사용하는 연산도 이 수치에는 포함하지 않았다고 덧붙였다.

그러나 6%라는 숫자만으로 앤트로픽이 안전에 충분히 투자한다고 결론 내릴 수는 없다. 안전 연구는 연구자가 설계를 오래 고민한 뒤 작은 실험을 할 수 있어 거대한 모델 훈련보다 연산 사용량이 적다. 같은 성과를 더 효율적으로 내면 연산 비중이 줄기도 한다. 반대로 계산량이 많다고 연구의 질이 높다는 보장도 없다. 회사도 절대적인 점수보다 같은 기준으로 시간에 따른 변화와 회사 간 차이를 보는 용도라고 설명했다.

측정 기간이 단 한 주라는 점도 크다. 대규모 모델을 훈련하는 주와 그렇지 않은 주의 비중은 크게 달라질 수 있다. 앞으로 정기적으로 같은 기준을 공개하고 외부가 분류 방식을 확인해야 추세로 쓸 수 있다. 지금의 6%와 12%는 장기 약속이 아니라 특정 기간의 시험 측정이다.

회사가 자기 성적표를 매겼다는 한계

이번 보고서의 가장 큰 한계는 앤트로픽이 자기 회사의 자료를 자사 모델로 상당 부분 분류하고 평가했다는 점이다. 클로드가 작업 기록을 읽어 업무를 나누고, 다른 클로드가 자동화 수준을 판단했다. 평가 대상과 평가자가 비슷한 오류를 공유할 수 있다. 앤트로픽은 내부 담당자의 평가와 비교했을 때 모델과 사람이 정확히 같은 단계를 고른 비율이 59%, 한 단계 이내로 일치한 비율이 97%였다고 밝혔다. 하지만 사람끼리도 판단이 엇갈릴 만큼 경계가 모호하다는 사실은 남는다.

업무 목록을 어떻게 만들었는지도 결과에 영향을 준다. 7월의 업무 구조를 고정해 두고 자동화가 얼마나 늘었는지 보면 기존 업무가 AI로 넘어가는 흐름은 볼 수 있다. 반면 AI 덕분에 새로 생긴 업무나 사람이 더 어려운 일로 이동한 변화는 놓칠 수 있다. 회사는 1월과 7월의 업무 구조를 비교했을 때 큰 변화가 보이지 않았다고 설명했지만, 앞으로 목록을 주기적으로 다시 만들겠다고 했다.

또한 3만 개 에이전트와 감시 수치는 회사의 가장 많이 쓰는 한 내부 플랫폼에 관한 것이다. 앤트로픽의 모든 시스템과 모든 작업을 완전히 대표하지 않는다. 감시를 통과한 행동이 모두 안전했다는 의미도 아니다. 현재의 감시 기술은 몇 달 동안 운영한 수준이며, 회사 스스로도 가능한 행동을 완전히 파악했다고 확신하기 어렵다고 인정했다.

그래서 앤트로픽은 독립된 외부 평가기관 여러 곳을 내부에 상주시켜 회사의 위험평가팀에 가까운 수준의 과정·시스템·데이터 접근권을 주겠다고 밝혔다. 이들이 안전 관행을 확인하고 사고를 보고하며 이번과 같은 지표를 감시하게 하겠다는 계획이다. 실제로 어떤 기관이 참여하고, 불리한 결과도 공개할 수 있는지, 보고서가 정기적으로 나오는지는 후속 확인이 필요하다.

일반 사용자와 기업에 무엇이 달라지나

일반 이용자가 오늘 클로드를 켰을 때 새 버튼이 생기는 발표는 아니다. 그러나 AI 서비스가 좋아지는 속도와 기업이 이를 통제하는 방식에 관한 중요한 정보다. AI가 개발 과정 자체를 더 많이 맡으면 모델 업데이트 간격이 짧아지고 새로운 기능이 빨리 나올 수 있다. 동시에 출시 전 시험과 외부 검토에 필요한 시간을 개발 속도가 압박할 가능성도 커진다.

기업 고객은 모델 성능표뿐 아니라 AI 회사의 내부 통제 지표를 요구할 근거를 얻게 된다. 우리 회사의 자료를 맡길 모델이 어떤 과정으로 만들어졌는지, 연구 에이전트의 행동을 모두 감시하는지, 위험 행동이 얼마나 자주 차단되는지, 외부 기관이 이를 검증하는지 물을 수 있다. 금융·의료·정부처럼 오류 비용이 큰 분야에서는 ‘가장 똑똑한 모델’만으로 공급자를 고르기 어렵다.

직장인에게는 역할 변화가 더 직접적이다. AI가 협업 단계에서 주도 단계로 넘어갈수록 사람의 업무는 작업 지시를 세세히 쓰는 일보다 목표를 정하고, 필요한 자료와 금지 범위를 설정하고, 결과의 근거를 확인하는 쪽으로 바뀐다. 최종 승인자가 내용을 이해하지 못한 채 서명만 하는 구조가 되면 사람의 감독은 이름만 남는다. 회사는 AI가 처리한 중간 과정과 변경 기록을 사람이 실제로 검토할 수 있는 형태로 남겨야 한다.

핵심 정리

앤트로픽의 공식 보고서가 보여 준 가장 중요한 사실은 클로드가 ‘스스로 완성된 차세대 AI’를 만들었다는 것이 아니다. 2026년 8월 기준으로 AI가 회사 연구개발의 넓은 부분에 참여하고, 측정된 업무의 26%에서는 사람의 높은 수준 지시 아래 작업을 주도하며, 수만 개의 에이전트가 동시에 움직이는 조직이 이미 나타났다는 것이다.

동시에 이 수치는 회사가 정의한 작업과 자체 모델의 평가에 기초한 첫 측정이다. 완전 자율 업무는 없었고, 연산 배분 수치는 한 주의 스냅샷이며, 감시 체계가 모든 위험을 찾는다는 증거도 아니다. 외부가 봐야 할 다음 변화는 26%가 얼마나 빨리 오르는지가 아니라, 같은 기간 사람의 감독 범위와 검토 시간이 함께 유지되는지다. 정기 공개, 회사 간 공통 기준, 독립 평가가 뒤따를 때 비로소 이 성적표는 홍보 자료를 넘어 AI 개발 속도를 사회가 이해하는 계기가 될 수 있다.