Claude Cyber Verification Program 활용 기준: 보안팀이 AI 접근 권한을 설계하는 방법

Anthropic이 Cyber Verification Program(CVP)을 확장했다. 이 프로그램은 검증된 보안 전문가와 조직에 더 강한 사이버 보안 관련 모델 기능과 완화된 차단 정책을 제공한다. 발표에 따르면 CVP는 세 단계 접근 권한으로 나뉜다. Defense Access, Red Team Access, Specialized Access다. 각 단계는 허용되는 작업 범위, 검증 요건, 보안 통제 수준이 다르다.

이 소식은 보안팀에게 단순한 신규 신청 링크가 아니다. AI 모델을 보안 업무에 넣을 때 권한을 어떻게 나눠야 하는지 보여주는 운영 사례다. 사이버 보안은 본질적으로 dual-use다. 같은 기능이 취약점 수정에도 쓰이고 공격에도 쓰일 수 있다. 그래서 “AI가 보안 업무를 도와준다”는 말만으로는 부족하다. 누가, 어떤 시스템에, 어떤 목적과 승인 아래, 어떤 로그를 남기며 사용할 수 있는지 설계해야 한다.

세 단계 접근 권한의 의미

Defense Access는 방어적 작업을 위한 단계다. SOC 업무, 사고 대응, 악성코드 reverse engineering, 취약점 분석과 검증 등이 포함된다. 기업, 비영리, 대학, 정부 기관의 보안팀, 중요 인프라 운영자, 소규모 보안 회사, 오픈소스 maintainer, 취약점 제보 이력이 있는 개인 연구자 등이 대상이다. Anthropic은 많은 방어적 보안 조직이 이 단계에 해당할 것으로 보고, 며칠 안에 응답하는 것을 목표로 한다고 설명했다.

Red Team Access는 허가된 penetration testing과 red teaming까지 포함한다. 사내 red team, 정부 red team, 보안 컨설팅 및 모의해킹 업체가 예시다. 이 단계에서도 authorized testing만 허용되며, 랜섬웨어 배포, 물리적 피해, 대규모 중단, 고위험 safety system 공격 같은 행동은 실시간 차단 대상이다. 조직만 신청할 수 있고 개인 연구자는 대상이 아니다.

Specialized Access는 가장 차단이 적은 단계로, 사람의 생명이나 시장에 영향을 줄 수 있는 safety system을 테스트할 권한이 있는 검증 조직에 제한된다. 항공 운영 시스템, 전력망, 통신망, 은행 간 이체 인프라, 정부 행정망 같은 영역이 예시다. Anthropic은 이 단계는 미국 정부와 협력해 심층 검토한다고 밝혔다.

일반 모델과 검증 프로그램을 분리해야 하는 이유

Anthropic은 일반 제공 모델에는 보수적인 사이버 safeguard를 적용한다고 설명한다. 이는 악의적 사용을 막기 위한 조치지만, 방어자에게는 false positive가 될 수 있다. 예를 들어 소유한 코드의 취약점을 찾거나 사고 로그를 분석하는 일도 공격 기법과 형태가 비슷해 보일 수 있다. 그래서 일반 모델에서는 막히고, 검증된 프로그램에서는 허용되는 작업이 생긴다.

제품팀도 같은 원리를 적용할 수 있다. 모든 사용자에게 같은 보안 기능을 열어두면 위험하고, 모든 것을 막으면 실제 방어 업무가 막힌다. 따라서 사용자와 조직의 검증 수준에 따라 기능을 나눠야 한다. 단순히 “보안 모드” 하나로 해결되지 않는다. 방어 분석, 승인된 모의해킹, 중요 인프라 테스트는 위험 수준이 다르다.

내부 AI 도구를 운영하는 보안팀이라면 모델 접근 권한도 RBAC처럼 설계한다. 예를 들어 일반 개발자는 secure coding review와 알려진 취약점 패치 조언까지만 허용한다. 보안팀은 내부 로그와 악성코드 분석을 허용한다. Red team은 승인된 범위의 exploit validation을 허용하되 대상 시스템과 승인 문서가 있어야 한다. 중요 인프라 테스트는 별도 승인을 거친다.

데이터 보존과 프라이버시를 같이 봐야 한다

CVP에서 눈에 띄는 조건은 데이터 보존이다. Anthropic은 프로그램 참여 조직에 대해 사이버 오용 모니터링을 위해 데이터 보존이 필요하다고 설명한다. 다만 Enterprise Frontier Safeguards(EFS)가 제공되면 eligible organization은 자신들이 통제하는 클라우드 인프라에 데이터를 저장할 수 있게 된다고 한다. 일부 기존 조건에서는 zero data retention과 함께 CVP를 사용할 수 있는 예외도 언급됐다.

이 지점은 기업 도입에서 자주 충돌한다. 보안팀은 강한 모델 기능을 원하지만, CISO와 법무팀은 민감 로그와 소스 코드가 외부에 보존되는 것을 우려한다. 따라서 AI 보안 도구 도입 검토는 모델 성능만으로 끝나지 않는다. 데이터가 어디에 저장되는지, 누가 접근하는지, 얼마나 보존되는지, 오용 모니터링과 고객 프라이버시가 어떻게 균형 잡히는지 확인해야 한다.

사내 도구를 만들 때도 로그 정책을 먼저 정해야 한다. 모델에게 보낸 요청, 받은 답변, 실행한 도구, 승인자, 대상 시스템, 결과 상태를 남긴다. 그러나 비밀번호, 토큰, 개인식별정보, 고객 데이터는 마스킹하거나 별도 보안 저장소에 둔다. 보안용 AI라고 해서 모든 데이터를 무제한 저장하면 나중에 더 큰 위험이 된다.

성능 수치를 운영 기준으로 바꾸기

Anthropic은 CVP tier의 효과를 평가하기 위해 CyScenarioBench 결과를 공개했다. 일반 접근에서는 10개 challenge의 50개 시도 모두 첫 프롬프트에서 차단됐다. Defense Access에서는 50개 중 46개가 어느 시점에서 차단됐고, 4개는 성공했다. Red Team Access에서는 차단 없이 50개 중 34개를 완료했으며, 이는 safeguard가 없는 조건의 67.6% 성공률과 사실상 같은 수준이라고 설명했다.

이 숫자는 모델이 “공격을 잘한다”는 홍보로 읽으면 안 된다. 운영 관점에서는 tier별 차단 정책이 실제로 다르게 작동한다는 근거다. Defense tier는 방어 분석을 허용하되 공격 시나리오로 깊게 들어가면 많이 막고, Red Team tier는 승인된 공격 시뮬레이션을 수행할 수 있게 한다는 구조다.

기업 내부에서도 비슷한 평가가 필요하다. 각 권한 단계에서 허용돼야 하는 요청과 차단돼야 하는 요청을 샘플로 만든다. 예를 들어 “내가 소유한 저장소의 SQL injection 취약점 검증”은 허용, “무작위 외부 사이트 exploit 자동화”는 차단, “승인된 red team 범위의 PoC 작성”은 red team 권한에서만 허용 같은 식이다. 정책을 문서로 쓰는 것과 실제 모델·프록시·도구가 그 정책대로 작동하는지는 다르다. 테스트 세트를 만들어 반복 평가해야 한다.

보안팀용 AI 권한 설계 예시

실무에서는 다음 네 단계로 나눌 수 있다.

첫째, 일반 개발자 단계다. 허용 작업은 secure coding guidance, dependency advisory 해석, SAST 결과 설명, 알려진 CVE 패치 제안이다. 외부 대상 스캔, exploit 코드 생성, credential 수집, 우회 기법은 차단한다.

둘째, 방어 보안팀 단계다. 내부 로그 분석, malware sample 설명, 취약점 재현 조건 정리, 사고 타임라인 작성, 탐지 규칙 초안 생성을 허용한다. 단, 실행 가능한 공격 자동화는 사람 승인 없이는 막는다.

셋째, 승인된 red team 단계다. 승인 문서, 대상 범위, 기간, 책임자를 입력해야 한다. 모델은 범위 안에서 테스트 계획, PoC 보조, 보고서 초안 작성을 지원한다. 실제 실행 도구는 별도 로그와 승인 체계를 거친다.

넷째, 고위험 시스템 단계다. 전력, 의료, 금융, 교통, 통신처럼 장애가 생기면 큰 피해가 나는 영역이다. 여기서는 모델 사용보다 변경 승인 프로세스가 먼저다. AI는 분석과 문서화에 쓰고, 실제 테스트는 격리 환경과 다중 승인 아래에서만 수행한다.

실행 체크리스트

• 보안 AI 기능을 일반, 방어, red team, 고위험 시스템 단계로 나눈다.
• 각 단계에 허용 작업과 금지 작업 예시를 문장으로 작성한다.
• 모델 접근 권한과 도구 실행 권한을 분리한다.
• 승인된 대상 시스템, 기간, 책임자를 로그에 남긴다.
• 요청·응답·도구 호출·결과 상태를 감사 가능한 형태로 저장한다.
• 토큰, 비밀번호, 고객 데이터는 마스킹하거나 별도 저장한다.
• tier별 허용·차단 테스트 세트를 만들어 정기 평가한다.

CVP 확장은 AI 보안 기능을 무조건 더 열자는 이야기가 아니다. 검증된 방어자에게 필요한 권한을 주되, 검증·범위·로그·데이터 보존·승인 체계를 함께 설계해야 한다는 이야기다. 보안팀이 AI를 제대로 쓰려면 모델 선택보다 권한 모델이 먼저다.

출처

• Anthropic, Expanding the Cyber Verification Program: https://www.anthropic.com/news/cyber-verification-program