영국, 3억파운드 규모 AI 생물보안 연구소 설립…감염병 탐지와 위험 통제를 함께 맡긴다

영국 정부가 10월 24일 ‘AI 생물보안 연구소(AI Biosecurity Lab·AIBL)’ 설립을 공식 발표했다. 정부가 1억 파운드를 투입하고 오픈AI와 앤트로픽이 최대 2억 파운드 규모의 컴퓨팅·모델 이용권과 기술 지원을 약속했다. 구글 딥마인드와 영국 생명과학 기업 베이스캠프 리서치도 연구 협력에 참여한다.

이 연구소의 목표는 AI로 감염병과 생물학적 위협을 더 일찍 찾고, 백신과 치료제 개발 속도를 높이는 것이다. 동시에 강력한 AI가 위험한 생물학 지식의 진입 장벽을 낮출 수 있다는 우려도 함께 다룬다. 영국 정부는 이를 AI 전용 생물보안 조직으로는 세계 최초라고 설명했다.

다만 발표 직후 숫자만 보면 오해하기 쉽다. 총 3억 파운드가 현금으로 한꺼번에 연구소 통장에 들어오는 것은 아니다. 영국 정부의 공식 발표에 따르면 정부 자금은 1억 파운드이고, 오픈AI와 앤트로픽의 최대 2억 파운드는 주로 컴퓨팅 자원, 모델 크레딧, 신뢰된 모델 접근, 기술 지원 형태다. 실제 연구 성과와 운영 일정, 세부 안전기준은 앞으로 확인해야 한다.

무슨 일을 하는 연구소인가

생물보안은 감염병 유행, 실험실 사고, 농축산 질병, 의도적인 생물학적 공격처럼 사람·동물·식물에 큰 피해를 줄 수 있는 위협을 예방하고 대응하는 활동을 말한다. AI 생물보안 연구소는 이 분야의 과학자와 AI 연구자를 한 조직에 모아 실제 대응 도구를 만들겠다는 구상이다.

초기 임무는 두 가지로 정리된다. 첫째, 새롭게 등장하는 생물학적 위협을 더 빨리 발견하는 능력을 개발한다. 둘째, 백신과 치료제 등 의료 대응 수단의 발견·개발·시험을 앞당긴다. 영국 보건안보청, 동식물보건청, 국방과학기술연구소 등 기존 기관과 협력해 연구 결과가 현장에서 쓰이도록 하겠다는 계획이다.

예를 들어 여러 지역에서 발생한 감염 사례, 병원체의 유전자 변화, 연구 논문을 종합해 이상 신호를 빨리 찾는 작업에 AI를 활용할 수 있다. 후보 물질을 좁히거나 실험 순서를 정하는 데도 도움을 줄 수 있다. 하지만 AI가 감염병을 자동으로 예언하거나 새 치료제를 곧바로 만들어 낸다는 뜻은 아니다. 실제 검증에는 실험실 연구, 임상시험, 규제기관의 심사가 필요하다.

연구소는 의약품·의료기기 규제기관인 MHRA와도 협력해 보건 비상사태를 준비하고 AI로 설계한 의약품의 규제에 참고할 근거를 만들 계획이다. 연구 개발과 안전 규칙을 따로 운영하지 않고, 처음부터 함께 설계하겠다는 의미로 읽힌다.

오픈AI·앤트로픽·구글은 무엇을 내놓나

오픈AI는 ‘로절린드 생물방어 프로그램’을 통해 1억 파운드 상당의 컴퓨팅과 모델 크레딧을 제공하고, 관련성이 높은 자사 고성능 모델에 신뢰된 방식으로 접근할 수 있게 하겠다고 약속했다. 여기서 모델 크레딧은 연구자가 AI 사용료를 지불할 때 쓰는 이용권에 가깝다. 현금 출연과는 다르다.

앤트로픽은 최대 1억 파운드 규모의 모델 크레딧, 신뢰된 모델 접근, 전담 기술 지원을 제공한다. ‘최대’라는 표현이 붙은 만큼 실제 사용 규모와 지원 기간은 운영 과정에서 달라질 수 있다. 두 회사의 지원을 단순 기부액처럼 합산하기보다 연구소가 고비용 AI 모델과 계산 자원을 활용할 수 있게 하는 현물 지원으로 이해해야 한다.

구글 딥마인드는 연구소와 공동 연구를 하고, 자사의 제미나이와 과학 특화 모델에 신뢰된 접근을 제공하는 방안을 검토한다. 공식 문서도 “제공할 것”이 아니라 “제공하는 방안을 모색한다”는 수준으로 적었다. 베이스캠프 리서치는 AI 생물학 모델과 기술 전문성을 제공해 우선순위가 높은 생물보안 문제를 다룰 예정이다.

이런 구성은 장점과 의문을 동시에 만든다. 여러 회사의 모델을 비교할 수 있다면 한 업체에만 의존하는 위험을 줄일 수 있다. 반면 연구소 운영이 기업의 무료 크레딧에 과도하게 기대면 지원 조건이 바뀌었을 때 지속성이 흔들릴 수 있다. 어떤 데이터가 민간 모델로 들어가는지, 연구 결과와 지식재산권을 누가 갖는지도 중요한 질문이다.

왜 지금 생물보안에 AI를 붙이나

AI는 단백질 구조 예측, 신약 후보 탐색, 유전자 데이터 분석에서 이미 사용되고 있다. 수많은 후보를 빠르게 비교하고 사람이 놓치기 쉬운 패턴을 찾는 데 강점이 있다. 감염병이 퍼질 때 대응 시간이 짧아지면 백신 설계와 치료제 후보 선정에 실질적인 도움이 될 수 있다.

하지만 같은 능력은 이중 용도 문제를 가진다. 질병을 이해하는 데 필요한 지식이 병원체를 더 위험하게 만들거나 탐지를 피하는 방법을 찾는 데 악용될 가능성도 있다. 고성능 AI가 전문 지식이 부족한 사람에게 복잡한 실험 절차를 단계별로 설명한다면 위험한 활동의 문턱이 낮아질 수 있다는 우려다.

영국 정부는 공식 발표에서 AI가 과학적 발견을 앞당기지만 생물학적 위험 환경도 바꾸고 있다고 밝혔다. 연구소가 ‘좋은 활용’만 연구하는 조직이 아니라 AI가 새로 만드는 위험 자체를 측정하고 방어하는 조직이어야 하는 이유다.

여기서 중요한 점은 위험을 과장하지 않는 것이다. 현재 공개된 자료는 특정 AI가 실제로 새로운 대유행을 만들었다는 증거가 아니다. 고성능 모델이 어느 수준까지 위험한 도움을 줄 수 있는지, 기존 검색이나 교과서와 비교해 얼마나 능력을 높이는지는 엄격한 평가가 필요하다. 연구소의 역할도 공포를 선언하는 데 있지 않고 그 차이를 실험과 데이터로 확인하는 데 있어야 한다.

일반 시민에게 실제로 달라질 수 있는 점

연구소의 성과가 제대로 나온다면 가장 먼저 체감할 변화는 ‘더 빠른 경보’다. 새로운 감염 사례가 등장했을 때 기존 시스템보다 일찍 이상 신호를 포착하고, 위험도를 평가해 보건기관에 알릴 수 있다. 다만 경보가 빨라질수록 오탐 문제도 커진다. 실제 위협이 아닌 신호를 위험으로 잘못 판단하면 불필요한 불안과 비용을 낳을 수 있다.

두 번째는 백신과 치료제 후보를 찾는 초기 시간이 줄어드는 것이다. AI는 가능한 후보를 좁히는 데 유용하지만 최종 안전성과 효과를 보장하지 않는다. “AI가 설계했다”는 문구가 임상시험을 대신할 수 없고, 규제 기준이 낮아져서도 안 된다. 오히려 AI가 어떤 데이터와 가정으로 후보를 선택했는지 설명하고 재현하는 절차가 추가로 필요하다.

세 번째는 국가가 고성능 AI를 공공 안전에 직접 활용하는 모델이 만들어진다는 점이다. 지금까지 최첨단 AI 능력은 주로 민간기업이 보유했다. 새 연구소는 공공기관이 기업의 모델을 신뢰된 환경에서 사용하되 독립적인 판단을 유지할 수 있는지 시험하는 사례가 된다.

한국을 포함한 다른 나라에도 영향을 줄 수 있다. 감염병은 국경을 가리지 않기 때문에 탐지 데이터와 대응 기술을 어떻게 공유할지가 중요하다. 한 국가의 폐쇄된 연구로만 남으면 세계적 위협 대응에 한계가 있다. 반대로 민감한 병원체 정보가 무분별하게 공개되면 새로운 위험이 생길 수 있다. 공개와 보안의 균형이 핵심이다.

독립 비영리 조직이라는 설명의 의미

영국 정부는 AIBL을 독립 비영리 조직으로 운영하겠다고 밝혔다. 기존 정부부처 안의 작은 팀이 아니라 AI·생명과학 전문가를 직접 채용하고 빠르게 연구할 수 있는 조직을 만들겠다는 취지다. 영국 AI 보안 연구소와 비슷하게 충분한 자율성을 갖도록 설계한다고 설명했다.

‘독립’이라는 말만으로 독립성이 보장되지는 않는다. 정부기관, 거대 AI 기업, 생명과학 업계가 모두 이해관계를 가진 분야이기 때문이다. 어떤 연구 주제를 선택하는지, 위험 평가 결과를 공개할 수 있는지, 기업 모델의 약점을 발견했을 때 독립적으로 알릴 수 있는지가 실제 시험대다.

과학자문위원회를 둔다는 계획도 공개됐지만 위원 구성과 권한은 아직 발표되지 않았다. 생물학자와 AI 연구자뿐 아니라 공중보건 전문가, 의료윤리 전문가, 시민사회, 국제협력 경험이 있는 인사가 포함되는지 확인할 필요가 있다. 기업 지원을 받는 연구와 독립 평가 사이의 이해충돌 관리 방식도 명확해야 한다.

정부는 공공 자금과 자선 자금을 함께 받아 추가 투자를 유치할 계획이다. 이는 장기 운영에 도움이 될 수 있지만 기부자의 영향력 문제도 만든다. 연구소가 어떤 기준으로 후원을 받고, 자금 제공자가 연구 결과 공개에 관여할 수 없는지 규칙이 필요하다.

발표에서 아직 확인되지 않은 것

가장 먼저 확인할 것은 출범 일정과 인력이다. 공식 발표는 연구소 설립과 초기 임무를 밝혔지만 첫 연구 프로젝트가 언제 시작되고 몇 명을 채용할지는 상세히 공개하지 않았다. 1억 파운드 정부 자금이 몇 년에 걸쳐 집행되는지, 운영비와 연구비가 어떻게 나뉘는지도 후속 문서가 필요하다.

두 번째는 데이터 관리다. 감염병과 유전정보, 실험 결과는 민감할 수 있다. 어떤 데이터를 민간 AI 모델에 보내고, 어디에 저장하며, 연구자가 어떤 권한으로 접근하는지 공개된 안전 기준이 필요하다. 모델이 학습 과정에서 데이터를 재사용하는지 여부도 확인해야 한다.

세 번째는 성과 평가 방식이다. ‘탐지가 빨라졌다’는 주장을 하려면 기존 시스템과 비교한 시간, 정확도, 오탐률이 있어야 한다. 치료제 개발에서는 후보를 많이 만든 것보다 실제 실험에서 유효한 후보의 비율과 개발 기간을 봐야 한다. 홍보용 사례보다 재현 가능한 평가가 중요하다.

네 번째는 위험 연구의 공개 범위다. AI가 위험한 생물학적 조언을 얼마나 잘하는지 평가하려면 민감한 실험이 필요할 수 있다. 결과를 너무 자세히 공개하면 악용될 수 있고, 지나치게 숨기면 외부 검증이 어렵다. 독립 연구자가 안전한 조건에서 검토할 수 있는 절차가 필요하다.

이번 발표가 중요한 이유

이번 발표의 의미는 AI가 신약 개발에 쓰인다는 익숙한 이야기를 넘어선다. 한 국가가 보건안보, 동식물 질병, 국방 연구, 의약품 규제를 묶고 최첨단 AI 기업과 별도 조직을 만든다는 점이 새롭다. AI의 이익과 위험을 같은 조직에서 다루려는 시도이기도 하다.

그러나 3억 파운드라는 큰 숫자만으로 성공을 판단할 수는 없다. 그중 최대 2억 파운드는 기업의 모델·컴퓨팅 이용권과 지원 약속이며, 연구소는 이제 막 설립 단계다. 실제 가치는 감염병 경보 시간을 줄였는지, 백신·치료제 후보의 검증 속도를 높였는지, 위험한 AI 능력을 독립적으로 측정했는지로 평가해야 한다.

앞으로 볼 변화는 세 가지다. 과학자문위원회와 리더십이 누구로 구성되는지, 기업이 제공한 모델을 어떤 안전 규칙 아래 사용하는지, 첫 프로젝트의 성과 지표가 무엇인지다. 이 세 가지가 공개돼야 ‘세계 최초’라는 수식어가 실제 공공 안전 능력으로 이어지는지 판단할 수 있다.