앤트로픽 CEO “AI 반감은 신뢰 위기”…사람들이 데이터센터와 규제를 걱정하는 이유
클로드를 만든 앤트로픽의 다리오 아모데이 최고경영자가 8월 16일 AI에 대한 대중의 반감은 위험 경고를 너무 많이 해서 생긴 것이 아니라 “근본적으로 신뢰의 위기”라고 말했다. 사람들은 기업과 정부, 기술 업계가 새로운 방식으로 자신에게 불이익을 줄 것이라고 의심한다는 설명이다.
발언은 투자자 개빈 베이커의 비판에 대한 답변으로 나왔다. 베이커는 아모데이의 AI 위험 경고가 미국에서 AI와 데이터센터에 대한 반발을 키웠고, 규제 논쟁에서도 부정적 영향을 줬다고 주장했다. 중요한 AI 기업을 이끄는 만큼 업계의 긍정적 가능성을 더 적극적으로 설명해야 한다는 취지였다.
아모데이는 자신이 위험과 이익을 비슷한 비중으로 말해 왔다고 반박했다. 동시에 대중이 AI를 부정적으로 본다는 사실과 그것이 큰 문제라는 점은 인정했다. 그가 제시한 핵심은 홍보 문구를 바꾸는 것보다 실제 성과와 책임으로 신뢰를 얻어야 한다는 것이다. “AI가 암을 치료할 것”이라는 약속을 반복하는 대신 실제로 암을 치료해야 인식이 바뀐다는 표현도 썼다.
이 논쟁은 한 CEO의 말싸움에 그치지 않는다. AI 회사들은 더 많은 전력과 데이터센터, 개인정보와 저작물을 필요로 하면서도 생산성 향상과 과학 발전을 약속한다. 일반 시민은 혜택이 언제 누구에게 돌아오는지, 비용과 위험은 누가 부담하는지 묻기 시작했다. AI 산업이 기술 성능만 보여 주던 단계에서 사회적 신뢰를 증명해야 하는 단계로 넘어가고 있다는 신호다.
왜 데이터센터가 AI 반감의 중심이 됐나
생성형 AI는 눈에 보이지 않는 인터넷 서비스처럼 느껴지지만 실제로는 거대한 물리 시설에서 작동한다. 데이터센터에는 고성능 컴퓨터와 냉각 설비, 많은 전력이 필요하다. 지역 주민에게는 AI 모델의 성능보다 전기요금, 물 사용, 소음, 토지 개발, 세금 혜택이 더 직접적인 문제다.
기업이 “미래 산업을 위한 투자”라고 설명해도 주민이 체감하는 이익이 불분명하면 반발이 생긴다. 데이터센터가 지역 일자리를 얼마나 오래 만들지, 전력망 증설 비용을 누가 낼지, 가뭄 지역에서 물을 얼마나 쓸지에 대한 답이 필요하다. AI에 대한 불신을 단순히 기술을 이해하지 못해서 생긴 공포로 취급하면 이런 현실적인 질문을 놓치게 된다.
베이커의 주장은 AI 기업 지도자들이 파국적 위험을 반복해서 강조하면서 대중의 두려움을 키웠다는 것이다. 실제로 업계 경영진은 AI가 사이버 공격과 생물학적 위험, 인간 통제에서 벗어나는 문제를 일으킬 수 있다고 경고해 왔다. 그런 경고를 하는 회사가 동시에 더 큰 모델과 데이터센터를 빠르게 만들겠다고 하면 “위험하다면서 왜 속도를 늦추지 않나”라는 의문이 생길 수 있다.
아모데이의 반론은 불신의 원인이 경고 자체보다 오랫동안 쌓인 제도와 기업에 대한 의심이라는 데 있다. 사람들은 기술 기업이 개인정보, 플랫폼 영향력, 노동 조건과 관련해 약속을 지키지 않았던 경험을 기억한다. AI 회사가 이번에는 다르다고 말하려면 좋은 의도보다 확인 가능한 규칙과 결과를 보여 줘야 한다.
“큰 약속을 아직 지키지 못했다”는 인정
아모데이는 AI 회사들, 앤트로픽을 포함한 업계에 대한 가장 정확한 비판은 세상을 이롭게 하겠다는 큰 약속을 아직 실현하지 못했다는 것이라고 말했다. 이 대목은 중요하다. AI 기업은 신약 개발, 교육 개선, 생산성 향상, 과학적 발견을 강조하지만 일반 사용자가 일상에서 접하는 것은 챗봇의 유료 구독료와 오류, 일자리 불안, AI 생성물이 넘치는 검색 결과일 수 있다.
생산성이 늘었다는 기업 보고가 있어도 그 이익이 임금 상승이나 노동시간 감소로 이어지지 않으면 직장인은 혜택을 느끼기 어렵다. 학교에 AI 도구가 들어와도 교사와 학생이 평가 기준과 개인정보 보호 방식을 이해하지 못하면 편리함보다 혼란이 커질 수 있다. 병원에서 AI가 연구를 돕더라도 환자가 더 빠르고 저렴한 치료를 받지 못하면 ‘의료 혁신’이라는 문구는 멀게 들린다.
신뢰를 만드는 성과는 반드시 거대한 발견일 필요는 없다. AI 서비스가 틀린 답을 했을 때 쉽게 수정하고 책임지는 절차, 창작자가 자신의 저작물이 어떻게 쓰였는지 확인하는 방법, 데이터센터의 전력과 물 사용량 공개, 노동자에게 자동화 계획을 미리 설명하는 것처럼 작지만 검증 가능한 변화도 중요하다.
기업이 장점은 수치로 홍보하면서 부작용은 추상적인 미래 과제로 미루면 불신은 커진다. 반대로 어떤 기능이 실패했고 무엇을 바꿨는지 공개하면 단기적으로 불리해 보여도 장기 신뢰를 쌓을 수 있다. 외부 연구자가 회사의 주장을 검증할 자료를 제공하고, 피해를 신고한 이용자가 처리 결과를 확인하게 하는 절차도 필요하다. 아모데이의 발언이 설득력을 가지려면 앤트로픽 역시 이런 기준에서 평가받아야 한다.
규제는 혁신과 경쟁의 반대말인가
논쟁의 또 다른 축은 규제다. 베이커는 강한 규제가 결국 규정 준수 비용을 감당할 수 있는 대기업에 유리하고, 소수 회사에 권력을 집중시킬 수 있다고 우려했다. 기술 업계에서 자주 나오는 ‘규제가 시장 진입 장벽이 된다’는 주장이다.
아모데이는 아무 규제 없이 AI를 널리 배포하는 선택과 강한 규제로 소수 기업만 살아남는 선택 가운데 하나를 골라야 한다는 구도는 잘못됐다고 반박했다. 많은 시민은 규제를 기업 권력을 제한하고 일반인을 보호하는 장치로 본다는 점도 강조했다. 앤트로픽은 큰 최첨단 AI 회사에는 속도를 늦추는 부담을 주면서 작은 경쟁자에게는 유리한 정책을 만들려고 한다고 주장했다.
이 주장은 원칙적으로 가능하지만 실제 법안 설계가 중요하다. 모든 AI 개발자에게 같은 복잡한 보고 의무를 부과하면 대기업만 버틸 수 있다. 반대로 막대한 컴퓨팅 자원과 고위험 기능을 가진 최상위 모델에만 강화된 투명성 의무를 적용하면 소규모 회사의 부담을 줄일 수 있다. 모델의 크기만으로 위험을 판단할지, 실제 용도와 이용자 수를 함께 볼지도 논쟁거리다.
아모데이는 AI가 구조적으로 권력을 집중시키는 경향이 있다고 말했다. 공개된 가중치의 모델이 일부 도움을 주지만 충분한 해결책은 아니라고 봤다. 모델 파일이 공개돼도 이를 크게 운영하려면 많은 컴퓨터와 반도체가 필요하므로 자원이 많은 조직에 힘이 쏠릴 수 있다는 이유다.
일반 독자에게 이 논쟁이 중요한 이유는 규제가 서비스 이용 조건을 바꾸기 때문이다. 회사가 어떤 데이터를 썼는지 공개해야 할지, 위험 시험 결과를 알려야 할지, AI 생성물에 표시를 붙일지, 피해가 발생했을 때 누가 책임질지가 법과 정책으로 정해진다. 규제는 먼 정치 이야기가 아니라 사용자가 받는 설명과 선택권의 수준을 결정한다.
기업의 말과 행동을 어떻게 구분할까
아모데이의 “신뢰 위기” 진단은 기업의 공식 입장이지 독립적으로 입증된 결론은 아니다. 대중의 AI 반감에는 데이터센터 문제, 일자리 불안, 개인정보 침해, 저작권 분쟁, 정치적 양극화, 잘못된 정보 등 여러 원인이 섞여 있다. 한 가지 설명으로 모두 묶을 수 없다.
또한 위험을 솔직히 말하는 것이 항상 신뢰를 해친다고 볼 수도 없다. 기업이 잠재적 위험을 숨기는 편이 오히려 더 큰 불신을 만들 수 있다. 핵심은 위험을 말했는지가 아니라 그 위험을 줄이기 위해 무엇을 했는지, 회사의 성장 목표와 안전 목표가 충돌할 때 어떤 결정을 내렸는지다.
앤트로픽은 캘리포니아의 대형 AI 기업 투명성 규정 등 일부 규제를 지지해 왔다. 동시에 빠르게 성장하는 상업 기업이며 데이터센터와 컴퓨팅 자원을 확대해야 한다. 따라서 회사가 제안한 규정이 자사에 실제 부담을 주는지, 경쟁사에만 유리하거나 불리하지 않은지, 위험 정보를 어느 수준까지 공개하는지를 함께 봐야 한다.
오픈AI, 구글, 메타 등 다른 회사도 같은 기준으로 평가할 수 있다. “안전한 AI”, “모두를 위한 AI”라는 문구보다 모델 평가 결과, 사고 보고, 데이터 사용 정책, 지역사회와의 계약, 요금 변화가 더 유용한 자료다. 신뢰는 브랜드 호감도가 아니라 약속을 확인할 수 있는 구조에서 생긴다.
일반 사용자와 기업에 달라지는 점
당장 클로드의 기능이나 가격이 바뀐 것은 아니다. 이번 발언은 제품 출시가 아니라 AI 산업이 사회적 반발을 어떻게 이해하고 대응할지를 둘러싼 공개 논쟁이다. 그러나 이런 인식은 앞으로의 정책과 기업 행동에 영향을 줄 수 있다.
일반 사용자는 AI 서비스를 고를 때 답변 성능만 보지 않고 데이터 보관, 학습 사용 여부, 삭제 방법, 오류 대응을 비교할 필요가 있다. 회사가 위험을 인정한다고 해서 자동으로 안전한 것도 아니며, 긍정적 미래를 강조한다고 해서 혜택이 보장되는 것도 아니다. 구체적인 통제 기능과 공개 자료가 있는지가 더 중요하다.
기업 고객은 직원 생산성 외에 고객과 직원의 신뢰 비용을 계산해야 한다. AI 도입 사실을 숨기거나 책임 주체를 불명확하게 만들면 짧은 기간에는 빠르게 적용할 수 있어도 문제가 생겼을 때 더 큰 비용을 치를 수 있다. 어떤 업무에 AI를 쓰는지, 사람이 어디서 확인하는지, 이의를 어떻게 제기할 수 있는지를 미리 설명하는 편이 낫다.
지역사회는 데이터센터 유치 발표에서 투자액만 볼 것이 아니라 전력과 물 사용, 장기 고용, 세금 감면, 폐쇄 시 책임을 확인해야 한다. AI 회사가 신뢰를 원한다면 이런 정보를 이해하기 쉬운 형태로 공개하고 주민이 결정 과정에 참여하게 해야 한다.
이번 발언이 중요한 이유
아모데이의 핵심 주장은 AI 반감을 더 밝은 광고로 없앨 수 없다는 것이다. 기업과 정부가 믿을 만한 행동을 보여 주지 않으면 “AI가 세상을 바꾼다”는 긍정적 메시지를 늘려도 의심은 줄지 않는다. 반대로 실제 혜택을 만들고 비용과 위험을 투명하게 나누면 위험을 솔직히 말하면서도 신뢰를 얻을 수 있다.
앞으로 확인할 것은 세 가지다. 앤트로픽과 다른 AI 회사들이 데이터센터의 지역 비용을 얼마나 공개하는지, 약속한 과학·교육·생산성 성과를 측정 가능한 결과로 보여 주는지, 자신들에게도 실질적 부담이 되는 안전·투명성 규칙을 지지하는지다. 이 세 가지가 따라오지 않는다면 ‘신뢰 위기’라는 진단도 좋은 문구에 머물 수 있다.