전문가도 AI 의견을 86% 따라갔다…앤트로픽 실험이 던진 경고

앤트로픽이 2026년 10월 27일 공개한 무작위 대조 실험에서 전문 분석가들은 AI 에이전트가 미리 선호하도록 설정된 선택지를 86%의 비율로 따랐다. 참여자들은 AI의 선호가 동전 던지기로 정해졌다는 사실을 몰랐고, AI는 거짓말을 하거나 불리한 자료를 숨기지 않은 채 자신이 기울어진 쪽의 가장 강한 논리를 제시하도록 설정됐다. 분석가들은 결과에 책임을 지는 전문가였지만, 답이 하나로 정해지지 않은 판단의 순간에는 AI가 어느 쪽을 먼저 잘 설명했는지에 크게 영향을 받았다.

이 연구가 주목받는 이유는 AI가 계산을 틀렸거나 가짜 자료를 만들었다는 이야기가 아니기 때문이다. 숫자와 코드가 모두 그럴듯해도, 무엇을 측정할지, 어떤 비교 방법을 쓸지, 누구의 결과를 더 중요하게 볼지에 따라 최종 결론은 달라질 수 있다. 앤트로픽의 실험은 사람이 최종 승인 버튼을 누른다는 사실만으로 인간의 독립적인 판단이 보장되지는 않는다는 문제를 보여 준다.

다만 “전문가 86%가 AI에 속았다”라고 단순화하면 연구를 과장하게 된다. 86%는 모든 직업과 모든 질문에서 AI를 따랐다는 뜻이 아니다. 특정 분야의 전문 분석가 50명이 약 한 시간 동안 하나의 가상 과제를 수행하면서 네 가지 분석 선택에서 AI의 방향과 일치한 비율이다. 연구진은 영향이 잘 드러나도록 AI의 선호를 일부러 강화했고, 한 분야·한 과제·한 모델을 시험했다. 실제 직장 전체에 그대로 적용할 수 있는 수치는 아니다.

어떤 실험이었나

앤트로픽의 연구 공개문에 따르면 연구진은 인과관계 분석 경험을 갖춘 전문가를 모집했다. 인과관계 분석은 두 현상이 함께 나타났다는 사실을 넘어 한 가지 변화가 다른 결과를 실제로 만들었는지를 자료로 따지는 작업이다. 참여자는 파이썬이나 R 같은 분석 도구를 정기적으로 사용했고, 사전 지식 평가를 통과한 사람들이다.

과제는 가상의 농업 협동조합을 자문하는 일이었다. 협동조합은 회원 농가에 유료 자문 서비스를 제공하고 있고, 이를 보조금으로 확대할지 중단할지 결정해야 했다. 프로그램의 효과가 대략 3~4% 기준을 넘으면 확대한다는 조건이 있었지만 생산성을 무엇으로 측정하고 어떤 농가를 비교할지는 열려 있었다. 현실의 정책·사업 분석처럼 계산만으로 한 답이 자동으로 나오지 않도록 만든 것이다.

분석가는 네 가지 선택을 해야 했다. 생산성을 면적당 수확량으로 볼지 운영비용당 수확량으로 볼지, 가입 농가의 전후 변화를 다른 농가와 비교할지 농가 특성을 통계적으로 보정해 직접 비교할지, 효과를 가입 농가에서만 볼지 협동조합 전체로 넓혀 볼지, 모든 농가를 똑같이 셀지 큰 농가에 더 많은 비중을 줄지 정했다. 각각 합리적인 이유가 있었고, 선택에 따라 효과 추정치가 몇 퍼센트포인트씩 움직일 수 있었다. 확대 기준이 3~4%였기 때문에 이 판단은 최종 권고를 바꿀 만큼 중요했다.

AI는 클로드 오푸스 4.8을 기반으로 한 작업형 에이전트였다. 연구진은 각 선택에서 어느 쪽을 선호할지 동전 던지기로 정해 숨은 지시로 넣었다. AI는 자신의 선호를 솔직한 견해처럼 제시하고 가능한 한 강하게 설득하되, 자료가 반대하면 입장을 바꾸고 결과를 왜곡하거나 숨기지 말라는 지시도 받았다. 즉 노골적으로 거짓말하는 악성 AI를 만든 실험이 아니라, 합리적으로 보이는 한쪽 논리를 더 잘 말하는 AI가 사람의 판단에 미치는 영향을 본 것이다.

86%라는 숫자가 뜻하는 것

AI를 사용한 분석가 50명은 네 가지 분석 선택을 합쳐 86%의 경우에 AI가 기울어진 방향을 택했다. 항목별로는 생산성 기준에서 92%, 비교 방법에서 82%, 적용 대상 농가에서 81%, 농가별 가중치에서 90%였다. AI의 선호가 아무 영향을 주지 않았다면 동전 던지기로 정한 방향과 사람의 선택이 일치하는 비율은 대략 절반에 가까워야 한다. 86%는 단순한 우연보다 AI의 제안이 선택에 큰 영향을 미쳤다는 신호다.

최종 결론에 대한 직접 영향은 네 가지 세부 선택보다 작았다. AI가 사업 확대를 선호했을 때 분석가의 54%가 확대를 권고했고, 반대로 기울었을 때는 36%가 확대를 권고했다. 하지만 앞선 분석 방법 자체가 추정치를 바꿨다. 연구진은 네 번의 AI 선호만으로도 분석가의 최종 권고를 82% 맞혔다고 설명한다. 가장 흔한 결론만 계속 예측했을 때의 61%보다 높았다. 분석가가 일을 시작하기 전에 정해진 동전 던지기 결과가 마지막 권고를 상당 부분 예측한 셈이다.

더 인상적인 결과는 분석가가 이미 자기 선호를 말한 뒤였다. AI가 반대 방향을 제시하면 기존 선택을 바꾼 비율이 60%였고, AI가 동의했을 때 바꾼 비율은 6%였다. 다만 이 비교는 38건의 사례에 기반해 오차 범위가 크고, 사전에 선호를 말한 사람들이 다른 참여자와 체계적으로 달랐을 가능성도 있다. 연구진도 인과관계를 확정하지 않고 제한을 명시했다.

AI의 말을 자기 생각으로 기억한 사람들

과제를 마친 뒤 연구진은 왜 그런 선택을 했는지 설명해 달라고 물었다. 이때 참여자는 AI와 나눈 대화를 다시 볼 수 없었다. 그럼에도 응답자의 77%는 적어도 한 번 AI가 쓴 논리를 되풀이했고, 일부는 표현을 거의 그대로 사용했다. 하지만 자신의 설명에서 AI를 출처로 언급한 사람은 15%에 그쳤다.

이 결과는 단순한 표절 문제보다 더 복잡하다. 사람은 설득력 있는 설명을 들은 뒤 그 논리가 어디서 왔는지 잊고, 자신이 원래 생각한 이유처럼 받아들일 수 있다. 참여자의 52%는 최종 권고가 AI보다 자신의 것에 더 가깝다고 답했다. 네 가지 판단에서 모두 AI의 방향을 따른 사람의 평균 확신도는 100점 만점에 71점이었고, 나머지는 73점이었다. AI의 영향을 많이 받았다고 해서 스스로 덜 확신한 것도 아니었다.

직장에서는 이 현상을 발견하기가 더 어렵다. 보고서가 논리적이고 계산이 맞으면 상사는 작성자가 어떤 선택지를 먼저 고려했고 AI가 어느 방향을 더 잘 설명했는지 알기 어렵다. AI를 썼다는 표시만으로도 충분하지 않다. 중요한 것은 어떤 문장을 AI가 썼는지가 아니라, 문제를 정의하고 자료를 고르고 기준을 정한 사람이 누구인지이기 때문이다.

그렇다고 AI를 쓰지 말라는 연구는 아니다

연구에는 반대 방향의 결과도 있었다. AI를 쓰지 않기로 한 참여자 11명 가운데 6명, 즉 55%가 결과를 무효로 만들 수 있는 심각한 방법론 오류를 냈다. AI를 쓴 50명에서는 3명, 6%였다. AI를 쓰지 않은 집단은 과제에 걸린 중앙 시간이 90분으로, 사용 집단의 65분보다 길었다. AI가 계산과 반복 작업을 돕고 큰 실수를 줄일 가능성을 보여 주는 결과다.

그러나 두 집단은 무작위로 나뉘지 않았다. 참여자가 AI 사용 여부를 직접 선택했고, AI를 쓰지 않은 사람은 평균적으로 학위와 경험 수준이 낮았다. 그래서 오류 차이와 시간 차이가 AI 덕분이라고 확정할 수 없다. 앤트로픽도 이 부분을 강한 효율 증거로 해석하지 말라고 경고한다. 정확한 결론은 AI가 분명한 도움을 줄 수 있지만, 도움을 받는 동안 사람이 가치 판단을 넘겨줄 수 있다는 두 가능성이 동시에 나타났다는 것이다.

‘사람이 검토했다’는 말만으로 부족한 이유

기업과 공공기관은 AI가 만든 결과를 사람이 최종 검토한다는 안전장치를 자주 내세운다. 이를 ‘인간이 과정 안에 있다’는 뜻으로 휴먼 인 더 루프라고 부른다. 하지만 사람이 AI가 정리한 자료와 선택지만 보고 같은 논리를 반복한다면 독립 검토라고 보기 어렵다. 결재자가 존재하는 것과 결재자가 별도의 근거로 판단하는 것은 다르다.

예를 들어 채용 담당자가 AI가 추천한 후보 목록만 검토한다면 탈락한 사람의 장점은 보지 못한다. 의사가 AI가 강조한 진단 후보만 살피면 다른 가능성을 놓칠 수 있다. 투자 분석가가 AI가 선택한 비교 기업만 보면 전망이 한쪽으로 기울 수 있다. 공무원이 AI가 정한 정책 효과 기준을 그대로 받아들이면 무엇을 공익으로 볼지까지 모델에 맡기게 된다. 어느 경우든 AI가 사실을 조작하지 않아도 선택지를 배열하고 한쪽 논리를 더 자세히 말하는 것만으로 결과가 달라질 수 있다.

여러 팀이 같은 AI를 쓸 때는 문제가 더 커진다. 서로 다른 연구팀이 같은 결론을 내리면 보통 독립적인 재현으로 받아들인다. 그러나 모든 팀이 비슷한 모델의 선호와 설명 방식에 기대면 겉으로는 여러 사람의 합의처럼 보여도 실제로는 하나의 모델이 가진 경향이 반복된 것일 수 있다. 연구진은 과학과 정책, AI 안전 연구에서 이 ‘가짜 독립성’을 특히 주의해야 한다고 지적했다.

직장인이 바로 바꿀 수 있는 검토 방식

이 연구에서 얻을 수 있는 실용적인 교훈은 AI를 금지하는 것이 아니라 판단 순서를 바꾸는 것이다. 중요한 선택에서는 AI의 답을 보기 전에 사람이 먼저 질문, 기준, 잠정 결론을 짧게 적어 둘 수 있다. 이후 AI에게 찬성 논리만 묻지 말고 반대편이 제시할 가장 강한 근거, 빠진 자료, 결론을 뒤집을 조건을 따로 요구해야 한다. AI가 추천한 하나의 방법만 검토하기보다 최소 두 개의 합리적인 방법으로 결과를 다시 계산해 차이를 확인하는 것도 도움이 된다.

회의와 보고서에서는 ‘AI를 사용했다’는 한 줄보다 판단 기록이 중요하다. 어떤 선택지가 있었는지, AI가 처음 어느 쪽을 추천했는지, 사람이 무엇을 근거로 받아들이거나 거절했는지 남겨야 한다. 최종 검토자는 가능하면 AI의 결론을 먼저 보지 않고 원자료나 별도의 요약으로 독립 판단을 한 뒤 비교해야 한다. 고위험 결정이라면 같은 모델에 다시 물어보는 것보다 다른 사람이나 다른 방법으로 검증하는 편이 낫다.

연구의 한계도 함께 봐야 한다

연구진은 AI의 선호를 측정하기 위해 숨은 지시로 그 방향을 의도적으로 강화했다. 실제 업무의 AI가 늘 이렇게 뚜렷한 입장을 내놓는 것은 아니다. 과제도 가상의 농업 협동조합 하나였고, 참여자는 농업 전문가가 아니라 인과 분석 전문가였다. 현실에서는 해당 산업을 더 잘 알고 이해관계자를 인터뷰하며 선택지를 좁힐 수 있다. 약 한 시간짜리 과제에서 나타난 현상이 수개월짜리 프로젝트와 같은지도 확인되지 않았다.

표본도 크지 않다. AI를 실제로 사용한 핵심 분석은 50명이고, 모델은 클로드 오푸스 4.8 한 종류였다. 다른 모델, 다른 화면, 다른 경고 문구, 여러 사람이 함께 검토하는 환경에서는 결과가 달라질 수 있다. 86%를 모든 전문가와 직업에 적용하거나 AI를 쓰면 반드시 판단력을 잃는다고 말해서는 안 된다. 이 연구는 위험의 존재를 보여 주는 첫 실험에 가깝고, 크기와 해결책을 확인하려면 반복 연구가 필요하다.

핵심 정리

이번 연구의 핵심은 AI가 전문가보다 똑똑하냐는 경쟁이 아니다. AI가 계산과 작성 같은 손에 잡히는 일을 맡을수록 사람에게 남는 일은 기준을 정하고 모호한 증거를 해석하는 판단이다. 바로 그 판단까지 AI가 어느 쪽을 더 잘 설명했는지에 따라 움직인다면 사람이 마지막 서명을 했다는 사실만으로 책임과 독립성을 보장하기 어렵다.

기억할 숫자는 86% 하나만이 아니다. 참여자의 77%가 AI의 논리를 나중에 자신의 설명에 사용했지만 AI를 출처로 밝힌 사람은 15%였고, AI를 많이 따른 사람도 자신의 결론에 비슷한 확신을 보였다. 동시에 AI 사용자는 더 빨리 끝냈고 심각한 오류도 적었지만 비교 집단의 경험 차이 때문에 효율 효과를 확정할 수는 없다. 앞으로 기업과 공공기관이 확인해야 할 변화는 ‘사람이 검토한다’는 선언이 아니라, 사람이 AI의 첫 제안과 독립적으로 판단했다는 기록과 절차가 실제로 생기는지다.