캘리포니아가 ‘AI 해고’를 금지했다…직원을 평가하는 로봇 상사에 처음 선을 그은 법

미국 캘리포니아주가 2026년 9월 30일 기업이 인공지능의 판단만으로 직원을 해고하거나 징계하지 못하게 하는 법에 서명했다. ‘로봇 상사 금지법(No Robo Bosses Act)’으로 불리는 상원법안 947은 AI나 자동화된 의사결정 시스템을 고용상 불이익의 유일한 근거로 삼는 일을 막고, AI 결과에 주로 의존했다면 사람이 추가 자료로 판단을 확인하도록 요구한다.

이 소식은 미국 한 주의 노동법 변화이지만, 국내 직장인과 기업에도 낯선 얘기가 아니다. 이미 많은 회사가 채용 지원서 분류, 근무 실적 측정, 콜센터 상담 평가, 배달·운송 업무 배정, 승진 후보 추천에 알고리즘을 사용한다. 문제는 회사가 “AI가 계산한 점수”를 객관적인 사실처럼 취급할 때 생긴다. 잘못된 데이터나 편향된 기준이 들어가도 직원은 왜 낮은 평가를 받았는지 알기 어렵고, 담당 관리자조차 시스템 뒤에 숨을 수 있다. 캘리포니아의 새 법은 이 지점에 처음으로 분명한 원칙을 세웠다. AI는 판단을 도울 수 있지만, 사람의 고용을 끝내는 최종 결정권자가 되어서는 안 된다는 것이다.

새 법은 무엇을 금지하나

법의 핵심은 “AI를 쓰지 말라”가 아니다. 기업이 직원 관리에 AI를 활용하는 것은 허용하되, 해고나 징계 같은 중대한 결정을 자동화 시스템에만 맡기지 못하게 한다. 자동 의사결정 시스템은 직원의 행동이나 성과 데이터를 분석해 추천, 순위, 점수 또는 결론을 내는 소프트웨어를 뜻한다.

회사가 AI 결과에 ‘주로’ 의존해 해고나 징계를 결정하려면 사람 검토자가 그 결론을 다른 정보로 확인해야 한다. 관리자의 평가, 동료의 검토, 인사 기록처럼 AI가 낸 점수 외의 자료를 함께 보라는 의미다. 영향을 받은 직원에게는 AI가 결정에 주로 사용됐다는 사실을 서면으로 알리고, 시스템이 어떤 직원 데이터를 사용했는지 설명하며, 결정을 더 설명할 수 있는 사람 담당자의 연락 창구도 제공해야 한다.

예를 들어 콜센터가 음성 분석 AI로 상담원의 공감 능력을 점수화한다고 가정해보자. 목소리가 쉬었거나 억양이 다르다는 이유로 낮은 점수를 받았는데 관리자가 그 숫자만 보고 해고한다면 새 원칙에 어긋날 수 있다. 실제로 CalMatters가 소개한 한 의료기관 상담원은 쉰 목소리 때문에 감정과 공감 수준을 평가하는 기술이 자신의 업무를 왜곡했다고 말했다. 새 법은 이런 점수를 완전히 금지하기보다 사람이 맥락을 보고 다시 판단하게 만든다.

왜 ‘로봇 상사’가 현실 문제가 됐나

직장 내 AI는 챗봇처럼 눈에 띄는 형태로만 들어오지 않는다. 직원이 몇 건의 일을 처리했는지, 답변 속도가 얼마나 빨랐는지, 고객의 감정이 어땠는지, 휴식 시간이 길었는지를 기록하고 점수로 바꾸는 시스템이 이미 널리 쓰인다. 직원에게 업무를 배정하고, 목표를 제시하고, 성과가 낮다고 경고하는 프로그램도 있다. 이런 도구를 ‘알고리즘 관리’라고 부른다.

자동화의 장점은 분명하다. 수천 명의 기록을 같은 기준으로 빠르게 볼 수 있고, 관리자가 놓친 이상 징후를 찾을 수 있다. 반면 숫자로 측정하기 어려운 사정은 쉽게 사라진다. 고객 응대 시간이 긴 이유가 복잡한 문제를 끝까지 해결했기 때문일 수 있고, 병원 직원이 AI의 추천을 따르지 않은 이유가 환자의 특수한 상태를 고려했기 때문일 수 있다. 시스템은 이런 맥락을 모른 채 ‘느림’이나 ‘지침 불이행’으로 기록할 수 있다.

CNBC가 인용한 경제협력개발기구 조사에 따르면 미국 관리자 가운데 90%가 직원을 지시·감시·평가하는 도구를 적어도 하나 도입했다고 답했다. 모든 도구가 AI인 것은 아니고 모든 사용이 나쁜 것도 아니지만, 자동화된 관리가 일부 첨단 기업만의 실험이 아니라는 점을 보여준다. 채용과 해고, 임금, 근무 일정에 알고리즘이 개입하는 만큼 오류를 다툴 절차가 필요해진 것이다.

해고 외에 함께 바뀐 것들

캘리포니아 주지사실은 같은 날 직장과 의료, AI 콘텐츠 투명성에 관한 여러 법안도 함께 발표했다. 직장 감시와 관련해서는 사업장 화장실에서 AI 기반 감시 도구를 사용하는 것을 금지하고, 직원의 감정 상태를 예측하거나 뇌 관련 데이터를 수집하는 행위를 제한하는 조치가 포함됐다. 대규모 해고나 사업장 이전, 고용 종료가 AI 시스템 때문에 발생했다면 그 사실을 더 투명하게 알리도록 하는 조치도 발표됐다.

의료에서는 AI나 임상 의사결정 도구가 쓰여도 의사와 면허를 가진 의료인이 자신의 전문적 판단을 최종적으로 적용할 수 있어야 한다는 원칙을 세웠다. 의료 AI 개발자는 시스템이 사용될 때 발생할 수 있는 알려진 편향이나 예측 가능한 편향을 줄이기 위한 합리적 조치를 취해야 한다.

AI로 만든 이미지와 영상의 출처를 확인하기 위한 규칙도 강화됐다. 디지털 워터마크를 지우는 행위를 금지하고, 콘텐츠가 AI가 만든 것인지 사람이 만든 것인지 확인할 수 있도록 관련 정보에 접근하게 하는 방향이다. 이 조치들은 서로 다른 분야처럼 보이지만 공통점이 있다. AI가 결정을 내리거나 콘텐츠를 만들 때 그 사실을 숨기지 말고, 사람에게 확인과 책임의 통로를 남기라는 것이다.

한계도 분명하다

노동단체는 법 제정을 환영하면서도 원안보다 약해졌다고 평가했다. 입법 과정에서 직원이 결정에 이의를 제기하는 별도의 절차가 빠졌고, 회사가 법을 따르도록 요구하기 위해 직원이 직접 소송할 수 있는 권리도 삭제됐다. 독립 계약자, 즉 플랫폼 노동자나 일부 프리랜서도 보호 범위에서 제외됐다.

가장 큰 논쟁은 회사가 AI 결과에 ‘주로 의존한다’는 말의 경계다. 관리자가 AI 점수를 보고 사실상 결론을 정한 뒤 형식적으로 인사 기록을 한 장 더 읽으면 사람 검토로 볼 수 있는가. AI 추천이 여러 근거 중 40%인지 60%인지 누가 어떻게 판단할 것인가. 기업 단체는 기준이 불명확해 평범한 업무 도구까지 규제 대상이 될 수 있다고 반대했다. 반대로 노동계는 모호한 표현이 회사에 빠져나갈 구멍을 줄 수 있다고 본다.

캘리포니아가 모든 AI 해고를 금지했다는 표현도 정확하지 않다. 사람 관리자가 AI의 판단을 다른 정보로 확인하고 책임을 진다면 AI를 사용할 수 있다. 법의 목적은 기술을 없애는 것이 아니라, 자동 점수만으로 사람의 생계를 끊는 일을 막는 데 있다.

또한 캘리포니아 법이므로 당장 한국 기업 전체에 직접 적용되는 규칙은 아니다. 캘리포니아에서 직원을 고용하는 기업에는 중요하지만, 한국 근로자의 권리와 절차는 국내 법률과 회사 규정에 따라 별도로 판단해야 한다. 그럼에도 글로벌 기업이 한 지역을 위해 인사 시스템의 설명·통지·사람 검토 기능을 만들면 다른 지역에도 같은 기능을 적용할 가능성이 있다.

기업과 직장인에게 실제로 달라지는 점

기업은 AI 인사 도구를 구매할 때 정확도만 볼 수 없게 된다. 어떤 데이터를 사용했는지 기록하고, 결과가 해고나 징계에 얼마나 영향을 미쳤는지 남기며, 사람이 실제로 재검토했다는 증거를 보관해야 한다. 외부 업체의 프로그램을 썼더라도 최종 고용 결정의 책임을 업체에 넘기기 어렵다.

인사 담당자의 역할도 바뀐다. AI 추천을 승인하는 도장 역할이 아니라, 시스템이 놓친 맥락을 확인하는 책임자가 되어야 한다. 직원의 과거 평가, 업무 환경, 장애나 건강 상태, 고객 유형, 데이터 오류 가능성을 함께 살펴야 한다. “시스템이 그렇게 판단했다”는 답변만으로는 부족해진다.

직장인은 회사가 자신을 평가할 때 어떤 자동화 도구가 쓰이는지, 어떤 데이터가 입력되는지, 사람이 결과를 검토하는지 확인할 필요가 있다. 특히 징계나 해고 통지를 받을 때 AI 사용 사실과 데이터 설명, 문의할 사람을 서면으로 받는 구조가 중요해진다. 다만 새 법이 직원에게 모든 알고리즘의 소스코드나 영업비밀을 공개하도록 요구하는 것은 아니다. 핵심은 결정 과정과 사용 데이터에 대한 의미 있는 설명이다.

AI 제품을 만드는 회사에는 새로운 제품 요구사항이 생긴다. 점수만 내놓는 도구보다 판단의 근거, 사용된 데이터, 불확실성, 사람 검토 기록을 보여주는 도구가 유리해질 수 있다. 결과를 수정하거나 이의를 검토하는 기능도 필요해진다. 기업용 AI 시장에서 ‘설명 가능성’이 홍보 문구가 아니라 계약과 법 준수의 조건으로 바뀌는 셈이다.

왜 캘리포니아의 선택이 다른 지역에도 영향을 주나

캘리포니아는 대형 기술기업과 스타트업이 밀집해 있고 노동시장 규모도 크다. 이 때문에 현지 규칙이 사실상 제품의 기본 설계를 바꾸는 경우가 많다. 기업이 캘리포니아용 인사 시스템과 다른 지역용 시스템을 완전히 따로 운영하는 것보다, 더 엄격한 통지와 사람 검토 절차를 공통으로 적용하는 편이 쉬울 수 있다.

다른 미국 주와 연방 의회도 비슷한 법안을 논의하고 있다. 일리노이주는 특정 고용 목적에 AI를 사용할 때 알림을 요구하지만, 캘리포니아처럼 자동 시스템만으로 고용 결정을 내리는 것을 폭넓게 제한하는 단계까지는 가지 않았다. 뉴욕·뉴저지·루이지애나 등에서도 관련 제안이 나왔지만 아직 같은 수준의 법으로 자리 잡지는 않았다. 캘리포니아 시행 결과가 후속 입법의 참고 사례가 될 가능성이 큰 이유다.

정치적 맥락도 있다. 개빈 뉴섬 주지사는 2025년 비슷한 법안을 거부했지만, 이번에는 사전 알림 범위와 플랫폼 노동자 적용 등이 줄어든 수정안에 서명했다. AI가 일자리에 미칠 영향에 대한 유권자의 불안과 노동계의 압박이 커진 상황도 배경으로 거론된다. 따라서 이번 법은 순수한 기술 규칙인 동시에 AI 시대 노동정책의 방향을 놓고 벌어진 타협의 결과다.

아직 확인해야 할 점

첫째는 ‘주로 의존’ 기준이 실제 분쟁에서 어떻게 해석되는지다. 법 문구만으로는 사람이 어느 정도 검토해야 충분한지 완전히 알기 어렵다. 행정 지침과 초기 집행 사례가 중요하다.

둘째는 직원이 잘못된 AI 판단을 얼마나 쉽게 바로잡을 수 있는지다. 사람 담당자 연락처를 받는 것과 실질적인 이의 제기 절차를 보장받는 것은 다르다. 원안에서 빠진 권리 때문에 보호 효과가 제한될 수 있다는 지적을 지켜봐야 한다.

셋째는 기업이 AI 사용을 투명하게 기록하는 방식이다. 자동화 도구가 수십 개 연결된 회사에서는 어느 시스템이 최종 결정에 얼마나 영향을 줬는지 추적하기가 쉽지 않다. 규제를 피하려고 AI의 역할을 축소해 표시하는 문제도 생길 수 있다.

핵심 정리

캘리포니아의 새 법은 “AI를 회사에서 쓰지 말자”는 선언이 아니다. 사람에게 큰 피해를 줄 수 있는 해고와 징계에서 자동화의 속도보다 설명과 책임을 우선하자는 규칙이다. AI가 추천할 수는 있지만, 최종 판단을 확인하고 설명할 사람을 지워서는 안 된다는 것이다.

한국 독자가 기억할 변화도 여기에 있다. 로봇 상사는 먼 미래의 인간형 기계가 아니라 이미 업무 점수를 매기고 근무를 배정하는 소프트웨어다. 앞으로 중요한 질문은 회사가 AI를 쓰느냐가 아니라, AI가 틀렸을 때 누가 다시 보고 누구에게 설명을 요구할 수 있느냐다. 캘리포니아는 그 답을 ‘사람 검토와 서면 통지’로 먼저 법에 적었다.

핵심 출처

• 캘리포니아 주지사실 공식 발표(2026년 9월 30일): https://www.gov.ca.gov/2026/09/30/californias-nation-leading-ai-framework-just-got-stronger-governor-newsom-signs-more-first-in-the-nation-worker-protections-and-more/
• CNBC 보도(2026년 9월 30일): https://www.cnbc.com/2026/09/30/california-gavin-newsom-ai-ban.html
• CalMatters 보도(2026년 9월 30일): https://calmatters.org/economy/technology/2026/09/on-ai-newsom-gives-labor-only-some-of-what-it-demanded/