Feature Article
캘리포니아 Newsom, 미국 최초 주정부 AI 안전 행정명령 서명 — 주계약 AI 기업에 안전·프라이버시 가이드라인 의무화
📌 핵심 요약 캘리포니아 주지사 Gavin Newsom이 2026년 3월 30일 미국 주정부 최초로 AI 안전 행정명령을 서명했다. 주정부와 계약을 맺는 AI 기업은 안전·프라이버시·편향 방지 가이드라인을 의무 준수해야 하며, 120일 내 세부 AI 벤더 인증 체계가 수립된다. 🔍 왜 주목해야 하나 연방 정부 차원에서 AI 규제가 완화되는 Trump 행정부 기조와 정반대 방향의 움직임이다. 캘리포니아는 GDP 기준 세계 5위 경제권이자 빅테크 기업 본산으로, 이 행정명령의 영향권은 단순히 주정부 계약을 넘어선다. AI 기업들이 캘리포니아 주정부 계약을 유지하려면 별도의 거버넌스 체계를 갖춰야 하는 실질적 규제 압박이다. EU AI Act와 결합하면 글로벌 AI 기업들이 사실상 두 가지 규제 체계(EU + 캘리포니아)를 동시에 준수해야 하는 상황이 된다. ⚡ 실무 시사점 공공 부문 AI 계약을 추진 중인 기업은 120일 내 수립되는 캘리포니아 AI 인증 요건을 선제적으로 파악해야 한다. AI 거버넌스 체계가 없는 스타트업에게는 공공 조달 진입 장벽이 높아질 수 있다.
배경 및 맥락
2026년 초 Trump 행정부는 Biden 행정부의 AI 안전 행정명령을 폐기하고 AI 규제 완화 기조를 명확히 했다. 이에 반해 유럽은 EU AI Act 시행을 강화하고 있고, 미국 내에서는 주정부 차원의 AI 거버넌스 공백이 이슈로 부상했다.
캘리포니아는 2024년 SB 1047 법안(AI 안전 의무화)이 Newsom 주지사 거부권으로 무산된 이후, 입법이 아닌 행정명령 방식으로 AI 안전 규제에 재도전했다. Newsom은 "연방이 물러선 곳에서 캘리포니아가 앞장선다"는 메시지를 명확히 했다.
핵심 내용
- 적용 대상: 캘리포니아 주정부와 계약을 체결하는 AI 기업 전체
- 주요 의무: 안전 정책 공개, 프라이버시 보호 시스템, 편향·차별 방지, AI 생성 콘텐츠 워터마킹 의무
- 아동 보호: CSAM(아동 성착취물) 생성 방지 시스템 필수 요건
- 연방 독립성: 연방이 공급망 위험으로 지정한 업체도 주 자체 평가로 계약 허용 가능
- 이행 기한: 120일 내 Department of General Services와 Department of Technology가 AI 벤더 인증 체계 수립
경쟁 구도 / 비교
이 행정명령은 연방-주정부 간 규제 충돌의 새로운 전선을 형성한다. EU AI Act가 위험도 기반 규제(고위험 AI에 강력한 의무) 체계를 갖춘 반면, 캘리포니아의 접근법은 정부 조달 레버를 활용한 간접 규제 방식이다. 직접적인 기업 처벌보다는 시장 접근성 제한으로 압박하는 구조다.
| 규제 체계 | 방식 | 대상 | 강제력 |
|---|---|---|---|
| EU AI Act | 위험도 기반 직접 규제 | EU 시장 내 모든 AI | 고위험 AI 강력 제재 |
| 캘리포니아 EO | 조달 조건부 규제 | 주정부 계약 AI | 계약 배제 |
| 연방 (Trump) | 규제 완화 | 전국 | 자율 규제 기조 |
의미
연방 규제 공백을 주정부가 메우는 선례가 만들어졌다. 캘리포니아의 경제적 비중과 빅테크 집중도를 감안하면, 이 행정명령은 사실상 업계 표준에 준하는 압력이 된다. AI 스타트업에서 빅테크까지 전반적인 AI 거버넌스 투자 확대 압력이 가중될 전망이며, 다른 주정부(뉴욕, 텍사스 등)의 유사 행정명령 도입 선례가 될 가능성도 크다.