배경 및 맥락
2026년 초 Trump 행정부는 Biden 행정부의 AI 안전 행정명령을 폐기하고 AI 규제 완화 기조를 명확히 했다. 이에 반해 유럽은 EU AI Act 시행을 강화하고 있고, 미국 내에서는 주정부 차원의 AI 거버넌스 공백이 이슈로 부상했다.
캘리포니아는 2024년 SB 1047 법안(AI 안전 의무화)이 Newsom 주지사 거부권으로 무산된 이후, 입법이 아닌 행정명령 방식으로 AI 안전 규제에 재도전했다. Newsom은 "연방이 물러선 곳에서 캘리포니아가 앞장선다"는 메시지를 명확히 했다.
핵심 내용
- 적용 대상: 캘리포니아 주정부와 계약을 체결하는 AI 기업 전체
- 주요 의무: 안전 정책 공개, 프라이버시 보호 시스템, 편향·차별 방지, AI 생성 콘텐츠 워터마킹 의무
- 아동 보호: CSAM(아동 성착취물) 생성 방지 시스템 필수 요건
- 연방 독립성: 연방이 공급망 위험으로 지정한 업체도 주 자체 평가로 계약 허용 가능
- 이행 기한: 120일 내 Department of General Services와 Department of Technology가 AI 벤더 인증 체계 수립
경쟁 구도 / 비교
이 행정명령은 연방-주정부 간 규제 충돌의 새로운 전선을 형성한다. EU AI Act가 위험도 기반 규제(고위험 AI에 강력한 의무) 체계를 갖춘 반면, 캘리포니아의 접근법은 정부 조달 레버를 활용한 간접 규제 방식이다. 직접적인 기업 처벌보다는 시장 접근성 제한으로 압박하는 구조다.
| 규제 체계 | 방식 | 대상 | 강제력 |
|---|---|---|---|
| EU AI Act | 위험도 기반 직접 규제 | EU 시장 내 모든 AI | 고위험 AI 강력 제재 |
| 캘리포니아 EO | 조달 조건부 규제 | 주정부 계약 AI | 계약 배제 |
| 연방 (Trump) | 규제 완화 | 전국 | 자율 규제 기조 |
의미
연방 규제 공백을 주정부가 메우는 선례가 만들어졌다. 캘리포니아의 경제적 비중과 빅테크 집중도를 감안하면, 이 행정명령은 사실상 업계 표준에 준하는 압력이 된다. AI 스타트업에서 빅테크까지 전반적인 AI 거버넌스 투자 확대 압력이 가중될 전망이며, 다른 주정부(뉴욕, 텍사스 등)의 유사 행정명령 도입 선례가 될 가능성도 크다.