캘리포니아, AI 기업 규제 강화: 'SB 53' 법안 공개 및 안전 의무화 추진

핵심 기술: 캘리포니아주가 대형 AI 기업을 대상으로 안전 프로토콜 공개 및 사고 보고 의무화를 골자로 하는 'SB 53' 법안을 재추진하며, 법적 책임은 제외하고 투명성 확보에 초점을 맞추고 있습니다.

기술적 세부사항:
* 안전 대응 절차 공개 의무: 대형 AI 기업은 안전 및 보안 대응 체계를 공개해야 합니다.
* 위험 상황 시 보고: AI로 인한 '중대한 위험'(사망/부상자 100명 이상 또는 10억 달러 이상 피해) 발생 시 보고서 제출 의무가 부과됩니다.
* 내부 고발자 보호: 내부 고발자 보호 제도가 도입됩니다.
* 캘컴퓨트(CalCompute) 계획: AI 연산 자원의 빅테크 집중을 완화하고 스타트업 및 학계의 기술 경쟁을 지원하기 위한 공공 클라우드 컴퓨팅 인프라 구축 계획입니다.
* 규제 대상 제한: 오픈소스 모델 활용 및 대형 모델 파인튜닝 개발자는 규제 부담을 최소화합니다.
* 법적 책임 면제: AI 모델로 인한 피해에 대해 개발사에 직접적인 법적 책임을 묻지 않고, 위험 대응 조치 및 내부 절차 공개를 통해 간접적 책임 구조를 유도합니다.
* 정책 자문 그룹 권고 반영: 페이페이 리 교수 중심의 캘리포니아주 AI 정책자문그룹의 보고서 내용을 반영했습니다.

개발 임팩트: AI 개발 및 배포 과정에서 안전성과 투명성에 대한 중요성이 더욱 강조될 것이며, 기업들은 AI 모델의 잠재적 위험 관리 및 보고 체계 구축에 대한 투자를 늘려야 할 것입니다. 또한, 캘컴퓨트와 같은 공공 인프라는 AI 기술 접근성을 높여 혁신을 촉진할 수 있습니다.

커뮤니티 반응: 업계 반응은 엇갈리고 있습니다. 앤트로픽은 투명성 확보에 긍정적 입장을 보인 반면, 오픈AI, 구글, 메타 등은 조심스러운 태도를 유지하고 있으며, 일부 기업은 최신 모델 출시 후 안전 보고서 제출을 누락하여 책임 회피 논란을 겪고 있습니다.