무산된 SB 1047, 부활하나…캘리포니아, AI 외부 규제안 다시 꺼냈다

카테고리

데이터 과학/AI

서브카테고리

인공지능, 머신러닝

대상자

AI 규제 및 정책 수립에 관심 있는 정책 입안자, 기술 기업, 연구자

핵심 요약

• 캘리포니아 주정부는 AI 규제 법안 SB 1047의 부활을 위한 새로운 정책 보고서를 발표했다.
• 기존 법안의 '연산량 기준'은 AI 위험도와 사회적 영향을 고려하지 못해 한계가 있다고 지적했다.
• 제3자 평가 체계 도입과 '세이프 하버(Safe Harbor)' 조항 신설을 핵심 방안으로 제시했다.

섹션별 세부 요약

1. 새로운 AI 규제 정책 보고서 발표

• 캘리포니아 주정부는 '캘리포니아 최첨단 정책 보고서'를 발표하며 AI 규제 방향을 재검토하고 있다.
• 보고서는 제니퍼 차이스, 페이페이 리 교수 등 AI 및 정책 전문가들이 공동 집필했다.
• 이전의 SB 1047 법안은 주지사 거부권으로 무산되었으나, 이번 보고서는 규제와 혁신을 조화롭게 추진하려는 의도를 담고 있다.

2. AI 기술의 빠른 진화와 위험성 증가

• AI 모델의 추론 능력과 사고의 연쇄(CoT) 방식 등이 급속히 발전하고 있다.
• 특히 CBRN(화학·생물·방사능·핵) 무기 관련 위험성이 증가하고 있으며, 일부 기업이 해당 기능의 발전을 자발적으로 보고한 사례도 있다.
• AI 기술의 파급력은 산업 전반에 걸쳐 넓어지고 있으며, 위험성 관리가 미흡할 경우 '돌이킬 수 없는 피해'가 발생할 수 있다.

3. 기존 규제의 한계와 대안 제시

• 기존 AI 규제 논의에서 사용된 '연산량 기준'은 초기 필터로는 활용 가능하나, 실제 위험도나 사회적 영향을 고려하지 못한다.
• AI 모델 도입 전 단계의 위험 평가와 실사용 단계에서의 영향 분석이 병행되어야 한다는 제안이 있었다.
• 데이터 확보 방식, 보안 절차, 사전 테스트, 사회적 영향 분석 등에서 구조적 불투명성이 지적되었다.

4. 제3자 평가 체계 및 법적 보호장치 제안

• 제3자 평가 체계 도입이 핵심 방안으로 제시되었으며, 기업 내부 검증보다 다양한 전문가의 참여가 가능하다.
• '세이프 하버(Safe Harbor)' 조항 신설과 AI 피해자 신고 체계 마련을 제안하며, 사이버 보안 분야의 제3자 침투 테스트 법제도와 유사한 방식을 적용할 필요가 있다고 강조했다.

결론

• AI 규제는 기술 발전과 혁신을 동시에 고려해야 하며, 제3자 평가 체계와 법적 보호장치를 통해 위험성을 효과적으로 관리하는 것이 중요하다.