뉴욕주, AI 안전 규제 법안 발의: 캘리포니아 사례 답습과 업계 반발

핵심 트렌드

뉴욕주가 첨단 AI 모델의 잠재적 위험을 관리하기 위한 새로운 법안 'RAISE(Relates to the training and use of artificial intelligence frontier models; defines terms; establishes remedies for violations)'를 발의하며 AI 규제에 대한 논쟁을 재점화하고 있습니다.

주요 변화 및 영향

• AI 안전 및 책임 강화: 뉴욕주 RAISE 법안은 100명 이상의 사망·부상 또는 10억 달러 이상의 피해를 야기할 수 있는 AI 모델의 재난 상황 영향을 방지하는 것을 목표로 합니다.
• 기업 의무 부과: 오픈AI, 앤트로픽, 구글 등은 첨단 AI 모델에 대한 안전 및 보안 보고서를 공개하고, 사고 발생 시 이를 보고해야 합니다.
• 벌금 부과: 위반 시 최대 3천만 달러의 민사상 벌금이 부과될 수 있습니다.
• 적용 범위: 뉴욕주에서 서비스하는 모든 AI에 적용되며, 기업의 소재지와 무관하게 효력을 가집니다.
• 캘리포니아 SB 1047과의 유사점 및 차이점: RAISE 법안은 SB 1047과 유사하지만, '킬 스위치' 의무화나 미세조정 기업에 대한 책임 부과 등 일부 쟁점을 해소했습니다.
• 업계의 반발: 실리콘밸리에서는 법안의 범위가 광범위하고 미국 경쟁력을 해칠 수 있다는 비판이 제기되고 있으며, 소규모 기업에 대한 위험을 우려하는 목소리도 있습니다.
• 뉴욕주의 전략적 의미: 현재 뉴욕주에 프론티어 모델 개발 기업이 없다는 점과 EU AI 규제법과의 유사성을 고려할 때, 미국 모델을 견제하려는 움직임으로 해석될 수 있습니다. 뉴욕주가 미국 내 주요 경제권이라는 점에서 기업들에게는 사업 운영에 대한 중요한 고려사항이 될 것입니다.

트렌드 임팩트

이번 법안은 미국 내 AI 규제 논의에 새로운 국면을 제시하며, AI 개발 기업들에게 실질적인 규제 준수 부담과 전략적 변화를 요구할 것입니다. 향후 AI 기술 발전의 방향성에도 중요한 영향을 미칠 것으로 예상됩니다.

업계 반응 및 전망

벤처캐피털인 앤드리슨 호로비츠는 '어처구니없는 주 정부 차원의 AI 법안'이라며 강하게 비판했으며, 앤트로픽 공동 창립자 역시 법의 광범위한 범위와 소규모 기업에 대한 잠재적 위험을 지적했습니다. 기업들의 공식적인 입장 발표는 아직 없지만, 업계 전반의 반발과 우려가 감지되고 있습니다. 뉴욕주 의원은 규제 부담이 가볍다고 주장하며 기업의 혁신을 제한하지 않을 것이라고 밝혔습니다.