캘리포니아, AI 동반자 챗봇 미성년자 보호 위한 규제 법안 통과: IT 업계에 미칠 파장

핵심 트렌드

캘리포니아주가 미성년자 보호를 최우선 과제로 삼아 AI 동반자 챗봇에 대한 강력한 법적 규제(SB 243)를 도입하며 AI 윤리 및 책임에 대한 새로운 기준을 제시하고 있습니다.

주요 변화 및 영향

• AI 챗봇 대화 제한: 자살, 자해, 성적으로 노골적인 대화에 대한 AI 챗봇의 관여를 원천적으로 차단합니다.
• 미성년자 보호 강화: 미성년자 이용자에게 3시간마다 AI와 대화 중임을 알리고 휴식을 권고하도록 의무화합니다.
• 기업 법적 책임 부과: 위반 시 건당 최대 1,000달러의 손해배상 소송이 가능하며, 오픈AI, 캐릭터닷AI, 레플리카 등 주요 기업은 2027년 7월부터 연례 투명성 보고서 제출이 의무화됩니다.
• 규제 추진 배경: 10대 청소년의 챗GPT 관련 사망 사건 및 메타 챗봇의 부적절한 아동 대화 유출 정황이 법안 통과의 결정적 계기가 되었습니다.
• 법안 완화 과정: 초안의 '변동 보상' 기능 제한 및 부적절 대화 추적/보고 조항은 완화되었으나, 핵심적인 보호 장치는 유지되었습니다.
• 빅테크 로비 활동: 실리콘밸리 빅테크 기업들이 규제 완화를 위해 적극적인 로비 활동을 펼쳤으며, 일부 포괄적 투명성 의무 법안(SB 53)에는 공개적으로 반대했습니다.

트렌드 임팩트

이번 캘리포니아주의 법안은 AI 기술의 급속한 발전과 함께 대두되는 윤리적, 사회적 문제에 대한 정부의 개입이 본격화되고 있음을 시사합니다. 이는 AI 서비스 개발 및 운영 전반에 걸쳐 '책임 있는 AI' 구축의 중요성을 더욱 부각시키며, 글로벌 IT 기업들에게 새로운 규제 준수 부담으로 작용할 것입니다.

업계 반응 및 전망

빅테크 기업들은 투명성 강화 및 기업 책임 증대에 대한 우려를 표명하며 로비 활동을 벌였으나, 이번 법안 통과는 미성년자 보호라는 사회적 가치가 기술 혁신보다 우선될 수 있음을 보여줍니다. 향후 유사한 규제가 다른 주 및 국가로 확산될 가능성이 있으며, AI 서비스 기업들은 규제 준수를 위한 기술적, 정책적 대비를 서둘러야 할 것입니다. 특히 AI 챗봇의 개인화 및 몰입도 증진 기술과 윤리적 경계선에 대한 논의가 심화될 전망입니다.