AI 기본법 하위 법령 공개: 산업 진흥 우선 속 '비가시적 워터마크' 등 규제 실효성 논란

핵심 트렌드

정부가 AI 산업 진흥을 최우선 과제로 삼고 AI 기본법 하위 법령을 공개했으나, '비가시적 워터마크' 허용 등 일부 규제의 실효성에 대한 현장의 의문이 제기되며 산업 진흥과 규제 간의 균형점 모색이 중요한 과제로 부상했습니다.

주요 변화 및 영향

• 산업 진흥 우선 기조: 과태료 계도기간(최소 1년 이상) 부여, 시정명령 및 컨설팅 중심의 행정 지도 등 기업의 부담을 완화하여 AI 산업 발전을 지원합니다.
• 유연한 규제 체계: AI 기술의 빠른 변화 속도를 고려하여 경직된 법규 대신 시장과 함께 발전하는 유연한 규제 체계를 구축합니다.
• 핵심 규제 내용: AI 생성물에 대한 투명성 확보 의무, 고성능 AI 및 고영향 AI에 대한 안전성 확보 의무가 부과됩니다.
• '비가시적 워터마크' 허용: 생성형 AI 결과물에 대한 워터마크 표시 의무를 부과하되, 소프트웨어로만 판독 가능한 '비가시적 워터마크'를 허용하고 내부 업무용 등에는 면제하여 기업 부담을 경감합니다.
• 고성능 AI 기준: 누적 학습량 10^26 FLOPs 이상 AI에 대해 안전성 확보 의무를 부과하며, EU보다 완화된 미국 기준을 따릅니다.
• 고영향 AI 정의 및 의무: 에너지, 보건의료, 교통 등 국민 생명 및 기본권에 큰 영향을 미치는 AI를 고영향 AI로 정의하고, 위험 관리 및 이용자 보호 방안 수립을 의무화합니다. 개인정보보호법 등 타 법률에 따른 유사 조치 시 이행 간주 규정을 포함합니다.
• 규제 대상 명확화: AI 개발 사업자와 서비스 제공 이용 사업자를 규제 대상으로 명시하며, AI 서비스를 업무에 활용하는 최종 이용자는 의무 대상에서 제외됩니다.

트렌드 임팩트

이번 하위 법령 제정은 AI 기술의 신속한 발전과 함께 발생하는 잠재적 위험을 관리하면서도, 혁신을 저해하지 않는 '필요 최소한의 규제'를 통해 AI 산업 생태계를 성장시키려는 정부의 의지를 보여줍니다. 다만, 규제의 실질적인 효과와 현장의 수용성에 대한 지속적인 모니터링 및 보완이 필요할 것으로 보입니다.

업계 반응 및 전망

• 실효성 논란: '비가시적 워터마크'가 법의 취지(AI 생성물임을 이용자에게 알리는 것)에 부합하는지에 대한 의문이 제기되었으며, 정부는 딥페이크 등 오용 가능성이 큰 결과물은 명확히 인식 가능한 방식으로 표시하도록 구분했다는 입장을 밝혔습니다.
• 규제 사각지대 우려: AI 악용 범죄를 저지르는 최종 이용자에 대한 규제가 미흡하다는 지적이 있었으나, 정부는 AI 기본법은 AI 도구 자체에 대한 법이며, 이용자의 오남용 행위는 기존 개별법으로 규율된다고 설명했습니다.
• 정부 조사 권한 우려: 스타트업 위축 가능성에 대한 지적에 대해, 정부는 사실 조사가 정책 수립 및 제도 개선을 위한 과정이며, 부당한 조사를 막기 위한 예외 규정을 마련했으며, 처벌보다는 길라잡이 역할이 목적임을 강조했습니다.

톤앤매너

이번 AI 기본법 하위 법령 발표는 AI 기술 발전의 가속화라는 거대한 흐름 속에서, 정부가 산업 진흥과 안전이라는 두 마리 토끼를 잡기 위해 구체적인 정책 로드맵을 제시했다는 점에서 주목할 만합니다. 그러나 '비가시적 워터마크'와 같은 일부 조항의 실효성 및 규제 사각지대에 대한 현장의 날카로운 질문들은, 향후 법령의 실제 적용 과정에서 지속적인 논의와 보완이 필요함을 시사합니다. 이는 AI 생태계 참여자 모두가 '균형감'을 가지고 접근해야 할 중요한 시사점을 던져줍니다.