서울대 국제 컨퍼런스: 신뢰 기반 AI 거버넌스 및 EU AI법 기반의 국내 윤리 평가 모델 구축 논의

핵심 트렌드

서울대학교는 '신뢰할 수 있는 AI'를 주제로 국제 컨퍼런스를 개최하여 AI 윤리 개발 방향과 글로벌 연대, 한국 내 자율 거버넌스 모델 구축을 논의했습니다. 이는 AI 기술의 책임 있는 활용과 윤리적 규제 마련이 시급한 글로벌 과제임을 시사합니다.

주요 변화 및 영향

• 국제적 AI 윤리 논의 확산: EU의 AI 윤리 프레임워크 기반 '제트인스펙션' 프로그램이 한국에서 논의되며, 실제 사회 적용을 위한 다학제적 점검 절차가 중요해지고 있습니다.
• 한국의 AI 법제화와 제도적 수요 증대: EU AI법을 참고한 AI기본법 입법 이후, 국내에서도 윤리적 AI 기술에 대한 제도적 및 자율적 평가 수요가 높아지고 있습니다.
• 기업의 AI 윤리 전략 핵심 부상: 머크(Merck)와 같은 글로벌 기업들은 AI 윤리를 사업 전략의 중심에 두며, '자율성, 투명성, 비편향성, 공정성, 혜택 극대화' 원칙 기반의 윤리 프레임워크와 평가 도구를 운영하고 있습니다.
• 데이터 활용의 윤리적 책임 강조: 환자 데이터 제공 사례를 통해 법적 허용 여부만으로는 부족하며, 기술의 최종 사용에 대한 기업의 윤리적 책임 명문화가 중요해지고 있습니다.
• 맞춤형 윤리 리스크 관리: 생성형 AI 확산에 대응하여 EU AI법 기반의 고위험군 기술 분류 체계 도입 및 사업 부문별 맞춤형 체크리스트 운영이 필요합니다.
• 내부 기술 수용성 확보의 중요성: 직원들의 AI에 대한 신뢰 확보가 조직 내부 실험 및 성공적인 AI 도입의 전제 조건임을 강조합니다.

트렌드 임팩트

본 컨퍼런스는 한국이 AI 강국으로서 윤리적 AI 개발 및 거버넌스 구축에 선도적인 역할을 할 수 있는 가능성을 보여줍니다. 또한, 기업들이 어떻게 윤리적 프레임워크를 구축하고 실질적으로 적용하여 신뢰를 확보할 수 있는지에 대한 구체적인 사례를 제시합니다.

업계 반응 및 전망

로베르토 지카리 교수는 규제가 지연되는 국가일수록 기업의 자발적인 윤리 점검 기회가 될 수 있다고 언급했으며, 머크의 담당자는 '윤리 없는 데이터는 기업 생존도 없다'는 메시지를 전달하며 윤리 기반 AI 전략의 중요성을 강조했습니다. 이는 앞으로 AI 관련 기업들의 핵심 경쟁력이 될 것으로 전망됩니다.