과기정통부-AI 안전연구소, AI 주도권 전략 공개…"산업·리스크 동시 대응"

카테고리

데이터 과학/AI

서브카테고리

AI 안전 및 거버넌스

대상자

정책 입안자, AI 개발자, AI 안전 기준 제정 담당자 / 중간~고급 수준

핵심 요약

• 정부, 1.9조 원 투자로 GPU 인프라 확충 및 국산 반도체 생태계 구축 추진
• AI 안전연구소, 글로벌 리스크 분류 체계(예: EU '시스템 리스크' 기준) 도입
• 국제 협력(영국, MIT 등)을 통한 '리스크 맵' 구축 및 AI 평가 도구 개발
• AI 기본법 제정으로 산업 진흥과 신뢰 확보 균형 도모

섹션별 세부 요약

###1. 정부의 AI 육성 전략

• GPU 확보 계획: 광주 AI 데이터센터에서 엔비디아 H100 GPU 416장 확보, 연내 1만 장 이상 확보 목표
• 국산 반도체 생태계: 퓨리오사, 리벨리온 등 국내 기업 실증 프로젝트 추진, 2030년까지 국산 반도체 활용 비중 50% 목표
• 세제 혜택 확대: AI 인프라 투자에 대한 세제 혜택 확대
• 월드 베스트 LLM 프로젝트: 경쟁력 있는 팀 선발 및 GPU/데이터/인재 집중 투입, 3년 내 글로벌 상위권 LLM 확보 목표
• 인재 양성: '글로벌 프런티어 랩' 설립, AI 융합대학원 운영, 해외 인재 유치 인센티브 제공

###2. AI 안전연구소의 리스크 관리 전략

• 리스크 분류 체계: EU의 '시스템 리스크' 기준 도입, GPT-4 수준 모델에 대한 제도적 대응 필요성 강조
• 리스크 맵 구축: MIT와 협업한 1,700개 사례 기반, 기술·의도·사고 시점에 따른 분류 체계 수립
• AI 평가 체계: 물리적 제품, 임베디드 모델, 챗봇 등 다양한 AI 형태에 대한 실제 사용 맥락에서의 리스크 분석
• 외국계 모델 검증: 중국 딥시크의 정치적 편향 사례를 예로, 파인튜닝 기법을 통한 리스크 중화 방안 제공
• 국제 협력: 영국, 미국, MIT 등과의 협력 강화, AI 리스크에 대한 다차원적 관리 방안 마련

###3. AI 기본법과 산업 전환 지원

• AI 기본법 시행: 2024년 시행 예정, 고영향 AI에 대한 고지 의무 및 사업자 책임 규정 포함
• 업계 부담 최소화: 법령 설계 시 업계 의견 반영, 하위 법령에서 구체화 예정
• 산업 전환 지원: 제조, 의료, 법률, 문화 등 분야의 AI 도입 촉진, 공공수요 기반 생태계 활성화
• 플래그십 프로젝트: 여러 부처와 공동으로 대규모 프로젝트 추진

결론

• AI 성장과 안전을 동시에 고려한 전략 수립이 필수적. GPU 인프라 확충과 리스크 관리 체계 구축을 통해 글로벌 경쟁력 확보, EU/미국 등 국제 기준과의 호환성 강화를 위한 협력 확대 추천.