NC AI, AI 안전성 기술 '세이프가드' 상용화로 시장 선도 노력

핵심 기술: NC AI가 자체 개발한 AI 신뢰성 기술 '세이프가드(Safeguard)'를 고객 상담 챗봇 '엔써(NCER)'에 적용하여 국내 AI 안전성 시장 주도권 확보에 나섰습니다. 이는 국내 AI 기업 최초로 종합 AI 안전 시스템을 상용 서비스에 도입한 사례입니다.

기술적 세부사항:
* 삼중 보안 체계: 레드팀(공격 연구), 블루팀(방어 기술 개발), 퍼플팀(종합 및 정책 반영)의 순환 구조 기반.
* 게임 산업 맞춤형 규제: 엔씨소프트 퍼블리싱코디네이션 센터와 협력하여 게임 서비스 특성에 맞는 '챗봇 네거티브 규제 정책' 수립 (부적절 내용, 유료 재화 편법 등 차단).
* 일반 부적절 내용 차단: ML 커먼스 및 국제 벤치마크 기준 충족 (차별, 혐오, 욕설, 외설 등).
* AI 윤리 경영: 2022년부터 'NC AI 윤리 프레임워크' (데이터 프라이버시, 비편향성, 투명성) 기반 AI 윤리 실천.
* 기존 적용 사례: '리니지W', '리니지2M'에 13개 언어 스팸 필터링 시스템 적용.
* 향후 목표: 텍스트 기반에서 이미지, 동영상 등 멀티모달 콘텐츠 탐지로 확장.
* 정부 사업 참여: '독자 AI 파운데이션 모델 프로젝트' 주관사 선정, '그랜드 컨소시엄'에서 AI 안전 기술 개발 주도.
* 데이터셋 구축: 에이아이웍스와 'AI 세이프티 얼라인먼트 데이터셋' 구축 중 (고위험 상황 대응 AI 개발).

개발 임팩트: AI 서비스의 신뢰성과 안전성을 향상시키고, 게임 산업 등 특정 도메인에 최적화된 AI 보안 솔루션을 제공합니다. 또한, 국가 차원의 AI 안전성 표준 확립에 기여할 것으로 기대됩니다.

커뮤니티 반응: (언급 없음)

톤앤매너: IT 개발 기술 및 프로그래밍 전문가를 대상으로 하는 전문적이고 정보 전달 중심의 톤앤매너를 유지합니다.