"정확성 없는 AI는 리스크"…포티투마루 김동환, 신뢰성 기술 강조

카테고리

데이터 과학/AI

서브카테고리

인공지능, 머신러닝, 데이터 분석

대상자

AI 개발자, 기업 리더, 데이터 과학자, AI 윤리 및 정책 담당자

• 난이도: 중급 이상 (AI 기술 이해 필요)

핵심 요약

• 정확성 문제는 AI 기술의 리스크 요소로 간주되어야 하며, 환각(hallucination)은 LLM의 구조적 한계로 인해 지속적으로 발생
• 검색증강생성(RAG)과 기계독해(MRC) 기술을 병행 활용하여 정확도와 신뢰성 향상 가능
• 포티투마루는 자체 파운데이션 모델 'LLM42' 및 AI 신뢰성 인증 'CAT'을 통해 신뢰성 확보를 강조

섹션별 세부 요약

1. AI 정확성 문제의 중요성

• LLM 기반 AI는 정확도 80~85점 수준으로, 환각 문제로 인해 기업의 의사결정 및 법적 책임을 유발할 수 있음
• 2022년 챗GPT의 환각 사례(예: '세종대왕이 맥북을 던졌다')로 LLM의 한계가 드러남
• LLM은 확률 기반 언어 생성 방식(트랜스포머)으로 인해 사실관계 오류 발생 가능성 있음

2. 신뢰성 강화를 위한 기술적 접근

• RAG 기술을 통해 AI가 응답 전 외부 데이터를 검색하여 환각 가능성을 줄임
• MRC 기술을 활용하여 도메인 특화 정확도 확보 가능
• LLM과 MRC는 학생과 우등생에 비유되며, 목적과 맥락에 따라 선택적으로 조합 필요

3. 포티투마루의 신뢰성 강화 전략

• 자체 파운데이션 모델 'LLM42' 개발로 단순한 성능 향상이 아닌, 신뢰성과 책임성 확보를 목표
• AI 신뢰성 인증 'CAT' 획득으로 15개 항목(정확도, 보안, 설명 가능성, 프라이버시 등) 기준 충족
• TTA와 협력하여 '신뢰할 수 있는 인공지능 개발 가이드' 제작 참여

4. 조직 차원의 신뢰성 확보 노력

• 로우코드 기반 품질 점검 도구 개발로 비개발자도 활용 가능
• 생성형 레드팀 챌린지 실시로 외부 개발자가 시스템 직접 검증 가능
• 시스템 외부 개방을 통한 실시간 피드백 반영으로 지속적인 개선 및 정확도 향상

결론

• *AI의 신뢰성 확보는 기술적 개선과 조직 차원의 노력이 병행되어야 한다. RAG 및 MRC 기술을 활용한 정확도 향상과 'LLM42', 'CAT' 같은 기술 및 인증 도입이 필수적이다.**