영국서 AI 챗봇 오류로 인한 '보험 상품' 등장

카테고리

트렌드

서브카테고리

인공지능

대상자

• AI 도입 기업 및 보험 업계 관계자
• 중간 이상 난이도 (AI 리스크 관리와 보험 상품 이해 필요)

핵심 요약

• AI 챗봇 오류로 인한 손해를 보상하는 보험 상품 출시 (로이드 오브 런던, 아르밀라 개발)
• 기존 보험 상품보다 AI 성능 저하 기준으로 보상 범위 확대 (예: 95%→85% 정확도 하락 시 보상)
• AI 오작동 사례 증가 (버진 머니, DPD, 에어캐나다 등 기업 사례)

섹션별 세부 요약

1. AI 오류 보상 보험 상품 출시

• 로이드 오브 런던과 아르밀라(Y Combinator 지원)가 AI 오작동으로 인한 기업 손실을 보상하는 보험 상품 출시
• 보상 범위: 제3자 배상금, 법적 비용 포함
• CEO 카르틱 라마크리쉬난 발언: "AI 기술 채택 가속화에 기여"

2. AI 오작동 사례와 리스크 증가

• 버진 머니 챗봇: "버진" 단어 사용 금지 훈계 논란
• DPD 챗봇: 욕설 발생으로 기능 중단
• 에어캐나다: 잘못된 할인 안내로 법원 판결
• AI 리스크 확대로 인한 보험 수요 증가

3. 기존 보험의 AI 보상 한계

• 일반 기술 책임 보험: AI 손해 보상 한도 낮음 (예: 500만달러 한도 상품에서 2만5000달러만 보상)
• 아르밀라 상품: 성능 저하 기준(예: 95%→85% 정확도 하락)으로 보상 범위 확대

4. 아르밀라 보험의 운영 방식

• 사전 AI 모델 성능 평가 후 보험 인수
• 성능 저하 확인 시 손실 보전 (예: 챗봇 정확도 하락 시 보상)
• 초서(로이드 보험사)의 엄격한 위험 평가 기준 강조

결론

• AI 리스크 관리의 핵심 전략은 보상 범위 확대와 성능 기준 기반 보험 상품 도입
• AI 도입 기업은 사전 성능 평가와 보험 가입을 통해 리스크 완화 필요
• 보험 업계는 AI 오류 대응 전략 확대를 통해 신시장 개척 가능