트렌드 분석 요약

호주 정부에 44만 달러 상당의 보고서를 제출한 딜로이트가 생성형 AI(GPT-4o)를 활용하는 과정에서 다수의 오류와 허위 인용을 포함한 부실 보고서를 제출하며 일부 환불 결정을 내린 사건은, IT 및 비즈니스 컨설팅 분야에서 생성형 AI 도입이 야기하는 투명성 및 전문성 확보 문제를 수면 위로 끌어올렸습니다.

주요 변화 및 영향

• 생성형 AI 활용의 명암: 딜로이트는 Azure OpenAI GPT–4o를 보고서 작성에 사용했음을 부록에 명시했으나, 오류의 직접적 원인으로 인정하지 않아 AI 책임 소재에 대한 논란이 발생했습니다.
• 전문성 의구심 제기: 정부 및 컨설팅 업계는 AI 활용으로 인한 컨설팅 회사의 전문성 약화에 대한 우려를 표하며, 인간의 전문성과 AI의 역할을 명확히 구분하고 검증할 필요성을 제기합니다.
• 투명성 요구 증대: 보고서 부록에 AI 활용 사실을 추가했지만, 초기 보고서에서는 명시되지 않았던 점은 컨설팅 서비스 제공 과정에서의 투명성 확보가 중요하다는 점을 시사합니다.
• 결과물의 신뢰성 문제: AI의 '환각(hallucination)' 현상으로 인해 존재하지 않는 인용문이나 허위 자료가 보고서에 포함되어, 보고서 자체의 신뢰성에 심각한 의문이 제기되었습니다. 특히 수정된 보고서에서도 허위 인용문이 오히려 늘어나는 등 개선되지 않은 측면이 드러났습니다.
• 계약 및 환불: 보고서 오류로 인한 일부 환불 결정은 컨설팅 서비스 제공의 품질 보증 및 계약 이행 책임에 대한 중요한 선례를 남깁니다.
• 사회적 파장: 해당 사건은 컨설팅 업계 전반의 AI 활용 현황과 윤리적 기준, 그리고 발주처의 AI 활용 검증 절차 강화 필요성을 사회적으로 부각시키는 계기가 되었습니다.
• 컨설팅 산업 모델에 대한 비판: 일부 비판론자들은 대형 컨설팅사의 'A팀/B팀' 전환, 실질적 업무 수행자의 신입급 또는 AI 활용, 파트너 급 인건비 지불 대비 낮은 품질 등의 문제점을 지적하며, 컨설팅 산업의 비효율성과 투명성 부족을 비판했습니다.

트렌드 임팩트

이번 사건은 생성형 AI가 가져올 생산성 향상의 이점과 함께, 책임 소재 불분명, 결과물 신뢰성 저하, 전문성 약화라는 새로운 위험 요소를 동시에 부각시켰습니다. 이는 향후 AI 활용에 대한 사회적, 제도적 논의를 촉발하고, 관련 가이드라인 및 규제 마련의 필요성을 강조합니다.

업계 반응 및 전망

노동당 상원의원은 딜로이트의 부분 환불이 '부실 작업에 대한 불충분한 사과'라며 강하게 비판했습니다. 이는 정부 및 공공 부문에서 외부 컨설팅 의뢰 시, AI 활용 여부와 함께 실제 전문가의 검증 및 책임 소재를 명확히 하려는 움직임을 더욱 강화시킬 것으로 예상됩니다. 또한, 컨설팅 업체는 AI 활용에 대한 투명성을 높이고, 결과물의 품질과 신뢰성을 보장하기 위한 내부 프로세스를 재정비해야 할 필요성에 직면하게 될 것입니다. 일부에서는 '컨설팅 회사 대신 ChatGPT 구독을 하는 게 낫겠다'는 극단적인 의견도 나올 정도로, 컨설팅 산업의 근본적인 가치와 역할에 대한 재정립이 요구되고 있습니다.