구글, 제미나이 '사고 사슬' 은폐로 항의 이어져

카테고리

인공지능

서브카테고리

인공지능

대상자

AI 개발자, 기업의 AI 시스템 설계자, 모델 제공사

핵심 요약

• 사고 사슬(CoT) 기능 비활성화로 개발자들의 강력한 반발 발생
• 구글은 CoT를 요약 형태로 대체, 모델 성능 영향 없음 주장
• CoT는 디버깅 도구 이상으로, 기업의 신뢰 확보 요소로 작용

섹션별 세부 요약

###구글의 CoT 기능 비활성화 및 개발자 반응

• 구글이 제미나이 2.5 프로에서 사고 사슬(CoT) 기능을 비활성화하면서, 이를 활용해 왔던 개발자들의 반발이 일고 있다.
• CoT는 모델이 답을 도출하기 전 중간 사고 단계를 드러내는 기능으로, 복잡한 문제 해결 구조를 파악하고 디버깅에 참고되는 핵심 도구로 여겨진다.
• 개발자들은 CoT 기능이 없어지면서 "왜 모델이 실패했는지 추측밖에 할 수 없다"며 문제 해결 과정이 답답하고 좌절스럽다고 호소하고 있다.

###CoT 기능의 중요성과 기업의 신뢰 확보

• CoT는 단순한 디버깅 도구 이상으로, 복잡한 작업을 수행해야 하는 에이전트형 AI 시스템 개발 및 프롬프트 정교화에 필수적인 도구이다.
• 기업에서는 모델의 의사결정 과정을 투명하게 보여주는 것이 신뢰 확보의 핵심 요소로 작용한다고 강조한다.
• 오픈AI와 구글이 추론 내용을 감추는 현상은 오픈소스 모델(예: 딥시크-R1, QwQ-32B)에게 기회를 제공한다고 분석된다.

###구글의 대응과 전문가의 비판

• 구글은 개발자 전용 도구인 AI 스튜디오에서 CoT 기능 복원 방안을 검토 중이며, API에서 추론 과정을 코드로 불러오는 기능 도입을 계획하고 있다.
• 수바라오 캄밤파티 교수는 "LLM이 생성하는 중간 토큰을 '생각'이나 '추론의 흔적'으로 간주하는 것은 위험한 환상일 수 있다"고 경고하며, 결과 중심의 요약 설명이 일반 사용자에게 더 유리하다고 지적했다.

###CoT 숨기기의 전략적 배경

• CoT 숨기기는 원래 오픈AI가 경쟁사에 영업 비밀을 감추려는 전략적 조치로 활용되었으며, 모델의 원시 추론 데이터가 경쟁사에게 수집되어 '지식 증류'에 활용될 수 있기 때문이다.
• 추론 과정을 비공개로 전환하면, 다른 기업들이 동일한 성능을 모방하기 어려워지며, 이는 모델 제공자에게 중요한 경쟁 우위가 된다는 분석이 있다.

결론

• 사고 사슬(CoT) 기능은 디버깅과 의사결정 투명성에 필수적이다.
• 구글의 CoT 기능 비활성화는 단순한 기능 변경이 아니라, AI 개발자 및 기업의 신뢰와 혁신에 영향을 줄 수 있는 전략적 선택이다.
• 개발자와 기업의 요구에 따라 CoT 기능 복원 및 개선이 필요하다.