국산 LLM의 반격"…업스테이지, 31B 모델로 '글로벌 70B급' 뛰어넘었다

카테고리

프로그래밍/소프트웨어 개발

서브카테고리

인공지능, 머신러닝

대상자

• *AI 개발자, 언어모델 연구자, 기업 기술 담당자**
• *난이도**: 중급 이상 (모델 성능 지표, 알고리즘 기법 설명 포함)

핵심 요약

• 31B 파라미터를 기반으로 메타/알리바바의 70B급 모델을 벤치마크에서 초월
• 하이브리드 모드(챗 모드+추론 모드) 지원 및 '생각 사슬(CoT)' 기법 적용
• 국산 소형 모델의 성능 경쟁력 강화로 글로벌 시장 진입 시도

섹션별 세부 요약

1. 프리뷰 공개 및 출시 계획

• 2023년 12월 '솔라 프로' 후속 모델로 2024년 7월 정식 출시 예정
• API를 통한 무료 테스트 사용 허용
• 기존 22B에서 31B로 파라미터 확대

2. 성능 지표 및 벤치마크 결과

• MMLU, IFeval 평가에서 '라마 4 스카우트', '큐원 2.5 72B' 등 70B급 모델을 초과
• 한국어 성능에서 KMMLU, 해례 벤치마크에서 최고 수준 기록
• 파라미터 수 증가에 따른 복잡한 수학/코딩 문제 해결 능력 향상

3. 하이브리드 모드 기능

• 사용자 선택에 따라 '챗 모드'(빠른 응답) 및 '추론 모드'(단계적 추론) 제공
• 추론 모드에 생각 사슬(CoT) 기법 적용
• 복잡한 문제 해결 능력 강화

결론

• 31B 파라미터와 하이브리드 모드 기능을 통해 소형 모델의 성능 경쟁력 확보
• 국산 LLM이 글로벌 70B급 모델과 경쟁할 수 있는 기술적 기반 마련
• API 무료 테스트 제공으로 개발자 및 기업의 실무 적용 가능성 증대