레드햇, 오픈소스 기반 비용 효율적인 엔터프라이즈 생성형 AI 전략 발표

핵심 기술: 레드햇은 오픈소스 커뮤니티 기여와 엔터프라이즈 오픈소스 AI 솔루션을 통해 기업의 생성형 AI 활용을 지원하며, 특히 비용 효율적인 AI 운영에 집중합니다.

기술적 세부사항:
* AI 오픈소스 커뮤니티 기여: IBM 리서치와 협력하여 오픈소스화한 그래니트 모델, 인스트럭트랩 LLM 학습 도구 제공.
* 엔터프라이즈 오픈소스 AI 솔루션:
* 레드햇 엔터프라이즈 리눅스 AI (RHEL AI): 로컬 환경에서 AI 개발 기능 제공.
* 레드햇 오픈시프트 AI: 통합 MLops 플랫폼 제공.
* 레드햇 AI 인퍼런스 서버:
* 고성능 AI 추론을 위한 오픈소스 엔진 vLLM 기반.
* 엔터프라이즈 환경 최적화된 추론 특장점 (SLA, 전문 개발자 지원, 빌드/모델 검증).
* 라마, 큐원, 미스트랄, 딥시크 등 다양한 모델 지원 및 프로덕션 배포 최적화.
* 뉴럴매직 인수를 통한 vLLM 최적화 기술 (OpenAI API 호환성, 양자화, 멀티 로라 서빙 등) 통합.
* 하이브리드 클라우드 지원: RHEL AI 및 오픈시프트 AI의 구성 요소로, 하이브리드 클라우드에서 빠르고 비용 효율적이며 확장 가능한 모델 배포 지원.
* 다양한 배포 환경: 레드햇 환경 외 제3자 리눅스 및 쿠버네티스 환경에도 배포 가능.
* 향후 RHEL AI 확장 (2025년 5월 이후): 그래니트, 인스트럭트랩 외 인퍼런스 서버, 최적화 모델 가든, OSS 모델 검증 추가.
* 일관된 AI 기반 구축 지원: 물리적/가상 환경, 프라이빗/퍼블릭 클라우드, 엣지 컴퓨팅 등 다양한 인프라 지원.

개발 임팩트:
* 기업은 오픈소스 기반의 안정적이고 비용 효율적인 생성형 AI 솔루션을 구축할 수 있습니다.
* 하이브리드 클라우드 환경에서의 AI 모델 배포 및 운영 효율성을 크게 향상시킬 수 있습니다.
* 다양한 인프라 환경에서 일관된 AI 개발 및 배포 경험을 제공받습니다.

커뮤니티 반응: (원문에 구체적인 커뮤니티 반응 언급 없음)

톤앤매너: 전문적이고 기술 지향적인 개발자 대상.