Featherless, Hugging Face와 협력하여 6,700개 이상의 LLM 모델에 대한 서버리스 추론 서비스 확장

핵심 기술

Featherless는 Hugging Face의 방대한 오픈 소스 LLM 생태계에 대한 서버리스 추론 서비스를 제공하며, 이를 통해 개발자와 연구자들이 6,700개 이상의 모델을 인프라 관리 없이 손쉽게 배포하고 활용할 수 있게 됩니다.

기술적 세부사항

• 광범위한 모델 지원: DeepSeek, LLaMA, Mistral, Qwen 등 6,700개 이상의 오픈 가중치 LLM 모델을 즉시 사용 가능하며, 100회 이상 다운로드된 모든 Hugging Face 모델은 자동으로 Featherless에 온보딩됩니다.
• 서버리스 및 확장 가능 인프라: 평균 250ms 미만의 모델 콜드 스타트 시간을 제공하며, GPU나 컨테이너 관리 없이 인프라 부담 없이 모델을 실행할 수 있습니다.
• 자동 모델 온보딩: Hugging Face에서 100회 이상 다운로드된 모델은 별도의 설정 없이 자동으로 Featherless에서 접근 가능하도록 통합됩니다.
• 무제한 사용 및 예측 가능한 가격: Featherless 구독 시, 사용량 제한, 토큰별 과금, 예상치 못한 비용 없이 모델을 무제한으로 실행할 수 있습니다.
• Hugging Face 플랫폼 통합: 2025년 6월 12일부터 Hugging Face 플랫폼 내에서 직접 Featherless 추론을 호출할 수 있으며, 라우트된 요청 또는 사용자 정의 키/직접 호출 방식을 지원합니다.
• 비용 효율성: RWKV와 같은 대체 아키텍처 연구를 통해 추론 비용을 최대 10배 절감합니다.

개발 임팩트

• 접근성 향상: 복잡한 인프라 설정 및 관리 부담 없이 누구나 최신 AI 모델에 쉽게 접근하고 활용할 수 있게 됩니다.
• 개발 속도 증진: 모델 배포, 미세 조정, 벤치마킹 과정이 간소화되어 프로토타이핑 및 애플리케이션 개발 속도를 높일 수 있습니다.
• 생산성 및 확장성: 서버리스 아키텍처를 통해 트래픽 변동에 유연하게 대처하며, 예측 가능한 비용으로 서비스를 확장할 수 있습니다.

커뮤니티 반응

Featherless AI의 공동 창립자인 Eugene Cheah는 이번 협력을 "Featherless AI가 오픈 소스 모델 호스팅에서 Hugging Face가 했던 일을 추론 분야에서 수행하며, 이를 간단하고 접근 가능하며 확장 가능하게 만든다"고 평가하며, "모든 사람이 전 세계 AI 모델 컬렉션에 즉시 접근할 수 있는 미래를 향한 큰 걸음"이라고 밝혔습니다.