AWS, 엔비디아 그레이스 블랙웰 기반 차세대 AI 인프라 'P6e-GB200 울트라서버' 출시: AI 모델 훈련 및 추론 가속화

핵심 트렌드

AWS가 엔비디아의 최신 그레이스 블랙웰 슈퍼칩을 탑재한 'P6e-GB200 울트라서버'를 출시하며, 대규모 AI 모델의 훈련 및 실시간 추론 성능을 혁신적으로 향상시키고 있습니다.

주요 변화 및 영향

• 강력한 성능 향상: 엔비디아 그레이스 블랙웰 슈퍼칩을 기반으로 최대 72개의 GPU를 연결, 360페타플롭스 성능과 13.4TB GPU 메모리를 제공하여 프론티어급 AI 모델 훈련 및 동시성 추론에 최적화되었습니다.
• 복잡한 모델 지원: 전문가 혼합(MoE) 모델과 같은 복잡한 AI 아키텍처에서도 빠르고 일관된 응답을 보장하며, 분산 서빙 최적화에 강점을 가집니다.
• 범용성 및 호환성: 8개 GPU 구성으로 범용 AI 워크로드도 지원하며, 기존 P5en 대비 GPU 연산 성능 최대 2.25배, 메모리 1.27배 향상과 코드 수정 없는 마이그레이션 가능성을 제공합니다.
• 안정성 및 효율성: AWS 니트로 시스템 기반의 보안성과 '라이브 업데이트' 기능으로 안정성을 높였으며, 3세대 EC2 울트라클러스터와 결합 시 전력 소비 40%, 케이블링 80% 이상 절감 효과를 보입니다.
• 고밀도 및 효율적 냉각: 액체-칩 방식의 리퀴드 냉각 시스템을 적용하여 높은 밀도와 효율성을 확보했습니다.
• 운영 편의성: 세이지메이커 하이퍼팟, EKS 통합, DGX 클라우드 연동 등을 통해 GPU 클러스터 관리 및 확장을 용이하게 합니다.

트렌드 임팩트

이번 AWS의 신규 AI 인프라 출시는 기업들이 더욱 복잡하고 거대한 AI 모델을 효율적으로 개발하고 운영할 수 있는 기반을 마련했습니다. 특히, 대규모 언어 모델(LLM) 및 생성형 AI 서비스 개발에 필수적인 고성능 컴퓨팅 환경에 대한 수요를 충족시키며, AI 기술 발전의 속도를 가속화할 것으로 기대됩니다.

업계 반응 및 전망

엔비디아의 최신 기술과 AWS의 클라우드 인프라가 결합된 이 솔루션은 AI 워크로드에 대한 클라우드 전환 및 고성능 컴퓨팅 시장의 경쟁을 심화시킬 것으로 전망됩니다. 기업들은 이러한 고성능 인프라를 통해 AI 모델 개발 및 배포의 시간과 비용을 크게 절감할 수 있을 것입니다.