미국서 기업용 모듈형 AI 컴퓨팅 장치 등장...월 68만원으로 5명 사용

카테고리

프로그래밍/소프트웨어 개발

서브카테고리

인공지능, 머신러닝, DevOps

대상자

• 기업 IT 담당자, AI 도입을 고려하는 중소기업 관리자, 데이터 분석 담당자
• 난이도: 중간 (AI 도입 경험 없이도 사용 가능)

핵심 요약

• 레모니(Lemony)는 온프레미스 AI 컴퓨팅 장치로, 클라우드 의존 없이도 대형 언어 모델(LLM)을 로컬에서 실행 가능
• 플러그 앤 플레이 방식의 하드웨어 노드로, 사내 데이터의 보안성과 프라이버시 보호를 강화
• IBM Granite, 제트브레인스, 샤라소프트 등과의 협업을 통해 산업별 맞춤형 AI 기능 제공

섹션별 세부 요약

1. 레모니의 개요 및 특징

• 레모니는 샌드위치 크기의 소형 온프레미스 AI 컴퓨팅 장치로, AI 박스(AI in a Box)로 소개됨
• 플러그 앤 플레이 방식의 하드웨어 노드로, 클라우드 사용 없이도 AI 기능을 로컬에서 실행 가능
• 데이터 프라이버시 및 규제 준수 리스크를 회피하면서도 고급 AI 기능을 지원

2. 기능 및 사용 용이성

• 사용자는 단순히 장비를 PC나 사내 네트워크에 연결하고 문서를 업로드하면 바로 AI 기능 사용 가능
• 개발자나 IT 전문가가 아니더라도 AI 도입이 가능하도록 설계됨
• RAG(Retrieval-Augmented Generation) 기능을 포함해 내부 문서 검색 및 활용 가능

3. 기술 스택 및 파트너십

• 각 노드는 LLM, 경량 AI 에이전트, RAG 기능까지 포함된 전체 기술 스택을 자체 구동 가능
• IBM Granite LLM, 제트브레인스 AI 코딩 도구, 샤라소프트 공공/헬스케어 지원과 협업
• 연합형(federated) 아키텍처로 부서별 AI 인사이트 공유 및 통제 가능

4. 가격 및 확장성

• 월 499달러(약 68만원)에 최대 5명 사용자 지원, 하드웨어 및 기술 지원 포함
• 노드 추가 구매 시 가격 인하 가능, 부서별 노드 적층으로 고급 AI 환경 구축 가능
• 2주간 무료 체험 제공, 미국 및 유럽에서 생산 중

결론

• 레모니는 기업이 로컬 환경에서 안전하게 AI 기능을 실행할 수 있는 솔루션으로, 보안성과 사용 편의성을 모두 제공하며, 중소기업 및 데이터 보호가 중요한 산업 분야에 적합한 AI 컴퓨팅 장치이다.