AI&빅데이터쇼: 온디바이스 AI 기술 상용화 현황 및 주요 적용 사례 분석

핵심 기술

AI&빅데이터쇼에서 온디바이스 AI 제품들의 본격적인 상용화 추세를 확인할 수 있었습니다. 인터넷 연결 없이도 문서 요약, 실시간 다국어 안내, 순찰 등 다양한 기능을 수행하는 키오스크, 로봇, PC 등이 전시되었습니다.

기술적 세부사항

• 페르소나AI: TG삼보와 협력하여 48억개 매개변수의 소형언어모델(sLM)이 탑재된 노트북 'A600' 공개.
  • PC 내 문서 기반 요약, 번역, 문서 생성 가능.
  • 자체 스테이블 디퓨전 기반 이미지 및 최대 3초 길이 동영상 생성 모델 탑재.
  • 검색 증강 생성(RAG) 기술과 자체 LLM을 활용한 PC 문서 자유 이용 기능 강조.
  • 주요 타겟: 공공 조달 시장.
• 이스트소프트: AI 디지털휴먼을 활용한 실시간 안내 키오스크 및 AI 튜터 선보임.
  • AI 키오스크: 인터넷 연결 없이 코엑스 행사장 안내를 다국어로 제공하며 음성 및 텍스트 동시 출력.
  • AI 튜터: 수업 및 프레젠테이션 환경에서 실시간 질의응답 가능한 디지털휴먼 영상 제공.
  • 전자칠판과 연동하여 강의장, 회의장에서 활용 가능.
• 마음AI: 파운데이션 모델 '수다(SUDA)'를 탑재한 AI 자율 경비로봇 '소라(SORA)' 공개.
  • 현장 시연 및 AI 키오스크, 온디바이스 AI 홈 인터페이스 통한 실시간 음성 대화 체험 제공.

개발 임팩트

온디바이스 AI의 발전은 데이터 프라이버시 강화, 응답 속도 향상, 네트워크 의존성 감소 등 다양한 이점을 제공하며, 특히 독립적인 연산이 중요한 특정 산업 분야에서의 AI 활용성을 크게 높일 것으로 기대됩니다. 또한, 소형 언어 모델(sLM)의 발전은 고성능 하드웨어 없이도 AI 기능을 구현할 수 있는 가능성을 보여줍니다.

커뮤니티 반응

(본문 내 직접적인 커뮤니티 반응 언급 없음. 이스트소프트 관계자의 '해외 교육박람회에서 AI 튜터에 대한 현장 반응이 뜨거웠다'는 언급은 긍정적 시장 반응을 시사합니다.)