카카오페이 해커톤: AI 기반 금융 용어 사전 '금.용.사.' 개발 및 최적화 사례

핵심 기술

카카오페이 팀 '아 팀이름 안정했따'가 개발한 '금.용.사.(금융 용어 사전)'는 AI, 특히 AWS Bedrock을 활용하여 어려운 금융 용어를 사용자가 이해하기 쉽게 설명하고 관련 금융 상품까지 추천하는 서비스입니다.

기술적 세부사항

• 서비스 목표: 어려운 금융 용어를 AI가 쉽게 설명하고, 관련 금융 상품 추천까지 제공하는 금융 용어 사전 서비스.
• 도메인 특화: 팀이 익숙한 보험 도메인을 중심으로 개발되었으나, 대출, 카드, 투자 등 확장 가능성을 고려하여 설계.
• AI 활용: AWS Bedrock의 Agent와 Knowledge Base를 활용하여 금융 용어 설명 및 관련 상품 추천 기능 구현.
  • Knowledge Base 구성: 금융 용어, 약관 등 정적 자료 및 웹 크롤링 동적 자료 활용. 용도에 따라 보험 용어(정적/동적), 질병 용어(정적/동적), 가상 보험 상품 자료(정적)로 분류하여 RAG 구성.
  • Agent 역할: 용어 간단 소개, 상세 소개, 연관 상품 추천 등 3가지 Agent 구성 및 프롬프트를 통한 역할 정의.
• 프롬프트 엔지니어링: AI 응답의 정확성과 일관성을 높이기 위해 역할, 응답 조건, 출력 형식을 명확히 정의한 구체적인 프롬프트 작성.
  • simple Agent: 텍스트를 컴포넌트 단위로 전달하여 용어 인식 및 간단 설명 (툴팁 형태).
  • detail Agent: 사례를 포함한 상세 설명 및 불릿 포인트 형식의 중요 요점 정리.
  • products Agent: HTML 테이블 형태로 보험사, 상품명, 보장명, 보장 금액 순으로 상품 추천 (보장 금액 높은 순, 중복 방지).
• 성능 최적화 (캐싱):
  • 문제점: API 응답 지연 (30초 이상).
  • 해결책: DynamoDB를 활용한 Key-Value 기반 캐싱 솔루션 도입. AI 생성 결과를 '용어(Key)-설명(Value)' 쌍으로 저장.
  • 결과: 응답 속도 개선 (0.5초 미만).
  • TTL 도입: 캐시 데이터 유효 기간 설정으로 최신 정보 확보 및 주기적 AI 설명 생성 유도.
  • 향후 구상: 비동기적 캐시 업데이트 (AWS Batch, CloudWatch Lambda)를 통한 첫 방문 지연 및 운영자 필요 시 업데이트 구현.
• 용어 선정 기준: 한자어 기반 전문 용어, 질병명 등 의료 관련 용어에 초점.
• 서비스 확장성: 컴포넌트 내부 텍스트 전체 전달 및 전역 상태 저장소 활용으로 다양한 서비스에 쉽게 적용 가능하도록 설계.

개발 임팩트

• AI 기술을 활용하여 사용자들의 금융 용어 이해 장벽을 낮추고 금융 서비스 접근성을 향상시킬 수 있습니다.
• 캐싱 솔루션 도입을 통해 서비스 응답 속도를 획기적으로 개선하여 사용자 경험을 증대시켰습니다.
• 구체적인 프롬프트 엔지니어링 기법을 통해 AI 모델의 응답 품질을 효과적으로 제어하고 원하는 결과를 얻는 방법을 제시합니다.
• 금융 상품 추천 기능을 통해 비즈니스 모델 확장성을 확보하고 잠재적인 수익 창출 기회를 마련했습니다.

커뮤니티 반응

(원문에 직접적인 커뮤니티 반응 언급은 없으나, 리뷰어 한줄평을 통해 긍정적인 평가를 확인할 수 있습니다.)
* 리뷰어 한줄평: "사용자에게 친숙한 서비스를 제공하기 위한 고민과 열정을 가득 느낄 수 있었습니다. 보험과 비슷한 환경으로 고민이 있는 서비스가 있다면 유용한 인사이트를 얻어 가실 수 있을 거예요!"