제목

제가 내 에이전트를 호출합니다 🤖

카테고리

프로그래밍/소프트웨어 개발

서브카테고리

인공지능

대상자

AI 에이전트 개발자, LLM 기반 시스템 설계자, 소프트웨어 엔지니어

(난이도: 중급 이상, LLM 및 AI 에이전트 기술 기반 개발 경험 필요)

핵심 요약

• LLM 및 Agentic Workflow의 개념을 기반으로 한 AI 에이전트 개발의 핵심 원칙을 정리
• RAG(Retrieval Augmented Generation)와 MCP(Model Context Protocol) 등 주요 기술 용어 정의
• 비확정성(Non-determinism) 처리, Guardrail 적용, A/B 테스트 등 실무적 도전 과제와 해결 방안 제시

섹션별 세부 요약

1. 서문: AI 에이전트 개발의 현재 동향

• Sam Bhagwat의 "_Principles of Building AI Agents_" 도서 소개 및 핵심 주제 정리
• GenAI(Generative AI)의 "Software 3.0" 개념과 이전 기술(예: 블록체인)과의 비교
• LLM 기반 에이전트의 확장성과 도전 과제 강조

2. 핵심 용어 정의

• LLM(Large Language Model)

- 예: GPT-4, Llama

• Embedding

- N-차원 벡터로 토큰/문서 의미 표현 (예: [0.12, ..., 0.95])

• MCP(Model Context Protocol)

- 외부 리소스(예: city_db)와 Tool(예: fetch_weather(city)) 활용 규칙 정의

• RAG

- 벡터 데이터베이스(pgvector, Pinecone)를 활용한 문맥 확장 기법

3. 실무적 개발 원칙

• 비확정성(Non-determinism) 대응

- Guardrail 적용 (예: PII 데이터 반환 금지)

- Eval 기반 성능 평가 (예: OpenAI Evals)

• Agentic Workflow 설계

- 그래프 기반 확정적 오케스트레이션 (예: Fetch doc → summarise → email)

• 비용-성능 균형

- 초기 단계: 고정확도 모델(GPT-4) 사용 → 이후 최적화

4. 기술적 도전 과제

• 호스팅 vs 오픈소스 모델 선택 고려사항

- 예: Claude vs DeepSeek

• 사용자 경험(UX) 개선 기법

- 웹소켓(ElectricSQL)을 활용한 실시간 응답 스트리밍

결론

AI 에이전트 개발 시 RAG, MCP, Guardrail 등 핵심 기술을 적용하고, 비용-성능 균형을 고려한 단계적 접근이 필요하며, 비확정성 처리를 위한 Eval과 A/B 테스트 활용이 실무적 성공 요인입니다.