요약
기존 RAG가 **파이프라인(한 방향 흐름)**이라면, 에이전틱 RAG는 **루프(반복 추론)**다. LLM이 단순 텍스트 생성기가 아니라 스스로 판단하고 행동하는 **추론 엔진(Reasoning Engine)**으로 동작한다. 2026년 기준 프로덕션 AI 애플리케이션의 기본 아키텍처로 자리잡았다.
핵심 구성
User Query
↓
[Router] → 검색이 필요한가? (대화 vs 지식 질문 분류)
↓
[Retriever] → 벡터 스토어에서 문서 검색
↓
[Grader] → 검색된 문서가 충분한가? (LLM이 평가)
├─ No → [Query Rewriter] → 쿼리 재작성 후 재검색 (Loop)
↓ Yes
[Generator] → 답변 생성
↓
[Hallucination Checker] → 답변이 문서에 근거하는가?
├─ No → 재생성 (Loop)
↓ Yes
Final Answer파이프라인 RAG vs 에이전틱 RAG
| 특성 | 파이프라인 RAG | 에이전틱 RAG |
|---|---|---|
| 실행 흐름 | 단방향 (검색→생성) | 루프 (판단→행동→검증→재시도) |
| 실패 처리 | 그대로 출력 | Self-Correction |
| 데이터 소스 | 단일 (벡터 DB) | 다중 (DB, API, 웹 검색 등) |
| 쿼리 처리 | 원본 쿼리 그대로 | 자율적 쿼리 분해/재작성 |
| 비용/지연 | 낮음 | 높음 (토큰 + 지연 증가) |
| 신뢰도 | 보통 | 높음 |
Self-Correction 메커니즘
- 문서 관련성 평가 (Document Grading): 검색 결과를 LLM이 평가해 관련 없는 문서를 필터링하고, 부족하면 쿼리를 재작성
- 환각 검증 (Hallucination Check): 생성 답변이 검색 문서에 실제 근거하는지 검증, 근거 없으면 재생성
- 답변 유용성 평가 (Answer Utility): 최종 답변이 사용자 질문을 실제로 해결하는지 평가
→ 이 메커니즘을 특정 방식으로 구현한 것이 Self-RAG(자기 반성)와 Corrective RAG (CRAG)(검색 교정)이다.
주요 프레임워크
- LangGraph: 상태 기반 그래프. 노드(검색·생성·평가)와 조건부 엣지로 루프 표현
- LlamaIndex Workflows: 이벤트 기반 에이전틱 RAG 파이프라인
- CrewAI, AutoGen: 다중 에이전트 협업 기반 RAG
관련 노트
- RAGOps — 운영 관점
- Self-RAG · Corrective RAG (CRAG)