요약
외부 지식 소스를 활용하여 LLM의 답변 생성 능력을 보강하는 가장 기본적인 RAG 구조
모델 파라미터에 없는 지식(사내 문서, 최신 정보)을 검색으로 주입해, 재학습 없이 정확하고 근거 있는 답변을 만들게 함. 모든 고급 RAG 기법의 출발점.
작동 방식 (3단계)
- 인덱싱 (Indexing): 문서들을 일정한 크기로 분할하고, 각 청크를 벡터로 변환하여 Vector DB에 저장
- 검색 (Retrieval): 사용자의 질문을 벡터로 변환한 뒤, Vector DB에서 의미적으로 가장 유사한 청크를 K개(예: 5개) 검색
- 생성 (Generation): 검색된 청크들을 질문과 함께 프롬프트에 담아 LLM에 전달 → LLM이 이 정보를 참고해 최종 답변 생성
한계 → 고급 기법으로
- 질문과 문서의 표현이 다르면 검색 실패 → HyDE, 쿼리 변환
- 검색 결과에 노이즈 포함 → Reranking
- 단일 검색으로 부족한 복합 질문 → Graph RAG, 멀티스텝 검색
- 전체 개선 로드맵은 Advanced RAG Techniques 참고