RAG 시스템의 답변에 대한 신뢰도를 높이고, 잘못된 정보 제공을 최소화하는 데 중점
- 작동 방식:
- 출처 명시: 답변을 생성할 때 어떤 문서의 어떤 부분을 참고했는지 정확한 출처(citation)를 함께 제공.
- 자체 신뢰도 평가: LLM이 생성한 답변이 검색된 컨텍스트와 얼마나 일치하는지 내부적으로 평가(Faithfulness Score)합니다. 점수가 낮으면 답변이 부정확할 수 있음을 사용자에게 경고.
- 정보 부족 시 거절: 검색된 정보가 질문에 답하기에 불충분할 경우, "정보가 부족하여 답변할 수 없습니다"와 같이 솔직하게 답변을 거절.
- 장점: 사용자가 답변을 신뢰하고 검증할 수 있게 하여, 특히 금융, 의료, 법률 등 정확성이 중요한 분야에서 RAG의 활용도를 높임.