나도코딩의 영상 **「랭체인 + RAG 5분만에 이해하기」**에서는 ChatGPT 같은 LLM이 모르는 **비공개 문서·사내 자료·개인 데이터**를 활용해 답하도록 만드는 RAG의 기본 원리와, 이를 쉽게 구현하도록 돕는 LangChain의 역할을 설명합니다. ## 왜 RAG가 필요한가? LLM은 학습 시점까지의 공개 지식에는 강하지만, 다음과 같은 정보는 기본적으로 알 수 없습니다. - 우리 회사 내부 매뉴얼 - 가족 여행 일정 - 사내 규정 - 고객별 문서 - 제품 내부 자료 - 내가 보유한 PDF 이런 질문에 답하게 하려면 **질문과 관련된 참고 자료를 함께 제공해야 합니다.** 예를 들어 가족 여행 계획서가 있다면 전체 문서를 모두 넣는 대신, 질문과 관련 있는 항공편 부분만 찾아 LLM에 함께 전달하면 됩니다. 이 원리가 바로 **RAG(Retrieval-Augmented Generation, 검색 증강 생성)** 입니다. ## RAG의 핵심 구조 RAG의 흐름은 단순하게 보면 다음과 같습니다. **사용자 질문 → 관련 문서 검색 → 필요한 문맥 추출 → 질문과 함께 LLM에 전달 → 답변 생성** 오픈북 시험과 비슷합니다. AI가 모든 내용을 외우는 것이 아니라, 질문이 들어오면 필요한 자료를 찾아 참고한 뒤 답하는 구조입니다. ## 왜 문서 전체를 그냥 넣지 않을까? 책 한 권이나 수백 페이지짜리 매뉴얼을 매번 프롬프트에 통째로 넣는 방식은 비효율적입니다. 문제가 되는 이유는 다음과 같습니다. - 입력 토큰이 너무 많아짐 - 비용 증가 - 응답 지연 - 관련 없는 정보가 섞임 - 긴 컨텍스트 때문에 오히려 정확도가 떨어질 수 있음 그래서 RAG는 **질문과 가장 관련 있는 일부 문서만 골라서 넣는 방식**을 사용합니다. ## RAG 시스템의 기본 단계 실제 시스템에서는 보통 다음 흐름을 거칩니다. ### 1. 문서 불러오기 PDF, 텍스트, 웹페이지, 사내 문서 등 외부 데이터를 가져옵니다. ### 2. 문서 나누기 긴 문서를 그대로 저장하지 않고 검색하기 좋은 작은 단위로 나눕니다. 이를 흔히 **Chunking**이라고 합니다. ### 3. 임베딩 각 문서 조각을 의미를 표현하는 숫자 벡터로 변환합니다. ### 4. 벡터 저장 임베딩된 문서를 Vector DB에 저장합니다. ### 5. 질문 검색 사용자가 질문하면 질문도 임베딩하고, 의미가 가장 가까운 문서 조각을 찾습니다. ### 6. LLM에 전달 검색된 문맥과 원래 질문을 함께 LLM에 전달합니다. ### 7. 답변 생성 LLM은 외부 문서를 근거로 답변합니다. 즉, 핵심 구조는: **Document → Chunk → Embedding → Vector DB → Retrieval → Prompt → LLM** 으로 볼 수 있습니다. ## LangChain은 어떤 역할을 하나? RAG를 직접 구현하려면 여러 기능을 연결해야 합니다. - 문서 로딩 - 텍스트 분할 - 임베딩 - Vector DB - 검색 - Prompt 구성 - LLM 호출 LangChain은 이런 작업을 미리 만들어진 구성 요소로 제공합니다. 영상에서는 이를 **AI 개발용 레고 블록**에 비유합니다. 필요한 구성 요소를 조합하면 RAG 기반 서비스를 빠르게 만들 수 있습니다. ## PDF Q&A 챗봇 예시 영상에서는 PDF 파일을 업로드하고 해당 문서 내용에 대해 질문하면 답해 주는 챗봇을 예로 보여줍니다. 사용 흐름은 다음과 같습니다. 1. PDF 업로드 2. 문서 분할 3. 임베딩 생성 4. Vector DB 저장 5. 질문 입력 6. 관련 문서 검색 7. 검색 결과를 LLM에 전달 8. 문서 기반 답변 생성 이 구조는 가장 전형적인 **Vector RAG** 형태입니다. ## 어디에 활용할 수 있을까? ### 행사 안내 챗봇 행사 일정, 장소, 입장료, 주차, 음식물 반입 규정 등을 문서로 넣어 두면 참가자가 자연어로 질문할 수 있습니다. ### 제품 매뉴얼 Q&A 제품 설명서와 AS 문서를 넣어 두면 사용자가 고장 증상이나 사용 방법을 질문할 수 있습니다. ### 고객센터 자동화 FAQ와 기존 상담 데이터를 기반으로 반복 문의를 자동 처리할 수 있습니다. ### 사내 문서 검색 업무 매뉴얼, 규정, SOP, 정책 문서 등을 연결해 사내 전용 AI 검색 시스템을 만들 수 있습니다. ### 쇼핑몰 Q&A 기존 상품 문의와 답변을 축적해 새로운 고객 질문에 자동으로 대응할 수 있습니다. ## RAG의 장점 RAG를 사용하면 LLM 자체를 다시 학습시키지 않고도 **새로운 정보나 비공개 데이터**를 빠르게 반영할 수 있습니다. 주요 장점은 다음과 같습니다. - 최신 문서 반영이 쉬움 - 사내·개인 데이터 활용 가능 - 모델 재학습 불필요 - 근거 기반 답변 가능 - 검색 결과를 함께 보여 주면 출처 추적 가능 ## RAG와 파인튜닝은 다르다 RAG는 모델의 지식을 직접 바꾸는 것이 아닙니다. 질문할 때마다 외부 문서를 찾아 **컨텍스트로 넣어 주는 방식**입니다. 반면 파인튜닝은 모델 자체의 행동이나 출력 패턴을 학습시키는 방식입니다. 일반적으로 사내 문서 Q&A나 최신 문서 검색에는 RAG가 훨씬 적합합니다. ## 핵심 정리 RAG를 가장 간단히 설명하면 다음과 같습니다. > **AI가 모르는 정보를 외우게 만드는 것이 아니라, 질문할 때 필요한 자료를 찾아 보여 주는 방식** 그리고 LangChain은 이 과정을 쉽게 구현하도록 돕는 프레임워크입니다. 전체 구조를 한 줄로 정리하면: **내 문서 → 검색 가능한 형태로 저장 → 질문과 관련된 부분 검색 → LLM에 참고 자료로 전달 → 문서 기반 답변** 이 흐름을 이해하면 이후 Vector DB, Embedding, Retriever, Agentic RAG 같은 개념도 훨씬 쉽게 연결해서 볼 수 있습니다.