RAG 원전(Lewis 2020) 다시 읽기

2020년 Lewis 등이 발표한 RAG 원전(arXiv:2005.11401)의 핵심 한 줄은 이렇습니다: "모델의 머릿속 지식(파라메트릭 메모리)만으로는 부족하니, 외부 문서를 그때그때 찾아와(비파라메트릭 메모리) 답을 만들자." 그리고 바로 이 한 줄이, 6년이 지난 지금 ChatGPT·Perplexity·구글 AI·네이버 AI탭이 "어떤 콘텐츠를 인용할지"를 결정하는 메커니즘의 설계도입니다. 이 글은 마케팅 트렌드 글이 아니라, 원전을 다시 펼쳐 메커니즘 단위로 읽고, 거기서 AEO·GEO(생성엔진 최적화)에 직접 쓸 수 있는 교훈만 추려내는 작업입니다.

저는 근거 없는 단정을 싫어합니다. 그래서 이 글의 수치와 주장은 전부 출처를 밝힌 연구·공개 벤치마크에서만 가져왔고, 불확실한 것은 정성적으로 표현했습니다. 자, RAG 원전을 처음부터 다시 읽어봅시다.

1. RAG가 풀려던 문제: "외운 것"과 "찾아본 것"의 차이

Lewis 등은 당시 거대 언어모델의 근본적 한계 두 가지를 지적했습니다. 첫째, 모델이 아는 것은 학습 시점에 가중치(파라미터) 안에 압축돼 박제된 지식뿐이라는 점. 둘째, 그 지식을 업데이트하거나, 어디서 나온 정보인지 출처를 대기 어렵다는 점입니다.

일상 비유: 시험장에 들어간 두 학생

이걸 비유로 풀어봅시다.

• 파라메트릭 메모리 = 닫힌 책 시험(closed-book)을 보는 학생. 모든 걸 머리에 외워 들어갑니다. 빠르고 유창하지만, 외운 게 틀렸거나 오래됐으면 자신있게 틀린 답을 적습니다(이게 우리가 "환각"이라 부르는 현상의 한 갈래입니다).
• 비파라메트릭 메모리 = 열린 책 시험(open-book)을 보는 학생. 문제를 받으면 먼저 관련 페이지를 펼쳐 읽고, 그 근거 위에서 답을 씁니다. 출처를 댈 수 있고, 자료만 바꿔 끼우면 지식이 즉시 갱신됩니다.

Lewis의 RAG는 "둘 중 하나"가 아니라 두 메모리를 하나의 모델 안에서 결합합니다. 외운 언어 능력(유창함·추론)은 그대로 쓰되, 사실관계는 그때그때 외부에서 찾아온 문서에 의존하게 만든 것이죠. 이 결합이 RAG라는 이름(Retrieval-Augmented Generation, 검색으로 증강된 생성)의 전부이자 본질입니다.

2. 원전의 작동 구조: retriever + generator

RAG 원전의 아키텍처는 의외로 단순합니다. 두 부품으로 이루어집니다.

질문 q
   │
   ▼
[retriever]  ── 외부 문서 인덱스에서 q와 가장 관련 높은 문서 z 여러 개를 검색
   │            (원전은 DPR 계열의 의미 기반 검색 사용)
   ▼
[generator]  ── q + 검색된 문서 z 를 함께 입력받아 답변을 생성
   │            (seq2seq 생성 모델)
   ▼
최종 답변

여기서 중요한 통찰: 검색기가 후보 문서를 잘못 골라오면, 생성기가 아무리 똑똑해도 답은 그 잘못된 문서를 넘어설 수 없습니다. 열린 책 시험에서 엉뚱한 페이지를 펼쳤다면, 글솜씨가 좋아도 답은 틀리는 것과 같습니다. 이 단순한 사실이 오늘날 AEO의 1순위 명제로 이어집니다. 당신의 콘텐츠가 "검색되는 후보"에 들어가지 못하면, 생성 단계는 시작도 안 됩니다.

RAG-Sequence와 RAG-Token

원전은 검색된 문서를 답변에 반영하는 방식을 두 가지로 제안했습니다. 이 구분은 사소해 보이지만 콘텐츠 전략에 함의가 큽니다.

오늘날 상용 AI 검색은 훨씬 정교해졌지만, RAG-Token의 직관 — 답변의 부분마다 서로 다른 출처가 인용될 수 있다 — 은 그대로 살아 있습니다. 즉 한 답변 안에서 "정의 부분은 위키백과, 수치 부분은 당신의 리포트, 사례 부분은 어느 블로그"처럼 조각조각 인용됩니다. 그래서 한 페이지 안에서도 "인용되기 쉬운 단락"을 의도적으로 설계하는 것이 합리적입니다.

3. 검색이 곧 운명이다: DPR과 의미 기반 검색

RAG 원전의 retriever는 Karpukhin 등의 DPR(Dense Passage Retrieval, arXiv:2004.04906) 계열을 씁니다. DPR의 발견은 명료합니다. 단어가 똑같이 겹치는지를 보는 키워드 검색(BM25)보다, 의미를 벡터로 비교하는 임베딩 검색이 더 잘 찾아온다는 것입니다.

일상 비유: 색인 카드 vs 주제를 아는 사서

• BM25(키워드) = 도서관 색인 카드. "전기차 보조금"이라고 적힌 책만 정확히 찾습니다. "친환경차 지원금"이라고 쓴 책은 단어가 안 겹쳐서 놓칩니다.
• 의미 검색(임베딩) = 주제를 이해하는 사서. "전기차 보조금"을 물으면 "친환경차 지원금" 책도 같은 주제임을 알고 가져옵니다.

그렇다면 의미 검색만 쓰면 될까요? 여기가 원전 이후 실무가 정교해진 지점입니다. 공개 벤치마크들을 종합하면 recall@10(상위 10개 안에 정답 문서가 들어올 확률) 수치가 이렇게 나타납니다.

그래서 현실의 AI 검색은 대개 하이브리드 검색입니다. 키워드 색인과 "주제를 아는 사서"를 동시에 굴리고, 두 결과를 합쳐 순위를 매깁니다(RRF 같은 융합). 이 사실이 콘텐츠에 주는 교훈:

• 의미 검색을 위해 → 주제를 충분히, 맥락과 함께 다뤄야 합니다(짧은 키워드 나열로는 벡터가 빈약해집니다).
• 키워드 검색을 위해 → 사람들이 실제로 치는 정확한 용어·고유명사·수치를 본문에 명시해야 합니다(임베딩이 놓치는 부분을 BM25가 잡습니다).

4. Anthropic이 6년 뒤 증명한 것: 청크에 맥락을 더하라

원전의 retriever는 문서를 잘게 잘라(청크) 인덱싱합니다. 그런데 잘게 자르면 각 조각이 "무엇에 대한 이야기인지" 맥락을 잃습니다. "이 회사는 매출이 3% 늘었다"라는 조각만 떼어놓으면, 어느 회사인지·언제인지 알 수 없어 검색에서 엉뚱하게 매칭됩니다.

Anthropic이 2024년 공개한 Contextual Retrieval 실험(anthropic.com)은 이 문제를 정량화했습니다. 각 청크 앞에 "이 조각이 전체 문서에서 무엇에 해당하는지"를 설명하는 맥락 한 줄을 붙였더니:

이건 RAG 원전의 retriever를 "실패율" 관점에서 다시 측정한 셈입니다. 그리고 콘텐츠 작성자에게는 거의 그대로 번역됩니다. 당신이 직접 각 단락에 맥락을 박아 넣으면, AI가 그 단락을 정확히 검색·인용할 확률이 올라갑니다.

❌약한 예 / ✅강한 예 — 맥락 자족성

❌ 약한 예: "이 방법을 쓰면 전환율이 크게 올랐다. 특히 모바일에서 효과가 좋았다."
→ "이 방법"이 무엇인지, "전환율"이 무엇의 전환인지 조각만 떼면 알 수 없습니다. 검색기가 이 단락을 어떤 질문에 매칭해야 할지 모릅니다.

✅ 강한 예: "이커머스 장바구니 이탈 고객에게 24시간 내 리타게팅 이메일을 보내는 방법은 결제 전환율을 개선하는 대표 전술이며, 데스크톱보다 모바일 세션에서 더 큰 효과를 보였다."
→ 주어·대상·맥락이 단락 안에 자족적으로 들어 있어, 떼어내도 의미가 완전합니다. RAG의 청크가 이 단락 하나만 검색해도 답이 됩니다.

5. 리랭킹: 후보를 "질문과 함께 다시 읽는" 단계

원전 이후 상용 파이프라인에 보편적으로 들어온 단계가 리랭킹(reranking)입니다. 1차 검색이 빠르게 후보 수십 개를 긁어오면, 리랭커(주로 cross-encoder)가 질문과 각 후보를 한 쌍으로 묶어 다시 정독하고 순위를 재배열합니다.

일상 비유: 서류전형과 면접

1차 검색은 서류전형입니다. 키워드·벡터로 빠르게 거릅니다. 리랭킹은 면접입니다. 지원자(후보 문서)를 질문과 마주 앉혀 "이 질문에 정말 맞는 사람인가"를 깊이 봅니다. 비용이 크므로 전체에 못 하고, 1차에서 추린 후보에만 적용합니다.

리랭킹의 효과는 공개 평가에서 NDCG 기준 +5~15점(난도 높은 경우 ~20점)까지 보고됩니다. Anthropic 실험에서도 리랭킹을 더했을 때 실패율이 67% 감소로 가장 크게 떨어졌습니다. 또한 권장값으로 최종적으로 상위 약 20개(top-20) 청크를 생성기에 넘기는 구성이 자주 언급됩니다.

실무 교훈: 리랭커는 "질문과 본문이 의미적으로 정말 맞물리는가"를 봅니다. 그래서 제목·첫 문장에서 질문에 직답하는 구조(이 글이 첫 문장에서 한 것처럼)가 리랭킹 점수에 유리합니다.

❌약한 예 / ✅강한 예 — 질문-답변 정렬

❌ 약한 예 (제목): "우리가 RAG에 대해 알게 된 흥미로운 이야기"
✅ 강한 예 (제목): "RAG란 무엇인가: 검색으로 외부 지식을 끌어와 답을 만드는 구조"

❌ 약한 예 (첫 문장): "요즘 AI 검색이 화제다. 그 배경에는 여러 변화가 있다."
✅ 강한 예 (첫 문장): "RAG는 언어모델이 외부 문서를 검색해 그 근거 위에서 답을 생성하는 방식으로, 2020년 Lewis 등이 처음 제안했다."

6. Lost in the Middle: 검색이 성공해도 위치가 운명을 가른다

원전의 generator는 검색된 문서들을 한 입력 맥락에 쏟아 넣습니다. 그런데 Liu 등 2023(arXiv:2307.03172)은 긴 맥락의 중간에 놓인 정보를 모델이 잘 못 쓴다는 현상을 발견했습니다. 성능이 맥락 위치에 따라 U자형을 그립니다 — 앞과 끝은 잘 보고, 가운데는 흘립니다.

일상 비유: 긴 회의의 가운데 발언

두 시간짜리 회의에서, 사람들은 맨 처음 안건과 맨 마지막 결론은 기억하지만 중간의 누군가가 한 중요한 한마디는 흘려보냅니다. LLM도 비슷합니다. 검색기가 당신의 콘텐츠를 "가져오는" 데 성공해도, 그게 긴 맥락의 한가운데 묻히면 답변에 반영되지 못할 수 있습니다.

콘텐츠 교훈은 단순합니다. 핵심 주장·수치·결론을 단락의 앞이나 끝에 배치하라. 한 단락을 "중간에 핵심을 숨긴" 구조로 쓰지 마세요. 직답 → 근거 → 마무리 직답의 형태가 위치 손실에 강합니다.

7. GEO: 같은 사실도 "어떻게 쓰느냐"가 인용을 가른다

RAG의 generator가 어떤 문장을 인용으로 끌어 쓸지는, 문장의 "형태"에도 영향을 받습니다. Aggarwal 등의 GEO 연구(arXiv:2311.09735, KDD 2024)는 콘텐츠에 통계 수치·출처 인용·전문가 직접 인용문을 더했을 때, 특정 조건에서 생성엔진 내 가시성이 최대 약 40%까지 오를 수 있음을 보고했습니다.

이건 RAG 메커니즘으로 설명됩니다. 생성기는 답변에 "근거가 단단해 보이는" 문장을 선호합니다. 숫자와 출처가 박힌 문장은 모델이 "이건 사실 주장으로 끌어 써도 안전하다"고 판단하기 쉽습니다.

❌약한 예 / ✅강한 예 — 인용 가능성

❌ 약한 예: "하이브리드 검색은 키워드 검색보다 훨씬 잘 찾는다."
✅ 강한 예: "공개 벤치마크 종합 기준 recall@10이 BM25 단독 약 65%, 의미 검색 단독 약 78%인 데 비해, 두 방식을 RRF로 결합한 하이브리드는 약 91%에 이른다."

강한 예는 그 자체로 "검색해 와서 그대로 인용해도 되는 한 덩어리"입니다. RAG-Token 직관(문장 단위로 출처를 갈아끼움)을 떠올리면, 이런 자족적 사실 문장 하나하나가 인용 후보가 됩니다.

8. 그런데 후보에 들어가려면: 크롤러부터 통과해야 한다

아무리 좋은 콘텐츠라도 검색 인덱스에 들어가지 못하면 RAG의 retriever가 가져올 수 없습니다. 열린 책 시험인데, 그 책이 애초에 서가에 없는 셈입니다. AI 엔진들은 각자 크롤러로 웹을 수집합니다.

이들을 robots.txt에서 허용해야 비로소 "후보 진입"이 가능합니다. 참고로 네이버는 외부 크롤러를 차단하는 경향이 있어, 글로벌 AI 엔진은 네이버 콘텐츠를 직접 못 읽고 나무위키·위키백과·티스토리 같은 우회 경로로 정보를 얻는 패턴이 관찰됩니다. 국내 노출을 노린다면 네이버 자체 채널(블로그 등)과 글로벌 노출용 채널을 분리해 생각해야 합니다.

9. 엔진마다 다른 "독서 취향"

RAG 구조는 같아도, 각 엔진의 인덱스와 선호가 달라 인용하는 출처가 크게 갈립니다. 대규모 인용 분석(Profound·Discovered Labs 등)에 따르면 ChatGPT와 Perplexity의 인용 도메인 중복은 약 11%에 그치고, 인용의 약 90%가 엔진마다 다릅니다. 예컨대 ChatGPT는 위키백과 비중(약 47.9%)이 높고, Perplexity는 Reddit 비중(약 46.7%)이 두드러진다는 식입니다.

• ChatGPT — 위키백과·커뮤니티 성향
• Gemini — 구글 색인 기반, E-E-A-T(경험·전문성·권위·신뢰) 중시
• Claude — 근거가 약한 콘텐츠를 보수적으로 걸러내는 경향(Citations API 보유)
• Grok — 실시간 웹 + X 스트림, 인용 정확도 편차
• Perplexity — 실시간·인라인 인용

이것이 "한 엔진에서 잘 나온다"는 결과를 전체로 일반화하면 안 되는 이유입니다. 엔진별로 따로 측정해야 메커니즘이 보입니다.

10. 측정의 함정: 인용은 흔들린다

마지막으로 원전을 읽을 때 빠지기 쉬운 착각 하나. "RAG가 결정론적 검색이니 결과도 일정하겠지"라는 생각입니다. 현실은 다릅니다. temperature=0으로 고정해도 LLM 출력은 흔들립니다(GPU 연산·배치 처리 특성 때문). 한 연구는 2,350억 파라미터급 모델을 1,000회 돌렸을 때 80가지 출력이 나온 사례를 보고했고, AI 가시성의 불확실성을 정량화한 연구들은 인용 빈도가 멱법칙으로 출렁이므로 다중 실행 + 부트스트랩 신뢰구간으로 봐야 한다고 권합니다(관련: arXiv:2603.08924, 6개 모델 480회 실험 arXiv:2602.14349).

즉 "오늘 ChatGPT에 물어보니 우리가 안 나오더라"는 단 한 번의 측정 = 노이즈입니다. 프롬프트 검색량 추정치도 마찬가지로, 패널 모델링 기반의 한계가 있습니다(Conductor: "신뢰할 수 없는 검색량 데이터는 없는 것보다 나쁘다", conductor.com). 측정은 반드시 반복·구간으로 해야 합니다.

원전이 남긴 5가지 실무 체크리스트

Citeon은 이 원리를 제품에 담았다

RAG 원전을 다시 읽으면 결론은 하나로 모입니다. "우리 콘텐츠가 검색 후보에 들어가고, 자족적이고 근거가 단단해서, 여러 엔진에서 반복적으로 인용되는가"를 알아야 합니다. 그런데 위에서 봤듯 단 한 번의 측정은 노이즈이고, 엔진마다 취향이 달라 한 곳 결과를 전체로 일반화하면 안 됩니다.

Citeon은 이 메커니즘을 측정 가능하게 만들었습니다.

• 4엔진 인용 측정(SOV) — ChatGPT·Gemini·Perplexity·Claude에서 브랜드가 실제로 언급/인용되는 비율을 엔진별로 따로 측정합니다(엔진을 합치면 메커니즘이 가려지므로 분리).
• 사이트 진단엔진 — URL을 넣으면 SEO·AEO·GEO 관점에서 "후보 진입성·자족성·근거 강도"를 점수화하고 한국어로 처방합니다.
• 경쟁사 역추적 — 같은 질문에서 어떤 경쟁 도메인이 인용되는지 되짚어, 그들이 어떤 형태의 콘텐츠로 들어갔는지 봅니다.
• 주간 모니터 추이 — 인용이 흔들리는 특성을 감안해 단발이 아닌 반복 추이로 봅니다.

지금 비용 없이(₩0) 내 사이트가 AI 검색에서 어떻게 읽히는지 확인해 보세요. → citeon.cloud에서 무료 진단 받기

자주 묻는 질문(FAQ)

참고자료

• Lewis et al. 2020, Retrieval-Augmented Generation (arXiv:2005.11401)
• Karpukhin et al. 2020, Dense Passage Retrieval (arXiv:2004.04906)
• Liu et al. 2023, Lost in the Middle (arXiv:2307.03172)
• Aggarwal et al. 2023, GEO: Generative Engine Optimization (arXiv:2311.09735)
• Anthropic, Introducing Contextual Retrieval (2024)
• Conductor, Debunking AI Prompt Volume