결론부터. 2026년 6월 현재, llms.txt가 ChatGPT·Perplexity·구글 AI·Claude 같은 주요 생성 엔진의 인용 확률을 끌어올린다는 공개적으로 검증된 근거는 사실상 없다. 비용이 거의 0이라 깔아둬서 손해 볼 건 없지만, "이걸 깔면 AI에 노출된다"는 마케팅은 과장이다. 진짜로 인용을 좌우하는 건 따로 있다. 이 글은 그 '진짜'가 무엇인지를 메커니즘과 측정된 수치로 따져본다.
나는 david다. AEO 리서처로서 논문과 데이터를 읽고 '왜 그런지'를 메커니즘으로 설명하는 걸 좋아하고, 근거 없는 단정을 싫어한다. llms.txt는 지금 마케팅 업계에서 가장 자주 팔리는 'AI 최적화 한 방' 솔루션 중 하나라서, 한 번 제대로 해부할 가치가 있다.
llms.txt가 뭔지부터 — robots.txt와 무엇이 같고 다른가
llms.txt는 사이트 루트(https://example.com/llms.txt)에 두는 마크다운 파일이다. 사이트의 핵심 페이지·문서를 LLM이 읽기 좋은 형태로 정리한 '큐레이션된 목차'를 제공하자는 제안된 관례(proposed convention)다. 2024년 후반 제안되어 개발자 문서 사이트를 중심으로 빠르게 퍼졌다.
이름이 robots.txt를 닮았지만, 둘은 성격이 완전히 다르다. 비유하자면:
- robots.txt = 건물 입구의 '출입 규칙판'. "이 크롤러는 들어와도 됨/안 됨"을 정한다. 지켜지는 게 (대체로) 강제된 오래된 표준이다.
- llms.txt = 로비에 비치한 '추천 안내 책자'. "우리 건물에서 볼 만한 건 여기예요"라고 친절히 정리해둔 것. 다만 방문객(=AI 엔진)이 그 책자를 집어 읽으리란 보장이 없다.
핵심 차이는 '채택 여부'다. robots.txt는 GPTBot·PerplexityBot 등 주요 크롤러가 실제로 읽고 따른다. 반면 llms.txt는 "읽겠다"고 공개적으로 약속한 주요 검색·답변 엔진이 사실상 없다. 일부 개발자 도구(문서 검색 보조)가 활용한다는 사례는 있지만, 그것과 "ChatGPT가 답변에서 당신을 인용한다"는 전혀 다른 얘기다.
왜 효과를 단정할 수 없나 — AI 인용의 진짜 메커니즘(RAG)
llms.txt의 효과를 따지려면, 먼저 'AI가 어떻게 인용할 출처를 고르는가'를 알아야 한다. 거의 모든 AI 검색은 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 구조로 동작한다. RAG는 Lewis 등이 2020년에 제안한 틀(arXiv:2005.11401)로, 모델의 '머릿속 지식(파라메트릭 메모리)'과 '외부에서 그때그때 찾아온 문서(비파라메트릭 메모리)'를 결합한다. 모델이 다 외우는 대신, 질문이 들어오면 외부 자료를 검색해 그걸 근거로 답을 쓴다.
RAG는 보통 세 단계를 거친다. 이 세 단계 어디에도 "llms.txt를 먼저 본다"는 고정 절차가 없다는 게 핵심이다.
1단계 — 검색(Retrieval): 후보를 끌어온다
질문과 의미가 가까운 문서 조각(청크)을 색인에서 끌어온다. 옛날 키워드 매칭(BM25)이 아니라, 문장을 벡터로 바꿔 '의미'로 찾는 밀집 검색이 주류가 됐다. Karpukhin 등의 Dense Passage Retrieval(arXiv:2004.04906)은 임베딩 기반 의미 검색이 BM25를 능가함을 보였다. 비유하면 BM25는 '단어 색인 카드'고, 밀집 검색은 '주제를 이해하는 사서'다.
둘을 합치면 더 세진다. 공개 벤치마크 종합 기준 recall@10이 의미 단독 약 78%, BM25 단독 약 65%인데, 둘을 합친 하이브리드(RRF)는 약 91%까지 올라간다. 즉 '단어로도 찾고 뜻으로도 찾는' 도서관이 가장 잘 찾는다.
2단계 — 재정렬(Reranking): 후보를 다시 줄 세운다
1차로 끌어온 수십 개 후보를 질문과 '함께' 읽어보는 정밀 모델(cross-encoder)이 다시 순위를 매긴다. 이 단계가 NDCG를 보통 5~15점(어려운 질의에선 ~20점) 끌어올린다. Anthropic의 Contextual Retrieval 분석(2024)에서도 청크에 맥락을 붙이면 검색 실패율이 5.7%→3.7%로 35% 줄고, 여기에 BM25 하이브리드를 더하면 49%, 재정렬까지 얹으면 67% 감소했다. 권장은 상위 20개(top-20)를 모델에 넘기는 것.
3단계 — 생성(Generation): 골라온 근거로 답을 쓴다
모델은 끌어온 청크들을 읽고 답을 합성하면서 인용을 단다. 그런데 여기에도 함정이 있다. Liu 등의 'Lost in the Middle'(arXiv:2307.03172)은 긴 맥락의 중간에 놓인 정보가 손실되는 U자형 현상을 보였다 — 모델은 앞과 끝을 잘 보고 가운데를 흘린다. 그래서 핵심 결론은 문서 앞/끝에 둬야 한다.
자, 이 세 단계를 다시 보자. llms.txt가 끼어들 자리가 어디에도 없다. 인용 여부는 (a) 내 페이지가 색인/크롤 대상에 들어왔는가, (b) 그 안의 청크가 질문과 의미적으로 가까운가, (c) 재정렬에서 살아남는가, (d) 답변 합성에서 인용 가치가 있는가로 결정된다. llms.txt라는 '안내 책자'를 엔진이 읽고 그걸 검색 색인에 반영한다는 단계가 공개적으로 확인된 바 없다.
그럼 정말로 인용을 좌우하는 건? — 측정된 것들
막연한 'AI 최적화' 대신, 효과가 수치로 측정된 것들을 보자. 이게 david가 신뢰하는 근거다.
(1) 크롤러 접근 허용 — robots.txt가 먼저다
아이러니하게도, llms.txt보다 robots.txt가 훨씬 중요하다. AI 엔진이 당신을 인용하려면 먼저 후보 풀(색인)에 들어가야 하고, 그러려면 크롤러가 들어올 수 있어야 한다. 주요 AI 크롤러는 다음과 같다:
| 크롤러 | 주체 | 용도 |
|---|---|---|
| GPTBot · OAI-SearchBot | OpenAI | 학습/검색 색인 |
| PerplexityBot | Perplexity | 실시간 인용 |
| ClaudeBot · anthropic-ai | Anthropic | 학습/검색 |
| Google-Extended | Gemini/AI 색인 제어 |
이들을 robots.txt에서 차단해 두고 llms.txt를 깔아봤자, 문 잠가놓고 로비에 안내 책자만 둔 격이다. 후보 진입 자체가 막힌다.
# robots.txt — AI 후보 풀 진입을 허용하는 최소 설정 예
User-agent: GPTBot
Allow: /
User-agent: OAI-SearchBot
Allow: /
User-agent: PerplexityBot
Allow: /
User-agent: ClaudeBot
Allow: /
User-agent: Google-Extended
Allow: /(2) 콘텐츠를 인용 가능하게 쓰는 법 — GEO에서 +40%가 측정됐다
Aggarwal 등의 GEO 연구(arXiv:2311.09735, KDD 2024)는 생성 엔진 가시성을 실제로 끌어올리는 콘텐츠 기법을 측정했다. 통계 수치 추가, 출처 인용, 전문가 직접 인용문(quotation) 추가가 특정 조건에서 생성 엔진 노출을 최대 약 40%까지 올렸다. 키워드를 욱여넣는 옛날 SEO 트릭은 효과가 없거나 역효과였다.
이게 llms.txt 한 줄보다 훨씬 강력하다. 같은 사실을 어떻게 쓰느냐의 문제다:
- ❌ 약한 예: "저희 제품은 많은 고객이 만족하는 우수한 솔루션입니다."
- ✅ 강한 예: "2026년 1분기 자체 집계에서 도입 고객 312곳 중 87%가 3개월 내 재계약했다(출처: 내부 운영 데이터). 한 도입사 마케팅 책임자는 '응대 시간이 절반으로 줄었다'고 밝혔다."
강한 예에는 RAG가 좋아하는 게 다 있다 — 구체적 수치, 출처 명시, 직접 인용문. 재정렬 단계에서 살아남고 생성 단계에서 인용될 확률이 올라간다.
(3) 답을 앞에, 청크에 맥락을 — 검색 실패율 35~67% 감소
'Lost in the Middle'과 Contextual Retrieval을 합치면 실무 지침이 나온다. 직답을 문서 맨 앞에 두고, 각 섹션이 독립적으로도 말이 되게(맥락 자족) 쓰라. 청크 하나만 떼어 읽어도 무슨 얘긴지 알 수 있어야 검색·재정렬에서 살아남는다.
- ❌ 약한 예: (긴 도입부 3문단 뒤) "...따라서 위와 같은 이유로, 결국 답은 B입니다."
- ✅ 강한 예: "답: B다. 이유는 세 가지다. 첫째... (이하 근거)"
흥미롭게도 llms.txt의 '취지' 중 일부 — 내용을 깔끔한 마크다운으로, 핵심을 정리해서 — 는 이 원리와 통한다. 하지만 그 효과는 llms.txt라는 파일 자체가 아니라 본문 콘텐츠를 그렇게 쓰는 것에서 나온다. 별도 파일에 요약본을 둔다고 본문이 인용되진 않는다.
llms.txt 회의론의 근거 — 무엇이 빠졌나
david로서 정직하게 말하면, llms.txt에 대한 회의는 '효과가 나쁘다'가 아니라 '효과가 있다는 근거가 없다'는 데 있다. 둘은 다르다. 구체적으로:
| 주장 | 근거 상태(2026-06 기준) |
|---|---|
| "주요 엔진이 llms.txt를 크롤·색인에 반영한다" | 공개 확인된 엔진 없음 |
| "llms.txt를 깔면 ChatGPT 인용이 늘어난다" | 통제된 공개 실험·수치 없음 |
| "AI 답변 출처가 llms.txt 기반으로 선택된다" | 인용 패턴 분석과 배치됨(아래) |
| "robots.txt 허용은 후보 진입의 전제다" | 크롤러 동작으로 확인됨 |
| "통계·인용문·출처는 가시성을 올린다" | GEO 연구에서 ~40% 측정 |
실제 인용 패턴을 보면 llms.txt 가설은 더 흔들린다. 대규모 인용 분석(Profound·Discovered Labs 등)에서 ChatGPT와 Perplexity가 인용하는 도메인의 중복은 약 11%에 불과했고, 인용의 약 90%가 엔진마다 달랐다. ChatGPT는 위키백과를 약 47.9% 비중으로, Perplexity는 Reddit을 약 46.7% 비중으로 인용하는 식으로 엔진별 출처 성향이 뚜렷하다. 이 분포를 결정하는 건 도메인 권위·커뮤니티 신뢰·실시간성이지, 사이트가 llms.txt를 뒀는지 여부가 아니다.
엔진별 성향도 정리하면:
- ChatGPT — 위키백과·커뮤니티에 의존.
- Gemini — 구글 색인과 E-E-A-T 신호에 민감.
- Claude — 근거 약한 콘텐츠를 보수적으로 걸러냄(Citations API).
- Grok — 실시간 웹 + X 스트림, 인용 정확도 편차 큼.
- Perplexity — 실시간·인라인 인용.
이 어디에도 'llms.txt를 읽는다'는 항목이 없다. 일부 검색 엔지니어가 llms.txt를 두고 회의적인 반응을 보인 것도 같은 맥락이다 — 검증되지 않은 신호를 엔진이 굳이 신뢰할 이유가 없다는 것이다.
한국 시장 — 네이버에선 더더욱 다른 게임
국내라면 그림이 또 달라진다. 네이버는 외부 크롤러를 차단하기 때문에, 글로벌 AI들은 네이버 본문 대신 나무위키·위키백과·티스토리를 통해 우회 수집한다. 네이버 자체 AI도 빠르게 바뀌고 있다 — 큐:(Cue:)와 클로바X는 2026-04-09 종료됐고, 대화형·에이전틱 AI탭이 2026-06-25~26 전체 정식 출시됐다. AI 브리핑(요약)은 이미 통합검색 쿼리의 20% 이상에 적용되고 있다.
네이버의 노출 알고리즘은 C-Rank(출처 신뢰·전문성) + D.I.A.+(문서 의도) 기반이고, 콘텐츠 5원칙(직접 경험·일관된 주제·진정성·읽기 쉬운 구조·최신성)을 강조한다. 한 표본 분석(272건)에서는 AI 브리핑 인용 출처의 약 58%가 블로그였고, 인용된 글의 약 49%가 통합검색 Top10 밖에서 왔다. 여기서 통하는 건 직접 경험과 신뢰 신호지, llms.txt가 아니다 — 애초에 네이버는 그 파일을 읽는다고 한 적이 없다.
측정의 함정 — "llms.txt 깔았더니 늘었다"를 믿지 마라
설령 누군가 "llms.txt 깔고 인용이 늘었다"고 주장해도, 그게 인과인지 노이즈인지부터 따져야 한다. LLM 출력은 temperature=0에서도 흔들린다(GPU 연산·배치 차이). 한 실험에서 2,350억 파라미터급 모델이 같은 입력 1,000회에 80가지 다른 출력을 냈고, 6개 모델 480회 실험(arXiv:2602.14349)도 비결정성을 보였다. AI 가시성 불확실성을 정량화한 연구(arXiv:2603.08924)는 인용이 멱법칙으로 출렁이므로 다중 실행 + 부트스트랩 신뢰구간을 권한다. 단일 측정은 그냥 노이즈다.
그래서 "llms.txt 깔기 전후 한 번씩 물어봤더니 늘었다"류의 증거는 신뢰할 수 없다. 같은 질문을 반복해도 결과가 80가지로 갈리는데, 1회 비교로 인과를 주장하는 건 동전 한 번 던지고 "앞면이 잘 나오는 동전"이라 단정하는 격이다.
여기에 'AI 프롬프트 검색량' 데이터도 조심해야 한다. 프롬프트 볼륨은 실측이 불가능하고, 시장의 1% 미만 패널을 모델링한 추정치다. Conductor의 분석은 "신뢰할 수 없는 검색량 데이터는 없는 것보다 나쁘다"고 못 박는다. 측정 설계 없이 "이 기법이 효과 있다"를 파는 곳은 일단 의심하는 게 맞다.
그래서 david의 권고 — 우선순위표
llms.txt에 쓸 5분이 아깝진 않다. 비용이 0에 가깝고, 적어도 본문 구조를 한 번 정리하게 만드니까. 다만 그게 'AI 최적화의 핵심'인 것처럼 시간·예산을 쏟지 마라. 근거가 측정된 순서로 정렬하면:
| 우선순위 | 할 일 | 근거 |
|---|---|---|
| 1 | robots.txt에서 AI 크롤러 허용 | 후보 풀 진입의 전제(크롤러 동작) |
| 2 | 본문에 통계·출처·직접 인용문 | GEO ~40% 측정(arXiv:2311.09735) |
| 3 | 직답을 앞에, 청크 맥락 자족 | Lost in Middle + Contextual Retrieval(35~67%) |
| 4 | 엔진별 출처 성향에 맞춘 채널 전략 | 인용 90%가 엔진마다 다름 |
| 5 | 다중 실행 기반으로 인용 측정 | 비결정성(arXiv:2603.08924) |
| 6(선택) | llms.txt 배치 | 저비용, 단 효과 근거 없음 |
Citeon은 이 원리를 제품에 담았다
"뭘 깔면 된다"는 한 방 솔루션이 아니라, 실제로 인용되고 있는지를 측정하는 데서 시작해야 한다는 게 이 글의 결론이다. Citeon은 정확히 그 자리를 메운다.
- 4엔진 인용 측정(SOV) — ChatGPT·Gemini·Perplexity·Claude에서 당신 브랜드가 실제로 얼마나 언급되는지(Share of Voice)를 잰다. llms.txt를 깔았든 안 깔았든, '진짜 결과'를 본다.
- 사이트 진단 엔진 — robots.txt의 AI 크롤러 허용 여부, 본문이 인용 가능한 구조인지(직답·근거·출처)를 점검해 한국어 처방을 준다.
- 경쟁사 역추적 — 당신 대신 인용되는 경쟁사가 어떤 콘텐츠로 뽑히는지 역설계한다.
- 주간 모니터 추이 — 단일 측정의 노이즈를 피해, 시간에 따른 인용 변화를 추적한다.
마케팅 카피가 아니라 측정으로 따지고 싶다면, 무료 진단(₩0)으로 지금 당신 사이트가 AI에 어떻게 보이는지부터 확인해보길 권한다.
자주 묻는 질문(FAQ)
llms.txt를 깔면 ChatGPT가 제 사이트를 인용하나요?
그렇다는 공개적으로 검증된 근거는 없습니다. 주요 생성 엔진 중 llms.txt를 크롤·색인에 반영한다고 확인한 곳이 사실상 없습니다. AI 인용은 RAG(검색→재정렬→생성) 과정에서 본문 청크가 질문과 얼마나 가깝고 인용 가치가 있는지로 결정되며, 별도 요약 파일이 그 과정에 끼어든다는 증거가 없습니다.
그럼 llms.txt를 까는 건 의미가 없나요?
'손해는 없다'가 정확한 답입니다. 비용이 거의 0이고, 만드는 과정에서 핵심 페이지를 정리하게 되는 부수 효과가 있습니다. 다만 이걸 'AI 최적화의 핵심'으로 보고 예산·시간을 쏟는 건 우선순위 착오입니다. robots.txt 크롤러 허용, 본문의 통계·출처·직접 인용문, 직답 우선 구조에 먼저 투자하세요 — 이쪽은 효과가 측정됐습니다.
robots.txt와 llms.txt 중 뭐가 더 중요한가요?
robots.txt가 압도적으로 중요합니다. AI 엔진이 당신을 인용하려면 먼저 후보 색인에 들어가야 하고, 그러려면 GPTBot·PerplexityBot·ClaudeBot·Google-Extended 같은 크롤러가 들어올 수 있어야 합니다. robots.txt에서 이들을 차단해두면 llms.txt가 아무리 잘 만들어져 있어도 후보 진입 자체가 막힙니다.
"llms.txt 깔았더니 인용이 늘었다"는 사례는 어떻게 봐야 하나요?
인과로 단정하기 어렵습니다. LLM 출력은 temperature=0에서도 흔들립니다. 한 실험에서는 같은 입력 1,000회에 80가지 출력이 나왔습니다. 인용도 멱법칙으로 출렁이기 때문에, 1~2회 전후 비교로는 노이즈와 진짜 효과를 구분할 수 없습니다. 다중 실행과 신뢰구간으로 측정해야 하며, 그렇게 보면 llms.txt 단독 효과를 분리해내기 어렵습니다.
한국 네이버에서는 llms.txt가 통하나요?
네이버는 외부 크롤러를 차단하며, llms.txt를 활용한다고 밝힌 적이 없습니다. 네이버 노출은 C-Rank(신뢰·전문성)와 D.I.A.+(문서 의도), 그리고 직접 경험·진정성·최신성 같은 콘텐츠 원칙으로 결정됩니다. 한 표본 분석에서 AI 브리핑 인용의 약 58%가 블로그였던 것처럼, 여기서 통하는 건 경험 기반 콘텐츠이지 파일 한 줄이 아닙니다.
참고자료
- Lewis et al. (2020), Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- Karpukhin et al. (2020), Dense Passage Retrieval for Open-Domain QA
- Liu et al. (2023), Lost in the Middle: How Language Models Use Long Contexts
- Aggarwal et al. (2023/KDD 2024), GEO: Generative Engine Optimization
- Anthropic (2024), Introducing Contextual Retrieval
- AI 가시성 불확실성 정량화 연구 (다중 실행·부트스트랩 신뢰구간)
- Conductor, Debunking AI Prompt Volume