---
url: /llamaindex/introduction.md
description: >-
  LlamaIndex是什么？构建上下文增强LLM应用（RAG/智能体）的开源数据框架，5行代码连接你的私有数据，已被Experian、NTT
  DATA、Jeppesen用于生产，附本地Ollama实战
---

# 认识LlamaIndex

你有没有被大模型"一本正经地胡说八道"气到过？

我举个真实的场景：公司刚发的《2026 年差旅报销制度》你懒得看，转头问 ChatGPT"机票超标了能报吗？"它给你编出一条听起来特别合理、实际公司根本没这规定的政策。你信了，财务拒了，你社死了。

问题不在模型不够聪明，而在于——**它根本不知道你公司的数据**。

大模型在公开的互联网上练出来的，它懂世界，但不懂"你的世界"。你的 PDF、你的数据库、你那堆乱七八糟的 PPT 和 Excel，它一个字都没见过。而 LlamaIndex 干的事，就是帮你把"你的数据"喂给大模型，让它基于事实回答，而不是基于幻觉瞎编。

> 通用大模型是满腹经纶的博士，LlamaIndex 是那个把公司\_internal\_资料递到博士手里的实习生。没有这个实习生，博士再牛也答不对你的问题。

## 什么是 LlamaIndex

LlamaIndex 是一个开源的**数据框架**（data framework），专门用来构建"上下文增强"的 LLM 应用——说人话就是：**把你的私有数据和大模型连起来**。

它最早叫 GPT Index，2022 年底由 Jerry Liu（刘杰里）创立，后更名 LlamaIndex，现在是 RAG（检索增强生成）领域最主流的框架之一。一句话定位：**The data framework for LLM applications**——大模型应用的数据框架。

它不跟 LangChain 抢"万能编排"的位子。如果说 LangChain 是瑞士军刀，啥都能干；那 LlamaIndex 就是一把专精的"数据连接手术刀"——它把"检索"当成亲儿子，从数据接入、切分、索引到检索，每个环节都打磨得极细。

### 核心工作流

LlamaIndex 的本质是三步流水线：

* **接入（Ingestion）**：用数据连接器（Data Connectors）把你的数据从原处捞出来——API、PDF、SQL、Notion、网页，什么都行
* **索引（Indexing）**：把数据切成小块、向量化，存成 LLM 好消化的中间表示（比如向量索引）
* **查询（Querying）**：用户问问题，框架先去索引里检索相关内容，再把"问题 + 检索到的上下文"一起丢给大模型，生成有依据的回答

这套流程的学术名字叫 **RAG（Retrieval-Augmented Generation，检索增强生成）**，也是 LlamaIndex 最经典的用法。

## LlamaIndex 的核心特点

* **5 行代码跑通 RAG**：高层 API 极其简单，新手把文档丢进文件夹，几行就能问问题
* **数据连接器生态庞大**：LlamaHub 上有 **300+ 集成包**，对接各种 LLM、向量库、数据源，无缝替换
* **检索是亲儿子**：提供 15+ 种索引类型、节点级元数据过滤、混合检索、重排序（rerank），检索质量拉满
* **Agents + Workflows（智能体 + 工作流）**：事件驱动的多步流程，比静态 DAG 更灵活，能部署成生产级微服务
* **双语言**：Python 主力 + TypeScript（LlamaIndex.TS），一套理念两边通用
* **多层级 API**：新手用高层 API 快速出活，老手用底层 API 自定义任意模块（连接器、索引、检索器、重排器）
* **企业级托管 LlamaCloud**：含 LlamaParse（业界最强文档解析，支持 130+ 格式）、LlamaExtract（结构化抽取）、Index（索引/检索）
* **开源免费**：核心 MIT 协议，永远开源；企业功能可选 LlamaCloud 付费

> 一个选型真相：模型不再稀缺的 2026 年，RAG 系统的唯一短板是"检索质量"。LlamaIndex 能在 RAG 选型里称王，说到底就是它把检索这件事做到了极致。

## 谁在用 LlamaIndex

别以为这只是玩具，下面这些公司已经把它搬进了生产环境，而且有硬数据：

**Jeppesen（波音旗下）—— 省了约 2000 个工程小时**

航空数据巨头 Jeppesen 用 LlamaIndex 的事件驱动 Workflow 搭了一套统一对话框架，把工程师之间的协作查询自动化，直接省下约 **2000 个工程小时**。对大厂来说，时间就是钱，这数字够实在。

**Pathwork —— 文档处理量翻 8 倍，每周 4 万页**

这家做人寿保险核保的公司，用 LlamaParse 自动从病历和核保指南里抽取信息，文档处理能力提升 **8 倍**，现在每周稳定处理 **4 万页**文档。原来靠人工核保，现在 AI 先把活干完。

**Experian —— 首字延迟从 8 秒降到 1 秒**

征信任大厂 Experian 用 LlamaIndex 搭客服智能体，检索准确率上去了，响应延迟从 **8 秒砍到 1 秒**，NPS（客户净推荐值）也跟着涨。用户问完不用干等，体验天差地别。

**Lyzr —— 靠它做到 100 万美元+ ARR**

一家做自主智能体的创业公司 Lyzr，用 LlamaIndex 把智能体做到生产级，直接冲破了 **100 万美元年经常性收入**。

还有 NTT DATA、Carlyle（凯雷投资）、KPMG（毕马威）、Cemex 等一票世界 500 强和头部机构都在用。这不是"小众极客玩具"的采用曲线了。

> 一个框架的含金量，不看 Star 数，看有没有人拿它赚到钱、省到钱。上面这几个案例，钱和时间都省到了。

## 初体验：5 分钟上手

安装就一行：

```bash
pip install llama-index
```

来，最经典的 5 行 RAG，把 `data` 文件夹里的文档变成可问答的知识库：

```python
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader

documents = SimpleDirectoryReader("data").load_data()   # 读入你的文档
index = VectorStoreIndex.from_documents(documents)        # 建向量索引
query_engine = index.as_query_engine()                    # 生成查询引擎
response = query_engine.query("公司机票超标能报销吗？")      # 问问题
print(response)
```

5 行，你的私有文档就能"开口说话"了。注意它默认用 OpenAI 的模型，需要 `OPENAI_API_KEY` 环境变量。

**想完全本地、不花一分钱？** 搭配本站已介绍过的 Ollama，用本地大模型跑：

```python
import os
os.environ["OPENAI_API_KEY"] = "sk-no-need"  # 本地模式占位

from llama_index.core import Settings, VectorStoreIndex, SimpleDirectoryReader
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.ollama import Ollama

Settings.llm = Ollama(model="llama3.1:latest", request_timeout=360.0)
Settings.embed_model = HuggingFaceEmbedding(model_name="BAAI/bge-small-en-v1.5")

documents = SimpleDirectoryReader("data").load_data()
index = VectorStoreIndex.from_documents(documents)
print(index.as_query_engine().query("总结一下这份文档的要点"))
```

数据全留在本机，模型在你笔记本上跑，隐私拉满，零 API 费用。这就是当下"开源 AI 私有化"浪潮最香的玩法。

> 小提醒：索引默认存在内存里，程序一关就没。要持久化就 `index.storage_context.persist(persist_dir="./storage")`，下次直接从磁盘加载，不用重新建索引。

## 进阶

LlamaIndex 远不止"更快的 RAG 框架"。它的 Agents、事件驱动 Workflows、300+ 集成生态，代表的是 AI 应用从"一次性问答"走向"可持续、可部署、可编排的智能体系统"。2026 年它的最新稳定版已迭代到 **v0.14.23**（MIT 协议，核心由社区与 LlamaIndex 公司共同维护），LlamaCloud 又把文档解析（LlamaParse）、抽取、索引做成开箱即用的企业服务——它早已不是实验品，而是生产就绪的 LLM 应用底座。

如果你正打算把大模型接进自己的业务数据，又不想被幻觉坑、被检索质量拖后腿，LlamaIndex 值得作为你的第一站。先把"你的数据"接进去，比纠结哪个模型更聪明重要得多。

更多开源技术干货和学习资料，关注公众号「遇码」，领取专属福利。