认识 Open WebUI

开源大模型这两年跟不要钱似的往外冒——DeepSeek、Qwen、Kimi 一个接一个开源，参数越堆越大。可现实很骨感：你真把它们用 Ollama 跑起来，面对的是一个黑底绿字的终端窗口，蹦出一句 Send a message。然后呢？想给老板演示？想丢个 PDF 让模型读？想让全公司人用、还保证数据不出内网？终端只会沉默地看着你。

模型跑起来只是第一步，"让人用得爽"才是真正的门槛。Open WebUI 干的就是把本地模型变成你自己的"ChatGPT"这件事。

什么是 Open WebUI

Open WebUI 是一个可自托管的开源 AI 平台，定位就一句话：在你自己的服务器上，跑一个完全离线、类 ChatGPT 的 AI 界面。

它 2023 年 9 月由 Tim Baek（Timothy Jaeryang Baek）以 "Ollama WebUI" 之名创建，因为最初就是给 Ollama 套壳用的；2024 年 1 月改名 Open WebUI——因为那时候它早就不只支持 Ollama 了。如今它在 GitHub 上 14.7 万+ Star，是 AI 圈最火的自托管项目之一，2024 年 9 月还顺势成立了 Open WebUI, Inc.。

它向前能接 Ollama、vLLM、llama.cpp、LM Studio、OpenRouter、Anthropic 等任意 OpenAI 兼容后端；向后给普通用户一个漂亮的网页聊天框，给团队一个带权限、带审计、带 SSO 的内部 AI 门户。

说白了：模型在哪儿跑都行，Open WebUI 负责把这事儿"变得像一款正经产品"。

Open WebUI 的特点

• 完全自托管、可离线运行：数据不出你的服务器，HF_HUB_OFFLINE 一开，连模型下载都断网跑
• 多后端通吃：Ollama、vLLM、llama.cpp、OpenAI/Anthropic 兼容 API，一个界面统一管理所有模型，聊到一半还能切换
• 内置 RAG 知识库：支持 9 种向量库（ChromaDB、PGVector、Qdrant、Milvus、Elasticsearch…），上传 PDF/Word/TXT 直接问，还能用 # 命令秒调文档
• 联网搜索：接入 15+ 搜索引擎（SearXNG、Brave、Tavily、Perplexity…），让本地模型也能"上网冲浪"拿实时信息
• 企业级权限：RBAC 角色分组、LDAP/Active Directory、OAuth 单点登录、聊天记录审计一应俱全
• 多模态交互：语音/视频通话、接 ComfyUI 生图、图片识别，聊天框里直接玩
• Python 函数调用（BYOF）：纯 Python 函数就能扩展成工具，Pipelines 框架还能写中间件/插件
• 响应式 + PWA：手机浏览器离线也能用，跟装了个 App 似的
• 部署极简：Docker 一条命令，或 pip install open-webui 起服务，也能上 Kubernetes 横向扩容
• 持续进化：最新 v0.11.0（2026-07）把界面整个重写了一遍，新增子智能体、文件夹共享、聊天计时等功能

谁在用、用在哪

Open WebUI 不是某个大厂的闭源 SaaS，它是一个"被全世界的极客、团队和公司自己部署"的开源基础设施。几个典型姿势：

• 个人玩家：把 DeepSeek、Qwen 跑在自家电脑或显卡小主机上，浏览器里像用 ChatGPT 一样私聊。模型权重、聊天记录、知识库全在本地，不用担心哪天服务停了、数据被拿去训练。
• 团队 / 公司：用 RBAC + SSO 给全员开一个内部 AI 平台。敏感文档进知识库、不出内网；谁能调哪个模型、哪个 prompt 能出网，管理员一句话定规则。这是它从"聊天皮肤"长成"管理入口"的关键。
• 实验室 / 课堂：老师给学生统一开账号、统一模型、统一审计，既好玩又可控。

它的覆盖跨度很离谱：从树莓派上跑 tiny 量化模型，到整排 GPU 服务器服务一整个团队，都是同一套代码。发布 v0.11.0 时，项目已经有 146,889 个 Star、35 万+ 社区成员——这不是"小众玩具"的量级了。

Open WebUI 初体验

想亲手起一个？Docker 一行就够：

docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:latest

启动后打开 http://localhost:3000 注册第一个管理员账号即可。注意那个 -v open-webui:/app/backend/data 数据卷千万别省——用户、模型、知识库、聊天记录全在里面，不挂卷一重启就啥都没了。

不想碰 Docker，用 Python 也能起：

pip install open-webui
open-webui serve

第一次进去，把 Ollama 地址（或任意 OpenAI 兼容端点，比如你自己的 vLLM）指过去，剩下的界面替你管：对话线程、系统提示词、模型切换、文件上传、共享模型库，一气呵成。

没有显卡也能先过把瘾：纯 CPU 跑个小模型，或者干脆接 OpenRouter 上的云端模型，先把界面玩明白。真要本地扛大模型，显存和量化才是接下来的事。

进阶

Open WebUI 最迷人的地方在于：它把"用本地大模型"这件本该很折腾的事，压成了一个 Docker 命令。你不用先搞懂 RAG、向量库、SSO 怎么搭，先把界面跑起来、和模型聊上两句，等真有团队要管、有知识库要建，再回头开功能，也来得及。

更多开源技术干货和学习资料，关注公众号「遇码」，领取专属福利。