AnythingLLM + QCode,Windows 11 接入 GPT 模型与本地 RAG 图文教程(11 张截图)

跟着 11 张截图,在 Windows 11 上给 AnythingLLM Desktop 接入 QCode:下载、安装、选 Generic OpenAI、填好 Base URL 与密钥,发出第一条回复。

更新于 2026-11-23

需要 API Key? 前往注册 →端点与 Base URL →

本页目录

一句话答案:在 AnythingLLM Desktop 的引导流程里选 Generic OpenAI,把 https://api.qcode.cc/openai/v1 填进 Base URL,粘贴你的 cr_ 密钥,再把 Selected Model 设为 gpt-6.2-sol。

项 填写
LLM 提供方 Generic OpenAI
Base URL https://api.qcode.cc/openai/v1
API 密钥 cr_xxxxxxxx
Selected Model gpt-6.2-sol
Model context window 1050000

核对于 2026-11-22 · AnythingLLM Desktop 1.20.0 · Windows 11

照着下面 11 张截图在一台 Windows 电脑上走一遍,你最终会得到一个能正常干活的 AnythingLLM Desktop:回答来自 QCode,可以直接建 workspace、和文档对话。AnythingLLM 本身不需要账号:唯一的凭证就是一把 QCode API 密钥,粘一次就行。

  • 适用系统:Windows 10 / 11(64 位);截图是在 Windows 11 上拍的
  • 软件版本:AnythingLLM Desktop 1.20.0(英文界面)
  • 截图更新于:2026-11
  • 预计用时:约 15 分钟,大部分时间花在下载 378 MB 安装包和等第一次启动上
  • 需要准备:一个 cr_ 开头的 QCode API 密钥

拍第一张截图之前,先确认你有这些:

  • 一台 64 位的 Windows 10 或 11 电脑,网络稳定
  • 约 2 GB 可用磁盘空间;安装程序会把应用装进你自己的用户目录,所以不需要管理员密码
  • 一个能打开 anythingllm.com、也能访问 api.qcode.cc 的浏览器
  • 从控制台复制好的 QCode API 密钥(cr_xxxxxxxx);这是唯一不能跳过的一项。还没有账号?先注册,在定价页选一个方案,再到控制台创建密钥。

下载与安装

Windows 版就是一个 exe 文件,约 378 MB。先选你所在的地区:

浏览器打开 anythingllm.com/download,或者直接用官方链接 https://cdn.anythingllm.com/latest/AnythingLLMDesktop.exe 开始下载。文件名是 AnythingLLMDesktop.exe。中国大陆访问 cdn.anythingllm.com 和 anythingllm.com 可能比较慢:如果下载卡在 1 MB 以下,取消它,过一会儿再重新开始,或者换一个网络。GitHub Releases(github.com/Mintplex-Labs/anything-llm/releases)上有同一个 AnythingLLMDesktop.exe 文件可以备用。国内任何镜像站都没有这个安装包的官方副本。

浏览器打开 anythingllm.com/download。页面每个平台一张卡片;Windows 卡片上有两个按钮 —— Download for Windows (x64) 和 Download for Windows (ARM)。普通 Intel 或 AMD 电脑选 x64 版,Windows on ARM 机器选 ARM 版。页面打不开的话,用 GitHub Releases(github.com/Mintplex-Labs/anything-llm/releases),从最新 release 里取同名的文件。

打开下载页

在浏览器里打开 anythingllm.com/download。页面上有三张平台卡片:macOS、Windows 和 Linux。① 是中间的 Windows 卡片,② 是它下面你要点的那个按钮 Download for Windows (x64) —— 普通 Intel 和 AMD 电脑用的版本。

AnythingLLM 官方下载页:Windows 卡片夹在 macOS 和 Linux 卡片之间,它下面的 Download for Windows (x64) 按钮是普通 Intel 和 AMD 电脑用的版本

做对了你会看到:浏览器开始保存一个叫 AnythingLLMDesktop.exe 的文件,约 378 MB。下载进度在浏览器的下载列表里,不在页面上。

卡住了?下载停在 1 MB 以下

文件来自 cdn.anythingllm.com,线路慢的时候下载会一直挂着。取消它,等几分钟再重新开始,或者在新标签页里打开同一个官方链接(https://cdn.anythingllm.com/latest/AnythingLLMDesktop.exe)。如果文件夹里出现 AnythingLLMDesktop.exe.crdownload 文件,说明这次下载根本没完成。

运行安装程序,确认安装目录

双击 AnythingLLMDesktop.exe。安装程序一打开就是 Choose Install Location,输入框里已经填好 C:\Users\<你的用户名>\AppData\Local\Programs\AnythingLLM。它不会问「为所有用户安装还是只为我安装」:这个安装程序总是装进你自己的用户目录。① 点 Install。

官方安装程序一打开就停在 Choose Install Location,已经填好当前用户的 AppData 路径;只需要点 Install 按钮

做对了你会看到:窗口标题一直是 AnythingLLM Setup,页面变成一行进度提示,开头是「Please wait while AnythingLLM is being installed.」。

卡住了?弹出蓝色的「Windows protected your PC」

那是 SmartScreen 在提醒你这个文件它见得不多,不是说文件有问题。点 More info,再点 Run anyway。安装程序带有 Mintplex Labs Inc 的签名,你可以在那个框里看到发布者名字。

等安装程序跑完

进度条先写入应用文件,接着安装程序会运行 Microsoft Visual C++ 2015-2022 Redistributable,Windows 会问你是否允许安装。点 Yes,安装程序才能走完。进度条还在动的时候不要关窗口。

安装程序写入应用文件时的进度页;这条进度条走完之后马上会出现 Visual C++ 运行库的安装确认框

做对了你会看到:进度条走到最后,接着 Microsoft Visual C++ 2015-2022 Redistributable 的授权框出现,问你要 Yes。接受之后安装程序关闭,开始菜单里出现 AnythingLLM。

卡住了?进度条十分钟没动

安装程序要解压约 1.5 GB 程序文件,磁盘慢会让这一步拖长,但进度条彻底冻住通常是写文件失败了。关掉窗口,重新运行 AnythingLLMDesktop.exe,让它覆盖安装。第一次装的东西不会丢。

打开应用,点 Get Started

从开始菜单启动 AnythingLLM。第一个窗口就是一张朴素的欢迎页:不用登录、不要邮箱、没有账号。① 点页面中间的 Get Started。

AnythingLLM 首次启动的窗口:一张 Welcome 欢迎页,中间只有一个 Get Started 按钮,没有登录表单

做对了你会看到:一个标题为 Set Up options 的页面,提示可以下载一个小型本地模型(Qwen3 Vision 2B Instruct,约 2.6 GB)。你不需要它 —— 下一步会绕过去。

卡住了?窗口白屏好几分钟

第一次启动要建应用的本地数据库、解压后端;一两分钟是正常的,慢一点的笔记本会更久。加载期间别动窗口,也别改窗口大小。如果五分钟还是白屏,关掉应用重新打开。

卡住了?Windows 询问防火墙权限

提示「Do you want to allow public and private networks to access this app?」(发布者:Mintplex Labs Inc)的框属于 AnythingLLM 的本地服务。给专用网络放行;应用要用自己的本地端口,按 Esc 只是把这个问题藏起来,下次启动还会再问。

选择 Generic OpenAI

在 Set Up options 页面点最下面的 Manual set up —— 这一条会让你填 API 地址,而不是下载本地模型。提供方列表打开后标题是 LLM Preference。在搜索框里输入 generic 把列表缩短,然后点 ① Generic OpenAI 那一行(副标题是「Connect to any OpenAi-compatible service via a custom configuration」)。

搜索「generic」之后的 LLM Preference 提供方列表:只剩一行 Generic OpenAI,副标题讲的是任意 OpenAI 兼容服务

做对了你会看到:这一行下面出现一个表单,有 Base URL、API Key、Selected Model、Model context window 和 Max Tokens —— 五个字段,除了占位文字都是空的。

卡住了?找不到 Manual set up 链接

看 Set Up options 页面的最底下,在硬件推荐卡片下方。窗口太矮会把它挡住:把窗口最大化它就出来了。如果这个页面压根没出现,说明你已经在 LLM Preference 页,直接在那里继续就行。

填好 Base URL 和 API 密钥

把 https://api.qcode.cc/openai/v1 填进 ① Base URL 字段。写到 /v1 为止:AnythingLLM 会自己拼上 /chat/completions,所以地址里已经带 /chat/completions 的话,每条消息都会返回 404。然后点右边的 API Key 字段,粘贴你的 cr_ 密钥;框里只显示圆点。

填好的 Generic OpenAI 表单:Base URL 字段里是 https://api.qcode.cc/openai/v1,旁边的 API Key 字段显示的是圆点而不是 cr_ 密钥

需要 API Key?

还没有 QCode 账号的话,先注册。不想买月付套餐的话,先在按量包页面买一个包,然后到控制台创建密钥,把 cr_ 开头的那一串复制回来。

卡住了?后面报 401 或 404

401 说明密钥到的时候是空的,或者带了多余空格:点一下字段,清空,重新粘贴。404 说明地址写错了:必须正好是 https://api.qcode.cc/openai/v1,不带 /chat/completions,末尾也不带斜杠。别的服务的密钥在这里永远用不了。

做对了你会看到:Base URL 框里是 /v1 结尾的地址,API Key 框里是一行圆点,几秒后 Selected Model 从文本框变成下拉列表。

选模型和上下文窗口

打开 ① Selected Model 列表。里面的内容直接从 QCode 拉取,第一项是 gpt-6.2-astra;往下一项,选 gpt-6.2-sol。然后把 ② Model context window 设为 1050000(1.05M,这个模型对外提供的就是这个上下文)。Max Tokens 保持默认的 1024。

选好模型后的同一个表单:Selected Model 列表里是 gpt-6.2-sol,Model context window 字段里是 1050000

做对了你会看到:① 显示 gpt-6.2-sol,② 显示 1050000,Max Tokens 还是 1024。列表里还有 gpt-6.2-astra、glm-5.3、kimi-k3 和 deepseek-v4-pro,想试别的可以直接选。

卡住了?Selected Model 一直是空文本框

列表是从 <Base URL>/models 拉的,所以框空着或者一直转圈,说明地址或密钥没被接受。先检查 Base URL 有没有重复路径(/openai/v1/v1),再手动把 gpt-6.2-sol 打进框里 —— 这个字段也接受手输的 id。

跳过问卷

点 ① 右下角的箭头按钮 —— 它没有 Next 字样,只有一个图标。提供方这一步到此结束,接着弹出 Welcome to AnythingLLM 问卷,里面有一个可选的邮箱字段和几个关于你是做什么的问题。这一页什么都不是必填的,所以全部留空,再点同一个 ① 箭头。

可选的 Welcome to AnythingLLM 问卷:一个邮箱字段和几个问题,全部留空,右下角的箭头按钮继续进入下一页

做对了你会看到:问卷页换成标题为 Data Handling & Privacy 的页面。没有红字,没有校验提示,也没有要填的东西。

确认数据处理页

Data Handling & Privacy 说明你的对话会去哪里、应用会收集什么。匿名遥测默认已经开着;之后可以在应用设置里改。看完页面,点 ① 右下角的箭头结束引导。

引导流程里的 Data Handling & Privacy 页面,右下角的右箭头按钮用来结束配置

做对了你会看到:引导页关闭,主窗口打开,左侧边栏里已经列着一个 workspace。

卡住了?一张「What’s New」卡片挡住窗口

第一次进主窗口常常会弹出很大的 What’s New 卡片,讲任务和定时功能。点它右上角的 X 关掉;下一步要用的东西都在它后面。

新建 workspace

应用打开时停在一个它替你建好的 workspace 上,通常叫 My Workspace。先关掉可能挡着的 What’s New 卡片,再点侧边栏搜索框旁边的 + 按钮(鼠标悬停会显示 New Workspace)。在 New Workspace 对话框里,① 在 Workspace Name 里输入名字 —— 本教程用 QCode Test —— 然后 ② 点 Save。

New Workspace 对话框:Workspace Name 字段里填的是 QCode Test,右下角是 Save 按钮

做对了你会看到:对话框关闭,QCode Test 出现在侧边栏里另一个 workspace 下面。对话区显示标题「What’s on your mind?」。

发出第一条消息

点下面的消息框(占位文字是 Send a message),输入一个问题,按回车。截图里用的是 你好,用一句话介绍你自己 —— 任何问题都行。回答到了之后,① 对话区左上角的模型名显示 gpt-6.2-sol,② 你自己发的那句话就在回复上方。

QCode Test workspace 里回答完的第一个问题:左上角是模型名 gpt-6.2-sol,中间是发出的消息,下面是一整段回复

卡住了?回答变成了红色报错框

从设置图标进入 LLM Preference,把这五个字段和本页顶部的答案卡逐项对照:Base URL 是 https://api.qcode.cc/openai/v1、密钥以 cr_ 开头、模型是 gpt-6.2-sol、上下文窗口是 1050000、Max Tokens 不是 0。十次有九次,问题就出在 Base URL 里的一个字符上。

做对了你会看到:几秒内出现正常回复 —— 这个问题的话,就是一句自我介绍。① 显示 gpt-6.2-sol,说明请求走到了 QCode,而不是你本机的某个模型。

验证成功

下面三件事都成立,就算配置完成:

  • 在 LLM Preference 里,提供方显示 Generic OpenAI,Base URL 是 https://api.qcode.cc/openai/v1,Selected Model 是 gpt-6.2-sol,Model context window 是 1050000。
  • 在任意 workspace 里发一条消息,几秒内拿到正常回答,且对话左上角显示 gpt-6.2-sol。
  • 把同一把密钥粘贴到 probe.qcode.cc,日志里能看到这次请求,带模型名、时间和 token 数 —— 证明流量确实经过了 QCode。

全部完成

AnythingLLM Desktop 现在通过 QCode 回答,你新建的每个 workspace 都用这一把密钥。接下来可以:

  • Cherry Studio —— 另一个桌面客户端,带这个应用没有的 Claude 通道
  • Open WebUI —— 浏览器里的同类工具,擅长文档和 RAG
  • 接入点与 API 格式 —— 每个 QCode 地址,以及各自服务哪些模型
  • 模型选择 —— 上下文大小,以及什么场景该选哪个模型
  • 打算长期用之前,先在定价页比较各个方案
  • 回到控制台查看用量和余额

常见报错

报错原文 原因 怎么办
model_not_available_on_endpoint Selected Model 里的模型 id 是 Claude 的 id,而 Generic OpenAI 只说 OpenAI Chat 协议 换成 OpenAI 兼容的 id,比如 gpt-6.2-sol、glm-5.3、kimi-k3 或 deepseek-v4-pro,再重新发一次消息
404 Base URL 里带了完整请求路径,或者重复了版本段,于是 /chat/completions 被拼到一个已经以它结尾的路径上 把 Base URL 设成正好 https://api.qcode.cc/openai/v1 —— 不带 /chat/completions,末尾不带斜杠 —— 然后保存
401 invalid_request_error: You didn't provide an API key. You need to provide your API key in an Authorization header using Bearer auth API Key 字段到 QCode 时是空的,通常是复制时带进了末尾空格,或者窗口刷新把它清掉了 把 cr_ 密钥重新粘进 API Key,确认框里显示圆点,再重新发一次消息
Do you want to allow public and private networks to access this app? Windows 防火墙在首次启动时询问 AnythingLLM 的本地服务;拦掉它,应用的请求就出不了本机 为专用网络点 Allow access,重开 workspace 再发一次 —— 应用被拦着的时候,发往 https://api.qcode.cc/openai/v1 的请求根本出不去

常见问题

需要 AnythingLLM 账号吗?

不需要。桌面版在本地运行,不要邮箱、不要登录、不要许可证。欢迎页直接进配置,整篇教程里唯一的凭证就是你的 QCode API 密钥。

Base URL 为什么以 /v1 结尾,而不是 /api?

因为 AnythingLLM 的 Generic OpenAI 提供方说的是 OpenAI Chat 协议,它在 QCode 上的根地址是 https://api.qcode.cc/openai/v1。https://api.qcode.cc/api 是 Anthropic 协议的根地址,而 AnythingLLM 没有填自定义 Anthropic 地址的字段 —— 在这个表单里填 /api 只会得到 404。

能在 AnythingLLM 里用 Claude 模型吗?

这条通道上不行。Claude 模型只通过 QCode 的 Anthropic 协议提供,而 Generic OpenAI 发的是 OpenAI Chat 请求,所以 Claude 的 id 在请求被回答之前就被拒了。AnythingLLM 内置的 Anthropic 提供方固定指向 Anthropic 自己的地址,没法指向 QCode。如果某个客户端确实说 Anthropic 协议,在 QCode 上该选的模型是 claude-opus-5-5,轻量一点的选择是 claude-haiku-5-5。

Selected Model 列表一直是空的,或者一直转圈

列表是从 <Base URL>/models 加载的,所以它失败的原因和发消息失败一样:Base URL 写错、密钥带了多余空格、或者密钥已过期。改好地址,重新粘一次密钥,等几秒;列表还是填不上,就直接把 gpt-6.2-sol 打进框里 —— 手输的 id 一样能用。

回答说到一半就断了

Model context window 相对这个模型设得太小,或者 Max Tokens 被设成了 0。gpt-6.2-sol 用 1050000,Max Tokens 保持 1024 或提到 4096,千万别设成 0。

密钥到期后怎么办?

取决于这把密钥是怎么来的。个人套餐的密钥到期后不能续:重新开通套餐,在控制台建一把新密钥,粘到 API Key 里替换旧的。按量包的密钥在你再买一个包之后就会恢复 —— 同一把密钥继续能用,AnythingLLM 这边什么都不用改。

以后怎么换模型?

点侧边栏左下角的设置图标,进 LLM Preference;还是那五个字段。在 Selected Model 里选新模型,把 Model context window 改成那个模型自己的大小,然后在 workspace 里发一条测试消息。

应用装在哪里,怎么卸载?

程序在 C:\Users\<你的用户名>\AppData\Local\Programs\AnythingLLM,workspace 和设置在 %APPDATA%\anythingllm-desktop。要卸载就用 设置 → 应用 → 已安装的应用 里的 AnythingLLM 条目。卸载不会删掉你的 QCode 密钥,也不会删掉 QCode 账号。

AnythingLLM 会把我的文档发到别处吗?

你的 workspace、向量和文档都留在本机;只有对话请求 —— 问题加上应用挑出来的那些片段 —— 会发到 QCode,因为模型跑在那里。Data Handling & Privacy 页上的匿名遥测是应用自己的使用计数,可以在应用设置里关掉。

五个字段速查

字段 填什么 说明
Base URL https://api.qcode.cc/openai/v1 API 根地址,不是完整请求路径;应用会自己拼上 /chat/completions
API Key cr_xxxxxxxx 来自 QCode 控制台;字段里只显示圆点
Selected Model gpt-6.2-sol 列表来自 QCode;手输 id 也可以
Model context window 1050000 gpt-6.2-sol 是 1.05M;换模型时一起改
Max Tokens 1024(默认)或 4096 千万别填 0

Selected Model 里填哪个模型

模型 id 适合 上下文
gpt-6.2-sol 默认选择:日常对话、文档提问、写代码 1.05M
gpt-6.2-astra QCode 上的最高档,用于最难的问题 1.05M
glm-5.3、kimi-k3、deepseek-v4-pro 国产模型,每 token 更便宜,普通对话够用 见模型选择

这条通道上,Claude 的 id 不会出现在这个列表里;见上面「能在 AnythingLLM 里用 Claude 模型吗?」。

QCode 其他接入点

还有两个域名用同样的路径提供同一批接口:亚洲用 asia.qcode.cc,北美用 us.qcode.cc。两者能力完全一致,只是网络路由不同。要用的话换掉域名、保留路径,例如在 Base URL 里填 https://asia.qcode.cc/openai/v1。默认的 api.qcode.cc 各地都能用;只有你所在网络访问慢的时候才需要换。

相关文档

开始使用 QCode

一把 API Key 同时用于 Claude Code、Codex 等工具;按 token 计费,各模型单价见 qcode.cc/models

企业团队版 →