
AI CLI Profile Manager · 功能说明
本地27B、35B及两种去限制版都有明确入口,不把“本地模型”混成一件事。它们通过既有显卡协调器工作;任何一个失败都不会自动改投另一个模型,更不会改走付费云端。原来并列在这里的两个 ChatGPT 到 Claude 代理已于 9 月 29 日退役。
当前情况:4 个受管本地模型仍在,Codex 桌面版、OpenCode 和 Ollama 由一份统一配置同步;两个代理和 Toolkit 接线都已退役,相关入口已删除。配置写好、模型已下载,不等于这次真的跑通,真实调用要另看日期。
内容按 2026-10-11 14:00(北京时间)前的改动整理,源码对应 10 月 8 日 09:55 的提交;具体测试保留各自日期,页面不实时探测运行状态。
项目源码:公开仓库


AI CLI Profile Manager · 功能说明
本地27B、35B及两种去限制版都有明确入口,不把“本地模型”混成一件事。它们通过既有显卡协调器工作;任何一个失败都不会自动改投另一个模型,更不会改走付费云端。原来并列在这里的两个 ChatGPT 到 Claude 代理已于 9 月 29 日退役。
当前情况:4 个受管本地模型仍在,Codex 桌面版、OpenCode 和 Ollama 由一份统一配置同步;两个代理和 Toolkit 接线都已退役,相关入口已删除。配置写好、模型已下载,不等于这次真的跑通,真实调用要另看日期。
内容按 2026-10-11 14:00(北京时间)前的改动整理,源码对应 10 月 8 日 09:55 的提交;具体测试保留各自日期,页面不实时探测运行状态。
项目源码:公开仓库


用途与实际影响
“本地”不等于一定在线,“已下载”也不等于模型和显卡此刻都就绪。自动把失败请求送到另一条路线还会改变费用、隐私和结果身份。
我可以说:“这次只用普通本地27B,不换去限制版,也不传云端。先看当前模型与显卡是否就绪;不可用就告诉我原因。”我得到对应入口的状态,而不是把通用Ollama端口离线误报成全部本地模型都不能用。
分别知道选中的本地模型是否已安装、受管服务是否在本机运行、显卡是否正被别的任务占着;只有这一条身份成立才尝试真实调用。
选中服务和真实模型身份都对应时,标这条路线可进一步使用。
模型没开或显卡忙时只说明这一条的限制;显卡被听写或文字识别占着时,请求最多排队等 90 秒并提示正在等。
模型身份对不上、服务不在本机地址或程序不明时拒绝,不结束未知程序,也不换另一个模型顶上。
选中服务和真实模型身份都对应时,标这条路线可进一步使用。
模型没开、显卡忙或代理旧了时只说明这一条的限制。
程序不明、监听跑到非本机地址或端口已被别人占用时拒绝,不结束未知程序。

用途与实际影响
“本地”不等于一定在线,“已下载”也不等于模型和显卡此刻都就绪。自动把失败请求送到另一条路线还会改变费用、隐私和结果身份。
我可以说:“这次只用普通本地27B,不换去限制版,也不传云端。先看当前模型与显卡是否就绪;不可用就告诉我原因。”我得到对应入口的状态,而不是把通用Ollama端口离线误报成全部本地模型都不能用。
分别知道选中的本地模型是否已安装、受管服务是否在本机运行、显卡是否正被别的任务占着;只有这一条身份成立才尝试真实调用。
选中服务和真实模型身份都对应时,标这条路线可进一步使用。
模型没开或显卡忙时只说明这一条的限制;显卡被听写或文字识别占着时,请求最多排队等 90 秒并提示正在等。
模型身份对不上、服务不在本机地址或程序不明时拒绝,不结束未知程序,也不换另一个模型顶上。
选中服务和真实模型身份都对应时,标这条路线可进一步使用。
模型没开、显卡忙或代理旧了时只说明这一条的限制。
程序不明、监听跑到非本机地址或端口已被别人占用时拒绝,不结束未知程序。

在 aicli profile show/native 选择点名的本地模型,先用 Doctor 核对当前安装和服务。
- 明确的本地模型 Profile
- 本地显卡状态
- 是否只允许本地数据


在 aicli profile show/native 选择点名的本地模型,先用 Doctor 核对当前安装和服务。
- 明确的本地模型 Profile
- 本地显卡状态
- 是否只允许本地数据



- LocalGpuBrokerSession 消费既有 broker(调度服务) 的 lease/capability,证明请求命中 exact 本地模型;它不拥有 GPU 调度服务,受管端点 127.0.0.1:32100 和 GPU 服务归电脑配置(PCConfig)管理。
- OpenCode 使用一次性 pure 配置,主入口和 27B 兼容入口都保留 262144 context/input、32768 输出、reserve 20000、最近 16384 与 4 轮的边界。
- data/local-model-set.json 拥有四个受管 Profile,客户端映射现在只剩 OpenCode;当前模型标签为 qwen3.8-27b:256k、qwen3.6-35b:256k、qwen3.6-35b-abliterated:256k、qwen3.8-27b-abliterated:256k。设置先预览、明确应用后同步 AICLI、Codex 桌面版、OpenCode 和 Ollama,不创建另一份模型目录。
- 普通27B和去限制27B、普通35B采用num_batch=128;35B去限制版保留512。num_ctx=262144,draft_num_predict=0避免已复现的草稿预测崩溃,不替换原始模型权重。普通27B的256K镜像manifest(清单) SHA-256为8040835723046ec2631b64b960d44414636ea5147942a7d68eaaa7ccdb492e20,Q4_K_M,temperature=1、top_p=.95、top_k=20、min_p=0、presence_penalty=0、repeat_penalty=1。输出上限有两层:AICLI 配置里普通 35B 声明 8192、其余三个声明 32768;Ollama 的 35B 标签参数另写 num_predict=32768。实际由哪一层截断没有测过。
- 听写或文字识别占着显卡时,本地模型请求最多排队 90 秒并提示在等,不直接报错;但“听写与 AICLI 并发交接显卡”在电脑配置的待验收清单里仍是暂缓状态,还不能说真实并发交接已验收。


- LocalGpuBrokerSession 消费既有 broker(调度服务) 的 lease/capability,证明请求命中 exact 本地模型;它不拥有 GPU 调度服务,受管端点 127.0.0.1:32100 和 GPU 服务归电脑配置(PCConfig)管理。
- OpenCode 使用一次性 pure 配置,主入口和 27B 兼容入口都保留 262144 context/input、32768 输出、reserve 20000、最近 16384 与 4 轮的边界。
- data/local-model-set.json 拥有四个受管 Profile,客户端映射现在只剩 OpenCode;当前模型标签为 qwen3.8-27b:256k、qwen3.6-35b:256k、qwen3.6-35b-abliterated:256k、qwen3.8-27b-abliterated:256k。设置先预览、明确应用后同步 AICLI、Codex 桌面版、OpenCode 和 Ollama,不创建另一份模型目录。
- 普通27B和去限制27B、普通35B采用num_batch=128;35B去限制版保留512。num_ctx=262144,draft_num_predict=0避免已复现的草稿预测崩溃,不替换原始模型权重。普通27B的256K镜像manifest(清单) SHA-256为8040835723046ec2631b6
4b960d44 414636ea 5147942a 7d68eaaa 7ccdb492 e20,Q4_K_M,temperature=1、top_p=.95、top_k=20、min_p=0、presence_penalty=0、repeat_penalty=1。输出上限有两层:AICLI 配置里普通 35B 声明 8192、其余三个声明 32768;Ollama 的 35B 标签参数另写 num_predict=32768。实际由哪一层截断没有测过。
- 听写或文字识别占着显卡时,本地模型请求最多排队 90 秒并提示在等,不直接报错;但“听写与 AICLI 并发交接显卡”在电脑配置的待验收清单里仍是暂缓状态,还不能说真实并发交接已验收。

- 两个代理退役后,原来的批准版本清单(ccp 0.1.15、cliproxy 7.2.72)、首选端口 43197/43198 与 43192–43209 候选池、ProxyService 和 PortAllocator 都已删除,只作为历史技术记录,不再是现役配置。


- 两个代理退役后,原来的批准版本清单(ccp 0.1.15、cliproxy 7.2.72)、首选端口 43197/43198 与 43192–43209 候选池、ProxyService 和 PortAllocator 都已删除,只作为历史技术记录,不再是现役配置。



| 名词 | 意思 |
|---|---|
| loopback(本机回环) | 只允许本机访问的 127.0.0.1 地址;0.0.0.0、局域网与公网监听都不接受。 |
| LocalGpuBroker(本地显卡协调器) | 外部既有运行时,负责本地模型端点与资源租约;AICLI 只作为消费者。 |
| 受管模型集合 | data/local-model-set.json 里登记的 4 个本地模型及各客户端的对应关系;增删换型都改这一份,再同步出去,不另建模型目录。 |

每个本地模型都是一条可选路线;任何一个离线都不会让 aicli 偷偷换到另一个。
解决什么
防止把“模型已下载”或旧的检查结果当成现在能用,防止本地失败时悄悄改走付费云端,也防止 AICLI 为抢资源结束别人的服务。



每个本地模型都是一条可选路线;任何一个离线都不会让 aicli 偷偷换到另一个。
解决什么
防止把“模型已下载”或旧的检查结果当成现在能用,防止本地失败时悄悄改走付费云端,也防止 AICLI 为抢资源结束别人的服务。

- 默认 Ollama 11434 不可达: 当前公共默认路线有限制;不改投 32100 或云端,除非用户选择对应 exact Profile。这是 9 月 14 日的观察,不作为今天全部本地模型离线的结论。
- 显卡正被听写或文字识别占用: 请求最多等 90 秒并提示在等;仍不可用就说明原因,不改投云端或别的模型。
- 路线要的模型标签本机没装: 例如通用模板要的 qwen3:8b、qwen3-coder:30b 当前都没装,这些路线标为用不了,不拿已装的受管模型顶替。

- 默认 Ollama 11434 不可达: 当前公共默认路线有限制;不改投 32100 或云端,除非用户选择对应 exact Profile。这是 9 月 14 日的观察,不作为今天全部本地模型离线的结论。
- 显卡正被听写或文字识别占用: 请求最多等 90 秒并提示在等;仍不可用就说明原因,不改投云端或别的模型。
- 路线要的模型标签本机没装: 例如通用模板要的 qwen3:8b、qwen3-coder:30b 当前都没装,这些路线标为用不了,不拿已装的受管模型顶替。

src/:本地模型身份与租约消费AiCliProfileManager/ Private/ LocalGpuBrokerSession.ps1
data/:四个受管模型与客户端映射local-model-set.json
scripts/:先预览、再应用的统一同步Sync-LocalModelConfiguration.ps1
docs/:本地模型参数、同步与历史实测记录user/ 本地模型统一配置.md
- 9 月 29 日删除两个代理后的全量离线测试为 470/470、0 失败、0 跳过,本地模型集合、同步和受管身份都在其中;10 月 11 日未重跑。
- 9 月 14 日的 Doctor 读到 Ollama 默认端点不可达,保留为当天记录;10 月 11 日只读查询 Ollama 为 0.35.0,4 个受管标签都在,没有发生成请求,也没有调用 GPU。11 月 4 日读到 Ollama 是 0.40.13,换版本后本机模型没有重新实跑。
- 9 月 16 日旧环境实测 35B 由每秒 62–69 个 token 提到 170–171 个,按当天记录保留,没有重跑性能。
本模块提供可选运行目标;引擎模块定义 Profile,验证模块决定该目标在当前是否真正可用。

src/:本地模型身份与租约消费AiCliProfileManager/ Private/ LocalGpuBrokerSession.ps1
data/:四个受管模型与客户端映射local-model-set.json
scripts/:先预览、再应用的统一同步Sync-LocalModelConfiguration.ps1
docs/:本地模型参数、同步与历史实测记录user/ 本地模型统一配置.md
- 9 月 29 日删除两个代理后的全量离线测试为 470/470、0 失败、0 跳过,本地模型集合、同步和受管身份都在其中;10 月 11 日未重跑。
- 9 月 14 日的 Doctor 读到 Ollama 默认端点不可达,保留为当天记录;10 月 11 日只读查询 Ollama 为 0.35.0,4 个受管标签都在,没有发生成请求,也没有调用 GPU。11 月 4 日读到 Ollama 是 0.40.13,换版本后本机模型没有重新实跑。
- 9 月 16 日旧环境实测 35B 由每秒 62–69 个 token 提到 170–171 个,按当天记录保留,没有重跑性能。
本模块提供可选运行目标;引擎模块定义 Profile,验证模块决定该目标在当前是否真正可用。
复制 AI 续作说明
项目:本地模型各自验明身份,不组成自动备用链;仓库:wlyaaaaa/ai-cli-profile-manager;范围:整个项目;目标:(这里写这次要做的事)。先读项目的 AGENTS.md 和说明,按现行规则做。
把“目标”换成这次要做的事,整段复制给 AI。





