Files
Agent-Workbench/docs/MODEL-CATALOG.md

37 lines
6.1 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# 上游模型目录与多模型使用
已随 **1.25.3** 完成本地正式交付,见[发行验收](QA-MODEL-CATALOG-1.25.3.md)及[回顾](RETROSPECTIVE-MODEL-CATALOG-1.25.3.md)。用户要求模型正常从上游获取,不要求手填;可选择多个型号,使用时手动指定或自动适配。实现沿用模型中心、ModelHub和现有模型池,不另建路由体系。
## 使用
1. 打开“模型中心 → 从上游添加模型”。可选已有连接使用原凭据,也可填写新上游的服务地址和鉴权;正常路径无需填写型号。
2. 获取目录后搜索并勾选要使用的型号,确认其能力与参数声明。上游缺少信息时按界面提示补充必要项;未提供目录的服务可用“手动填写(兼容)”。
3. 保存时保留当前选择、指定某一型号用于新任务,或建立自动适配池。之后可在工作台的模型选择入口切换;自动池按任务能力、健康、并发和所设策略选择成员。
4. 在连接的“推理与能力”里选择配置档、推理模式和强度,保存后用于新任务。上游提供的可选项会同步;未填写参数沿用上游默认,推理与答复共用输出预算。
获取目录会访问所选上游;保存配置本身不调用推理。模型列表不保证包含全部功能信息,声明支持与已验证、本地已接入分别展示,具体型号和代理的兼容仍以其实际响应为准。
## 实现
模型中心主要入口为“从上游添加模型”:新上游填写名称、品牌、协议、根地址与凭据即可获取,无需先填型号。也可从已有连接“获取同源模型”,使用原凭据。目录支持搜索、多选与筛选批量选中;保存时可保留当前选择、手动指定默认型号,或建立自动适配池。手动填写保留为未提供目录的兼容入口。
Chat/Responses和DeepSeek兼容服务使用根地址下的GET /models;Messages按根地址或/v1地址补齐/v1/models,并保留x-api-key/Bearer选择和anthropic-version。has_more/last_id分页有60秒、20页、1000项、4MB界限,达到范围明确显示部分目录;本机100连接、单池32成员的原上限不静默截断。错误保留原上游原因与请求ID,单次目录GET不自动重试,不生成模型推理尝试。取消覆盖请求先后乱序与迟到响应;关闭宿主清除临时预览。
同上游的多个型号通过credentialSource引用源连接,原内存Key对象和DPAPI块保持;只为新填写且用户明确选择保存的Key创建一个块。不同账号即使端点/型号相同仍独立。源停用或地址/鉴权不符则引用不可用;原Key替换、源代次和连接修订参与旧Run拒绝。子型号显式填写独立Key会脱离引用并增加凭据修订,避免旧opaque历史误回传。新增模型、池、选线和模式在同一SQLite事务中保存,失败整批回退且预览仍可修正。重启只恢复原保存块;临时Key仍不持久化。
目录同步上游明确提供的型号、显示名称、提供方、容量、生命周期、文本/工具/流式/图像/语音声明、推理模式/强度、支持参数及PDF/服务端工具等功能声明。元数据缺失保持未知,允许用户明确补充未知文本/工具项;负面声明不会被补充覆盖。推理界面与服务端按已提供的档位/模式限制选择。实际配置容量仍取原本机预算与上游上限的较小值,不自动扩预算。目录声明不变成已验证,本地未接入功能仍标未接入。重新选择已有模型保留其本地参数、能力覆盖和命名,结果明确为沿用已有模型;不暗中覆盖用户编辑。
自动适配按照本次任务能力、健康、并发和原池策略筛选,运行内优先保持型号;这不是已验证的语义任务路由。手动与自动都保留每次实际请求身份、用量和原失败,旧Run保存原目录/连接/凭据/池快照。
## 验证与回顾
首批11/11目录核心验证与构建通过;补足编译HTTP、容量、不同账号、停用中的子型号检测和宿主停止后,目录/模型中心/能力路由/推理/凭据/发行与升级相关68/68通过,热升级保留目录对象与方法回退另补4/4通过,完整构建通过。网页/实际Electron最终各8组、各13目录GET、0推理通过,1440/390px原图实际回看。新增目录没有减掉原推理验收,推理网页/桌面各6组再次通过;原模型中心、协议、Messages入口随后复验。独立载荷/安装/正式升级另写发行报告。
目录品牌补强首轮有一项验收器断言失败:DOM已包含disabled的option,Playwright的toBeDisabled仍返回enabled。原截图和失败保留,改为核对真实HTMLSelectElement选项的disabled布尔属性,原期望/期限不变,最终网页/桌面通过。阶段复核另发现同地址/型号的新账号可能误中旧源匹配,已将去重严格限制到明确源连接,增加真实HTTP两账号隔离;不是将端点或型号当凭据身份。
开发证据位于`.qa/reasoning-controls/`,最终原件已封存到`docs/model-catalog-1.25.3-evidence/`。原109e5124范围的完整源码测试因本次需求扩大,在264个完成项、未观察到失败时主动停止;未完整通过,不作为新范围验收。扩大范围已另冻并完成完整源码、独立发行和正式升级;首取消、版本遗漏及元数据收尾失败与复验分别保留,详见发行报告。
公开契约参考:OpenAI官方GET https://api.openai.com/v1/models的OpenAPI说明;Anthropic官方SDK `https://raw.githubusercontent.com/anthropics/anthropic-sdk-typescript/main/src/resources/models.ts`(原文件已保存于`.qa/reasoning-controls/public-docs/claude-sdk-models.ts`),包括capabilities、effort、thinking.types与分页。兼容代理实际是否提供这些元数据尚未用真实账号核验,本阶段真实模型请求0。
本地核心/HTTP夹具与真实供应商交付分别判断。Z3空响应、DeepSeek length、全部旧网络异常/重复读取、自主工程交付与Purge AB/BA未验证保持,不续跑旧实验、不推送、不委派、不操作真实Key。