Files
Agent-Workbench/docs/MODEL-CATALOG.md

6.1 KiB
Raw Permalink Blame History

上游模型目录与多模型使用

已随 1.25.3 完成本地正式交付,见发行验收及回顾。用户要求模型正常从上游获取,不要求手填;可选择多个型号,使用时手动指定或自动适配。实现沿用模型中心、ModelHub和现有模型池,不另建路由体系。

使用

  1. 打开“模型中心 → 从上游添加模型”。可选已有连接使用原凭据,也可填写新上游的服务地址和鉴权;正常路径无需填写型号。
  2. 获取目录后搜索并勾选要使用的型号,确认其能力与参数声明。上游缺少信息时按界面提示补充必要项;未提供目录的服务可用“手动填写(兼容)”。
  3. 保存时保留当前选择、指定某一型号用于新任务,或建立自动适配池。之后可在工作台的模型选择入口切换;自动池按任务能力、健康、并发和所设策略选择成员。
  4. 在连接的“推理与能力”里选择配置档、推理模式和强度,保存后用于新任务。上游提供的可选项会同步;未填写参数沿用上游默认,推理与答复共用输出预算。

获取目录会访问所选上游;保存配置本身不调用推理。模型列表不保证包含全部功能信息,声明支持与已验证、本地已接入分别展示,具体型号和代理的兼容仍以其实际响应为准。

实现

模型中心主要入口为“从上游添加模型”:新上游填写名称、品牌、协议、根地址与凭据即可获取,无需先填型号。也可从已有连接“获取同源模型”,使用原凭据。目录支持搜索、多选与筛选批量选中;保存时可保留当前选择、手动指定默认型号,或建立自动适配池。手动填写保留为未提供目录的兼容入口。

Chat/Responses和DeepSeek兼容服务使用根地址下的GET /models;Messages按根地址或/v1地址补齐/v1/models,并保留x-api-key/Bearer选择和anthropic-version。has_more/last_id分页有60秒、20页、1000项、4MB界限,达到范围明确显示部分目录;本机100连接、单池32成员的原上限不静默截断。错误保留原上游原因与请求ID,单次目录GET不自动重试,不生成模型推理尝试。取消覆盖请求先后乱序与迟到响应;关闭宿主清除临时预览。

同上游的多个型号通过credentialSource引用源连接,原内存Key对象和DPAPI块保持;只为新填写且用户明确选择保存的Key创建一个块。不同账号即使端点/型号相同仍独立。源停用或地址/鉴权不符则引用不可用;原Key替换、源代次和连接修订参与旧Run拒绝。子型号显式填写独立Key会脱离引用并增加凭据修订,避免旧opaque历史误回传。新增模型、池、选线和模式在同一SQLite事务中保存,失败整批回退且预览仍可修正。重启只恢复原保存块;临时Key仍不持久化。

目录同步上游明确提供的型号、显示名称、提供方、容量、生命周期、文本/工具/流式/图像/语音声明、推理模式/强度、支持参数及PDF/服务端工具等功能声明。元数据缺失保持未知,允许用户明确补充未知文本/工具项;负面声明不会被补充覆盖。推理界面与服务端按已提供的档位/模式限制选择。实际配置容量仍取原本机预算与上游上限的较小值,不自动扩预算。目录声明不变成已验证,本地未接入功能仍标未接入。重新选择已有模型保留其本地参数、能力覆盖和命名,结果明确为沿用已有模型;不暗中覆盖用户编辑。

自动适配按照本次任务能力、健康、并发和原池策略筛选,运行内优先保持型号;这不是已验证的语义任务路由。手动与自动都保留每次实际请求身份、用量和原失败,旧Run保存原目录/连接/凭据/池快照。

验证与回顾

首批11/11目录核心验证与构建通过;补足编译HTTP、容量、不同账号、停用中的子型号检测和宿主停止后,目录/模型中心/能力路由/推理/凭据/发行与升级相关68/68通过,热升级保留目录对象与方法回退另补4/4通过,完整构建通过。网页/实际Electron最终各8组、各13目录GET、0推理通过,1440/390px原图实际回看。新增目录没有减掉原推理验收,推理网页/桌面各6组再次通过;原模型中心、协议、Messages入口随后复验。独立载荷/安装/正式升级另写发行报告。

目录品牌补强首轮有一项验收器断言失败:DOM已包含disabled的option,Playwright的toBeDisabled仍返回enabled。原截图和失败保留,改为核对真实HTMLSelectElement选项的disabled布尔属性,原期望/期限不变,最终网页/桌面通过。阶段复核另发现同地址/型号的新账号可能误中旧源匹配,已将去重严格限制到明确源连接,增加真实HTTP两账号隔离;不是将端点或型号当凭据身份。

开发证据位于.qa/reasoning-controls/,最终原件已封存到docs/model-catalog-1.25.3-evidence/。原109e5124范围的完整源码测试因本次需求扩大,在264个完成项、未观察到失败时主动停止;未完整通过,不作为新范围验收。扩大范围已另冻并完成完整源码、独立发行和正式升级;首取消、版本遗漏及元数据收尾失败与复验分别保留,详见发行报告。

公开契约参考:OpenAI官方GET https://api.openai.com/v1/models的OpenAPI说明;Anthropic官方SDK https://raw.githubusercontent.com/anthropics/anthropic-sdk-typescript/main/src/resources/models.ts(原文件已保存于.qa/reasoning-controls/public-docs/claude-sdk-models.ts),包括capabilities、effort、thinking.types与分页。兼容代理实际是否提供这些元数据尚未用真实账号核验,本阶段真实模型请求0。

本地核心/HTTP夹具与真实供应商交付分别判断。Z3空响应、DeepSeek length、全部旧网络异常/重复读取、自主工程交付与Purge AB/BA未验证保持,不续跑旧实验、不推送、不委派、不操作真实Key。