6.1 KiB
1.17 执行草案:模型协议、流式执行与能力路由
接续已完成独立发行和正式部署的1.16手机伴随端。此文件只登记后续方案,不表示已实现或已开始产品变更;从已验收的本地Git基线开具体分支。继续保持原Task/Run、工具结果、项目字节、审批和数据,按切片开发、验证、回顾并本地提交。
用户目标是让接入的多个模型在真实工程中稳定承担合适工作。当前基础是兼容Chat协议的多连接、轮询/权重、Run粘连、并发租约、冷却及请求账本,另有受控DeepSeek引擎桥;这些不证明所有品牌的原生协议、流式、视觉或语音都可用。WorkBuddy未知配置格式、未知登录态导入及真实Purge收益仍须独立核验。
本阶段应交付的成果
用户能看到每条连接的实际协议和已验证能力,选择适合工程任务的模型或池;不支持工具调用的成员不会接到需要工具的任务。请求超时、429、认证失败、流中断和取消各自有明确状态与原始依据,已开始执行的工具不因换线路而再次执行。桌面和手机继续显示同一Run的实际状态及已完成结果。
先审查现有Provider、ModelHub、受控引擎桥、连接导入和请求账本,固定扩展位置与向后兼容契约;再依据对应官方协议文档和指定版本逐项实现。协议名称、上游宣称或一次普通文本应答均不能单独证明工具、多模态或中断能力。
| 切片 | 实现范围 | 可核验的结束条件 |
|---|---|---|
| A:协议与能力登记 | 固定连接协议、模型标识、文本/工具/流式/附件声明与实际检测结果,保留来源及检测版本 | 旧连接可读;声明、已测、不支持、未知分别显示;检测不用正式任务数据,不暗中发付费请求 |
| B:协议适配 | 先增加一种经过文档与样本核对的实际协议,统一请求/应答、工具参数、错误和原用量映射 | 同一受控Node任务经过真实Provider链路完成;保留工具ID/结果配对,未知用量不补造;原兼容协议回归保持 |
| C:流式与停止 | 增量文本/工具片段、请求身份、序列、断开、明确取消、迟到结果与原账本 | 半截工具参数不执行;断网/取消不重复调度;已派发而结果未知仍保留unknown;实际HTTP进程与原Task/Run对应 |
| D:按能力选池 | 在现有租约/冷却/轮询基础上增加任务所需能力筛选、可解释拒绝和有界切换 | 不兼容成员不被选中;401/429/超时分开记账;完成工具不因换成员重放;池耗尽准确反馈,不承诺上游永不中断 |
| E:真实任务界面 | 协议/能力配置、检测范围、当前选路、流状态、中断核对和失败原因;沿用已有品牌与中文任务布局 | 用户可完成添加、检测、禁用、入池、执行、停止与核对全流程;实际桌面/390px/iPhone观察状态与原事件一致 |
| F:工程与发行回顾 | 固定Node/React/Python样本、故障注入、完整历史回归、独立源码/便携/安装与保留状态升级 | 原失败保留;模型协议、夹具执行、真实推理收益分别报告;版本与源码/工件/实际部署身份可追溯 |
已核对的扩展位置
1.16发行期间只读核对了当前源码,未开始1.17产品实现。src/server/provider.mjs的complete固定调用/chat/completions,request读取完整有界JSON后返回;已有请求AbortController和停止等待,不能据此宣称支持逐片输出。src/shared/contracts/model-request.mjs负责封存请求体与预算,新协议需要封存它实际发送的字节,而不是只保留旧Chat请求的摘要。
src/core/models/model-hub.mjs固定protocol: chat-completions,公开能力中tools只是protocol_declared、vision/audio为unknown;已有租约/Run粘连/冷却/逐请求账本可以保留。A切片先版本化连接与能力来源,兼容原schema:1;D在既有acquire前按任务需要筛选,池拒绝原因进入原Run,不能从模型名称推断能力。C的文本/工具片段只作为进展,完整工具参数与终结状态核验前不得派发工具。
src/core/models/config-import.mjs目前明确跳过非Chat协议,CC Switch按已验证SQLite列解析;扩展时同步导入预览和启停规则,未知品牌/格式继续显示未支持。凭据仍复用credential-vault.mjs与已有当前用户加密,不另建明文号池。原model-center、upgrade-model-center和请求封存回归作为兼容门槛;新增测试覆盖实际协议差异、半截工具、错误分类和原结果保留。
真实模型与评测边界(执行约束)
用户此前选择先完成本地验收,真实模型工程与收益对照继续单独待验。开发和协议回归使用自有loopback夹具,不读取已有客户端未知登录态,不抽取模型Key;正式Provider与当前配置保持。实际模型工程使用用户在工作台配置的连接并按已有执行权限运行,公开连接状态可用本身不代表收益验收完成。固定回答夹具可以证明协议、账本和工具链路,不能证明模型能自主解决工程需求。未有真实样本的协议/能力要明确保留未验状态。
评测首先固定输入工程、需求、允许范围与外部独立检查,保存首次失败、修复、检查、浏览器交互、本地Git及人工介入;比较结果以成功率、错误修改、耗时和原已报告用量为依据。不要只增加测试数量而缺少实际工程结果。
后续分层
视觉、语音和附件在协议/能力/取消契约明确后,作为独立切片接入,分别处理项目授权、文件类型/大小、保留期限、缓存失效和实际样本。通用电脑操作、未知格式自动导入、其它代理引擎和OS沙箱另设具体版本及验收条件。自我迭代最后建立在独立分支、固定工程评测、多模型复核与可回退发行之上;候选失败不能修改正在运行的版本。
安装校验耗时、进度反馈和超长自定义安装路径预检继续作为已有体验欠项登记;性能优化必须保留完整性与数据核对,不以减少校验掩盖延迟。