@@ -4,6 +4,7 @@ import { api, downloadArtifact } from './api';
import type { Config , ModelSelection , ModelSnapshot , RuntimeFailure } from './types' ;
import './ModelCenter.css' ;
import { ModelIdentityDetails } from './ModelIdentityDetails' ;
import { ModelRoutingDetails , type RoutingDecision } from './ModelRoutingDetails' ;
import type { ModelIdentity } from '../shared/contracts/model-identity.mjs' ;
import { ModelWaitSettings , type WaitSettings } from './ModelWaitSettings' ;
import { NativeParameters } from './NativeParameters' ;
@@ -24,7 +25,7 @@ const upstreamCapacity = (value: { model: string; upstreamModel?: CatalogModel }
type Connection = { id : string ; name : string ; brand : string ; protocol : string ; parameterProfile? : string ; messagesAuth? : string ; baseUrl : string ; model : string ; enabled : boolean ; revision : number ; hasKey : boolean ; credentialSource ? : { connectionId : string } ; upstreamModel? : CatalogModel ;
requiresKey : boolean ; modelIdentityPolicy? : string ; modelIdentityAliases? : string [ ] ; modelIdentityAliasSource? : string ; nativeParameters? : Record < string , unknown > ; outputTokenField? : string ; streaming? : boolean ; capabilityDeclarations? : Record < string , string > ; capabilities? : Record < string , string > ; capabilityEvidence ? : { checkedAt : string } ; contextLimit : number ; maxOutputTokens : number ; concurrency : number ; status : string ; activeRequests : number ; savedCredential ? : { status : string } ; health : { state : string ; reason? : string ; cooldownUntil? : number } } ;
type Pool = { id? : string ; name : string ; members : { connectionId : string ; weight : number } [ ] ; strategy : string ; sticky : boolean ; maxAttempts : number ; revision? : number ; queueTimeoutMs : number } ;
type Attempt = { modelIdentity? : ModelIdentity ; diagnostic? : RuntimeFailure ; requestUrl? : string ; upstreamResponse ? : { requestId? : string | null ; requestUrl? : string ; responseUrl? : string | null ; redirectMode? : string } ; id : string ; connectionId : string ; poolId : string | null ; model : string ; protocol? : string ; streaming? : boolean ; rejections ? : { connectionName : string ; capability : string ; reason : string } [ ] ; status : string ; startedAt : string ; ordinal : number ; usageStatus : string ; reason? : string ; taskId? : string ; sessionId? : string ; runId : string ; requestArtifactId? : string ; responseArtifactId? : string ; responseSha256? : string ; responseRedacted? : boolean ; stream ? : { bytes : number ; capturedBytes? : number ; frames : number ; sha256 : string ; terminal : boolean } ; usage ? : { prompt_tokens? : number ; completion_tokens? : number } } ;
type Attempt = { routingDecision? : RoutingDecision ; modelIdentity? : ModelIdentity ; diagnostic? : RuntimeFailure ; requestUrl? : string ; upstreamResponse ? : { requestId? : string | null ; requestUrl? : string ; responseUrl? : string | null ; redirectMode? : string } ; id : string ; connectionId : string ; poolId : string | null ; model : string ; protocol? : string ; streaming? : boolean ; rejections ? : { connectionName : string ; capability : string ; reason : string } [ ] ; status : string ; startedAt : string ; ordinal : number ; usageStatus : string ; reason? : string ; taskId? : string ; sessionId? : string ; runId : string ; requestArtifactId? : string ; responseArtifactId? : string ; responseSha256? : string ; responseRedacted? : boolean ; stream ? : { bytes : number ; capturedBytes? : number ; frames : number ; sha256 : string ; terminal : boolean } ; usage ? : { prompt_tokens? : number ; completion_tokens? : number } } ;
type ImportRecord = { id : string ; source : string ; path : string ; enabled : boolean ; lastCheckedAt? : string ; lastSyncedAt? : string ; lastError? : string ; lastResult ? : { imported? : number ; conflicts? : string [ ] } } ;
type Center = { revision : number ; selected : { type : string ; id : string } ; waitSettings : WaitSettings ; connections : Connection [ ] ; pools : Pool [ ] ; imports : ImportRecord [ ] ; attempts : Attempt [ ] ; waiting : number } ;
type Operations = { checkedAt : string ; version : string ; scope : string ; activeTasks : number ; queue : number ; checks : { id : string ; title : string ; status : string ; detail : string } [ ] ;
@@ -150,7 +151,8 @@ export function ModelCenter({ onConfig, busy, runModel }: { onConfig: (value: Co
< p className = "mc-help mc-full" aria-label = "请求地址预览" > POST { previewUrl ( draft ) } < br / > { draft . protocol === 'anthropic-messages' ? '填写服务根地址或 /v1 根地址,工作台补齐 /v1/messages。鉴权按供应商文档选择。' : '工作台按此根地址追加协议路径;服务要求 /v1 时,请在根地址中填写。' } 切 换 协 议 会 重 置 本 表 单 的 原 生 参 数 , 保 存 后 从 新 任 务 生 效 。 < / p >
{ draft . protocol === 'anthropic-messages' && < label > Messages 鉴 权 < select aria-label = "Messages 鉴权" value = { draft . messagesAuth ? ? 'api-key' } onChange = { event = > setDraft ( { . . . draft , messagesAuth : event.target.value } ) } > < option value = "api-key" > x - api - key ( Anthropic 标 准 ) < / option > < option value = "bearer" > Bearer ( 兼 容 服 务 ) < / option > < / select > < / label > }
< label > 请 求 模 型 名 称 < input required value = { draft . model } onChange = { event = > setDraft ( { . . . draft , model : event.target.value } ) } / > < / label >
< label > 型 号 核 对 < select aria-label = "型号核对" value = { draft . modelIdentityPolicy } onChange = { event = > setDraft ( { . . . draft , modelIdentityPolicy : event.target.value } ) } > < option value = "record" > 记 录 请 求 与 返 回 型 号 < / option > < option value = "require-match" > 无 法 核 对 或 不 一 致 时 暂 停 < / option > < / select > < / label >
< label > 型 号 核 对 < select aria-label = "型号核对" value = { draft . modelIdentityPolicy } onChange = { event = > setDraft ( { . . . draft , modelIdentityPolicy : event.target.value } ) } > < option value = "record" > 记 录 请 求 与 返 回 型 号 < / option > < option value = "require-match" > 严 格 核 对 型 号 < / option > < / select > < / label >
< p className = "mc-help mc-full" > { runtimeConfig ? . executionMode === 'unrestricted' ? '当前完全开放执行:记录型号差异后继续;所选核对策略仍会保存。' : '严格核对时,型号不一致或无法核对会暂停并保留原响应。' } < / p >
< label className = "mc-full" > 允 许 的 返 回 型 号 ( 可 选 , 逗 号 分 隔 ) < input value = { draft . modelIdentityAliasesText } onChange = { event = > setDraft ( { . . . draft , modelIdentityAliasesText : event.target.value } ) } / > < / label >
< label className = "mc-full" > 型 号 映 射 依 据 < input required = { draft . modelIdentityAliasesText . trim ( ) . length > 0 } value = { draft . modelIdentityAliasSource } placeholder = "填写供应商映射说明或可核对的出处" onChange = { event = > setDraft ( { . . . draft , modelIdentityAliasSource : event.target.value } ) } / > < / label >
< label > 临 时 API Key < input type = "password" autoComplete = "off" value = { key } placeholder = { draft . id ? '留空保留本次凭据' : '按服务要求填写' } onChange = { event = > setKey ( event . target . value ) } / > < / label >
@@ -196,14 +198,14 @@ export function ModelCenter({ onConfig, busy, runModel }: { onConfig: (value: Co
< / article > ) } < / div > < p className = "mc-help" > 删 除 本 机 保 存 保 留 本 次 内 存 连 接 ; 清 除 该 连 接 凭 据 会 同 时 移 除 本 机 保 存 与 内 存 凭 据 。 < / p >
< / > }
< / section > }
{ tab === 'pools' && < > < div className = "mc-section-title" > < div > < h3 > 模 型 池 < / h3 > < p > 按 能 力 、 凭 据 、 健 康 和 并 发 选 择 成 员 , 切 换 保 留 已 完 成 操 作 。 < / p > < / div > < button className = "button primary" disabled = { locked } onClick = { ( ) = > { setPool ( emptyPool ) ; setPoolEditing ( true ) ; } } > < Plus size = { 16 } / > 新 建 模 型 池 < / button > < / div >
{ ! view . pools . length && < p className = "mc-empty" > 添 加 多 个 连 接 后 建 立 模 型 池 , 设 置 轮 询 与 故 障 切 换 规 则 。 < / p > }
{ tab === 'pools' && < > < div className = "mc-section-title" > < div > < h3 > 模 型 池 < / h3 > < p > 自 动 选 择 优 先 已 知 适 配 成 员 , 能 力 未 知 时 保 留 后 备 尝 试 。 明 确 不 支 持 的 成 员 不 参 与 自 动 选 择 , 仍 可 手 动 选 用 。 透 传 请 求 失 败 后 保 留 原 错 , 等 待 处 理 。 < / p > < / div > < button className = "button primary" disabled = { locked } onClick = { ( ) = > { setPool ( emptyPool ) ; setPoolEditing ( true ) ; } } > < Plus size = { 16 } / > 新 建 模 型 池 < / button > < / div >
{ ! view . pools . length && < p className = "mc-empty" > 添 加 多 个 连 接 后 建 立 模 型 池 , 设 置 轮 询 或 权 重 与 连 接 亲 和 。 < / p > }
{ view . pools . map ( value = > < article className = "mc-pool" key = { value . id } > < Layers3 size = { 23 } / > < div > < h4 > { value . name } < / h4 > < p > { value . strategy === 'weighted' ? '权重轮询' : '顺序轮询' } · { value . members . length } 个 成 员 · { value . maxAttempts } 次 尝 试 上 限 · { value . sticky ? '运行内保持连接' : '每次请求重新选择' } < / p > < div className = "mc-members" > { value . members . map ( member = > < span key = { member . connectionId } > { connections . find ( connection = > connection . id === member . connectionId ) ? . name } × { member . weight } < / span > ) } < / div > < / div > < div className = "mc-actions" > < button className = "button secondary" disabled = { locked } onClick = { ( ) = > { setPool ( value ) ; setPoolEditing ( true ) ; } } > 编 辑 < / button > < button className = "button primary" disabled = { locked } onClick = { ( ) = > void act ( async ( ) = > { const result = await api < { config : Config } > ( '/model-center/select' , { type : 'pool' , id : value.id } ) ; onConfig ( result . config , { type : 'pool' , id : value.id ! , name : value.name } ) ; } ) } > { selected ? . id === value . id ? '当前模型池' : '使用此模型池' } < / button > < / div > < / article > ) }
{ poolEditing && < form className = "mc-editor" aria-label = "编辑模型池" onSubmit = { event = > { event . preventDefault ( ) ; void act ( async ( ) = > { await api ( '/model-center/pools' , pool ) ; if ( alive . current ) setPoolEditing ( false ) ; } ) ; } } > < h3 > 模 型 池 规 则 < / h3 > < div className = "mc-form-grid" > < label > 模 型 池 名 称 < input required value = { pool . name } onChange = { event = > setPool ( { . . . pool , name : event.target.value } ) } / > < / label > < label > 调 度 策 略 < select value = { pool . strategy } onChange = { event = > setPool ( { . . . pool , strategy : event.target.value } ) } > < option value = "round-robin" > 顺 序 轮 询 < / option > < option value = "weighted" > 权 重 轮 询 < / option > < / select > < / label > < label > 单 请 求 尝 试 上 限 < input type = "number" min = "1" max = "8" value = { pool . maxAttempts } onChange = { event = > setPool ( { . . . pool , maxAttempts : Number ( event . target . value ) } ) } / > < / label > < label > 排 队 上 限 ( 秒 ) < input type = "number" min = "1" max = "60" value = { pool . queueTimeoutMs / 1000 } onChange = { event = > setPool ( { . . . pool , queueTimeoutMs : Number ( event . target . value ) * 1000 } ) } / > < / label > < / div > < label className = "mc-checkbox" > < input type = "checkbox" checked = { pool . sticky } onChange = { event = > setPool ( { . . . pool , sticky : event.target.checked } ) } / > 同 一 运 行 优 先 保 持 连 接 ; 明 确 失 败 后 才 切 换 < / label >
< fieldset > < legend > 模 型 池 成 员 与 权 重 < / legend > { connections . map ( connection = > { const member = pool . members . find ( value = > value . connectionId === connection . id ) ; return < label key = { connection . id } className = "mc-member-choice" > < input type = "checkbox" checked = { ! ! member } onChange = { event = > setPool ( { . . . pool , members : event.target.checked ? [ . . . pool . members , { connectionId : connection.id , weight : 1 } ] : pool . members . filter ( value = > value . connectionId !== connection . id ) } ) } / > < span > { connection . name } < small > { connection . model || '尚未选择模型' } · { states [ connection . status ] } < / small > < / span > < input type = "number" aria-label = { connection . name + '权重' } disabled = { ! member } min = "1" max = "10" value = { member ? . weight ? ? 1 } onChange = { event = > setPool ( { . . . pool , members : pool.members.map ( value = > value . connectionId === connection . id ? { . . . value , weight : Number ( event . target . value ) } : value ) } ) } / > < / label > ; } ) } < / fieldset >
< div className = "mc-actions" > < button className = "button secondary" type = "button" onClick = { ( ) = > setPoolEditing ( false ) } > 取 消 < / button > < button className = "button primary" disabled = { locked || ! pool . members . length } > 保 存 模 型 池 < / button > < / div > < / form > }
< / > }
{ tab === 'attempts' && < > < div className = "mc-section-title" > < div > < h3 > 请 求 账 本 < / h3 > < p > 最 近 100 次 物 理 请 求 ; 最 多 保 存 1000 次 。 未 知 用 量 保 持 未 知 。 < / p > < / div > < span > { view . attempts . length } 条 记 录 < / span > < / div > { ! view . attempts . length && < p className = "mc-empty" > 当 前 没 有 模 型 中 心 请 求 。 选 择 连 接 或 模 型 池 执 行 任 务 后 , 实 际 尝 试 会 保 存 在 这 里 。 < / p > } < div className = "mc-attempts" > { view . attempts . map ( value = > < article key = { value . id } > < div > < span className = { 'mc-state mc-state-' + value . status } > { states [ value . status ] } < / span > < strong > { value . model } < / strong > < time > { new Date ( value . startedAt ) . toLocaleString ( ) } < / time > < / div > < p > { connections . find ( connection = > connection . id === value . connectionId ) ? . name || '未派发' } · { value . protocol ? protocolLabel ( value . protocol ) : '能力筛选' } { value . streaming ? ' · 流式' : '' } · { value . ordinal ? '尝试 ' + value . ordinal : '未发送' } · { value . usageStatus === 'reported' ? ` ${ value . usage ? . prompt_tokens ? ? '?' } 输入 / ${ value . usage ? . completion_tokens ? ? '?' } 输出 tokens ` : value . usageStatus === 'not_dispatched' ? '未产生请求用量' : '用量未知' } < / p > < code > Run { value . runId } < / code > { value . stream && < div className = "mc-stream-receipt" > < p > { value . stream . terminal ? "响应完整终结" : "响应未完整,片段保留待核对" } · 已 接 收 { value . stream . bytes . toLocaleString ( ) } bytes · { value . stream . frames } 个 事 件 { value . stream . capturedBytes !== undefined && value . stream . capturedBytes < value . stream . bytes ? " · 仅保存上限内片段" : "" } < / p > < code > 原 流 SHA256 { value . stream . sha256 } < / code > { value . responseSha256 && < code > 工 件 SHA256 { value . responseSha256 } { value . responseRedacted ? "(已脱敏)" : "" } < / code > } { value . sessionId && value . responseArtifactId && < button className = "button secondary" disabled = { working } onClick = { ( ) = > void act ( async ( ) = > { await downloadArtifact ( value . sessionId ! , value . responseArtifactId ! , "model-stream-" + value . id + ".sse" ) ; } ) } > 下 载 已 保 存 的 响 应 < / button > } < / div > } { value . requestUrl && < p className = "mc-request-url" > 请 求 地 址 : { value . requestUrl } { value . upstreamResponse ? . responseUrl && < > < br / > 响 应 地 址 : { value . upstreamResponse . responseUrl } < / > } < / p > } { value . reason && < p className = "mc-card-warning" > { value . reason } < / p > } { < ModelIdentityDetails identity = { value . modelIdentity } requestedModel = { value . model } / > } { value . diagnostic && < ModelErrorDetails failure = { value . diagnostic } / > } { ! value . diagnostic && value . upstreamResponse ? . requestId && < p className = "mc-help" > 上 游 请 求 ID : { value . upstreamResponse . requestId } < / p > } { value . requestArtifactId && value . sessionId && < button className = "button secondary" disabled = { working } onClick = { ( ) = > void act ( async ( ) = > { await downloadArtifact ( value . sessionId ! , value . requestArtifactId ! , "model-request-" + value . id + ".json" ) ; } ) } > 下 载 实 际 请 求 < / button > } { ! ! value . rejections ? . length && < p className = "mc-route-rejections" > { value . rejections . map ( item = > item . connectionName + ': ' + ( capabilityLabels [ item . capability ] ? ? item . capability ) + ' · ' + item . reason ) . join ( '; ' ) } < / p > } < / article > ) } < / div > < / > }
{ tab === 'attempts' && < > < div className = "mc-section-title" > < div > < h3 > 请 求 账 本 < / h3 > < p > 最 近 100 次 物 理 请 求 ; 最 多 保 存 1000 次 。 未 知 用 量 保 持 未 知 。 < / p > < / div > < span > { view . attempts . length } 条 记 录 < / span > < / div > { ! view . attempts . length && < p className = "mc-empty" > 当 前 没 有 模 型 中 心 请 求 。 选 择 连 接 或 模 型 池 执 行 任 务 后 , 实 际 尝 试 会 保 存 在 这 里 。 < / p > } < div className = "mc-attempts" > { view . attempts . map ( value = > < article key = { value . id } > < div > < span className = { 'mc-state mc-state-' + value . status } > { states [ value . status ] } < / span > < strong > { value . model } < / strong > < time > { new Date ( value . startedAt ) . toLocaleString ( ) } < / time > < / div > < p > { connections . find ( connection = > connection . id === value . connectionId ) ? . name || '未派发' } · { value . protocol ? protocolLabel ( value . protocol ) : '能力筛选' } { value . streaming ? ' · 流式' : '' } · { value . ordinal ? '尝试 ' + value . ordinal : '未发送' } · { value . usageStatus === 'reported' ? ` ${ value . usage ? . prompt_tokens ? ? '?' } 输入 / ${ value . usage ? . completion_tokens ? ? '?' } 输出 tokens ` : value . usageStatus === 'not_dispatched' ? '未产生请求用量' : '用量未知' } < / p > < code > Run { value . runId } < / code > { value . stream && < div className = "mc-stream-receipt" > < p > { value . stream . terminal ? "响应完整终结" : "响应未完整,片段保留待核对" } · 已 接 收 { value . stream . bytes . toLocaleString ( ) } bytes · { value . stream . frames } 个 事 件 { value . stream . capturedBytes !== undefined && value . stream . capturedBytes < value . stream . bytes ? " · 仅保存上限内片段" : "" } < / p > < code > 原 流 SHA256 { value . stream . sha256 } < / code > { value . responseSha256 && < code > 工 件 SHA256 { value . responseSha256 } { value . responseRedacted ? "(已脱敏)" : "" } < / code > } { value . sessionId && value . responseArtifactId && < button className = "button secondary" disabled = { working } onClick = { ( ) = > void act ( async ( ) = > { await downloadArtifact ( value . sessionId ! , value . responseArtifactId ! , "model-stream-" + value . id + ".sse" ) ; } ) } > 下 载 已 保 存 的 响 应 < / button > } < / div > } { value . requestUrl && < p className = "mc-request-url" > 请 求 地 址 : { value . requestUrl } { value . upstreamResponse ? . responseUrl && < > < br / > 响 应 地 址 : { value . upstreamResponse . responseUrl } < / > } < / p > } { value . reason && < p className = "mc-card-warning" > { value . reason } < / p > } < ModelRoutingDetails decision = { value . routingDecision } / > < ModelIdentityDetails identity = { value . modelIdentity } requestedModel = { value . model } / > { value . diagnostic && < ModelErrorDetails failure = { value . diagnostic } / > } { ! value . diagnostic && value . upstreamResponse ? . requestId && < p className = "mc-help" > 上 游 请 求 ID : { value . upstreamResponse . requestId } < / p > } { value . requestArtifactId && value . sessionId && < button className = "button secondary" disabled = { working } onClick = { ( ) = > void act ( async ( ) = > { await downloadArtifact ( value . sessionId ! , value . requestArtifactId ! , "model-request-" + value . id + ".json" ) ; } ) } > 下 载 实 际 请 求 < / button > } { ! ! value . rejections ? . length && < p className = "mc-route-rejections" > { value . rejections . map ( item = > item . connectionName + ': ' + ( capabilityLabels [ item . capability ] ? ? item . capability ) + ' · ' + item . reason ) . join ( '; ' ) } < / p > } < / article > ) } < / div > < / > }
{ tab === 'imports' && < > < div className = "mc-section-title" > < div > < h3 > 已 有 配 置 导 入 < / h3 > < p > 先 预 览 来 源 和 模 型 , 再 导 入 。 原 客 户 端 配 置 保 持 原 样 。 < / p > < / div > < button className = "button secondary" disabled = { working } onClick = { ( ) = > void act ( async ( ) = > { const value = await api < { sources : typeof discovery } > ( '/model-center/imports' ) ; if ( alive . current ) setDiscovery ( value . sources ) ; } ) } > 识 别 本 机 来 源 < / button > < / div >
{ view . imports . length > 0 && < > < h4 > 已 登 记 来 源 < / h4 > { view . imports . map ( value = > < article className = "mc-import-source" key = { value . id } > < strong > { value . source } < / strong > < code > { value . path } < / code > < span > { value . enabled ? '每分钟检查' : '自动同步已关闭' } < / span > { value . lastCheckedAt && < p > 最 近 检 查 { new Date ( value . lastCheckedAt ) . toLocaleString ( ) } < / p > } { value . lastError && < p className = "mc-card-warning" > { value . lastError } < / p > } { ! ! value . lastResult ? . conflicts ? . length && < p className = "mc-card-warning" > 有 { value . lastResult . conflicts . length } 项 与 手 动 修 改 冲 突 , 已 保 留 工 作 台 中 的 修 改 。 < / p > } < button className = "button secondary" disabled = { locked } onClick = { ( ) = > void act ( async ( ) = > { await api ( '/model-center/import-toggle' , { id : value.id , enabled : ! value . enabled } ) ; } ) } > { value . enabled ? '关闭自动同步' : '启用自动同步' } < / button > < / article > ) } < button className = "button secondary" disabled = { locked || ! view . imports . some ( value = > value . enabled ) } onClick = { ( ) = > void act ( async ( ) = > { const result = await api < { results : { imported? : string [ ] ; conflicts? : string [ ] ; error? : string } [ ] } > ( '/model-center/import-sync' , { } ) ; const imported = result . results . reduce ( ( sum , value ) = > sum + ( value . imported ? . length ? ? 0 ) , 0 ) ; const conflicts = result . results . reduce ( ( sum , value ) = > sum + ( value . conflicts ? . length ? ? 0 ) , 0 ) ; if ( alive . current ) setNotice ( ` 已检查启用来源:更新 ${ imported } 项,冲突 ${ conflicts } 项。 ` ) ; } ) } > 立 即 同 步 已 启 用 来 源 < / button > < / > }
{ discovery . map ( value = > < article className = "mc-import-source" key = { value . source } > < strong > { value . source } < / strong > < code > { value . path || '当前版本尚无可发现的配置路径' } < / code > < span > { value . available ? value . supported ? '可预览' : '当前不支持' : '未发现' } < / span > { value . detail && < p > { value . detail } < / p > } < button className = "button secondary" disabled = { ! value . available || ! value . supported || locked } onClick = { ( ) = > { setImportSource ( value . source ) ; setImportPath ( value . path ) ; } } > 选 择 来 源 < / button > < / article > ) }