跳转到正文

用户术语表

这是用户可见术语的精简表;完整定义和反例以根目录 CONTEXT.md 为准。

术语含义
节点(node)运行 gpuworks-agent、上报 GPU 并承载实例的主机或容器
实例(instance)一个部署在节点上运行的推理服务进程/容器
原始模型模型的稳定身份标识,用于跨引擎聚合去重(如 deepseek-ai/deepseek-v4)
档位(spec)一个可执行的引擎、镜像、权重、GPU 谓词(GPU 匹配条件)和参数组合
场景(scenario)低延迟、均衡或高吞吐等档位用途标签
就位(presence)镜像/模型在某节点上的状态,如 absent(未就位)、pulling(拉取中)、present(已就位)
获取(acquisition)权重和镜像到达节点的过程,由节点启动副本时按拉取设置自己决定:本地已有、同步组内复制、拉取或下载;部署不选择来源
节点间同步(peer sync)从已有完整副本的在线节点直传模型或镜像,不经过 server 中转;同步组内自动发生,也可手动发起
拉取设置来源规则(镜像规则与模型站点规则)、代理、同步组与凭据,决定节点从哪里拉镜像和下载模型、走哪个代理、能从谁那里复制
站点规则来源规则里 match 以 http(s):// 开头的一类:匹配模型站点根(如 https://huggingface.co),替代地址可带路径;规则叠加,可关闭回源,可勾选「用于管理节点获取模型元数据」
拉取代理拉取设置里的有序代理条目,节点按标签用第一条满足条件的;管理节点用勾选了「用于管理节点出站访问」的第一条
拉取候选同一镜像的候选 registry 引用,或同一模型的候选下载地址(来源规则的替代地址在前,镜像自己的副本或站点本身在后),按顺序尝试直到成功;失败的地址冷却 30 分钟
评测对服务进行测量的顶层概念;当前包含 benchmark
压测(benchmark)对 OpenAI 兼容端点施加受控负载并记录性能指标
偏离(deviated)用户覆写模板字段后的提示状态,不是错误
快捷/专家模式同一部署页的两种视图:快捷模式只显示预先选定的常用字段(白名单表单),专家模式提供完整参数编辑
加权 QoSPPU 等后端在繁忙时按配额分配吞吐,不等于硬件分区

这篇文档有帮助吗?