发布说明
v26.11.0
本文目录
发布日期:2026-11-03 · 发布线:26.11 · 提交:2c794db9b
26.11 发布线的首个正式版本,也是 GPUWorks 的第一个正式版本。此前的构建只发布在 nightly 渠道。
主要能力
- server 与 agent 各一个静态二进制:server 内嵌 Web 界面(中文 / English)与各平台 agent,状态存在一个 SQLite 文件里; agent 主动外连,出站受限的节点可由 server 反向直连(server_dial)。
- 异构加速器统一调度:NVIDIA、华为昇腾、平头哥 PPU、海光 DCU 与 Apple Silicon 节点接入同一集群, 调度器先估算权重、KV cache 与引擎开销的显存,再选卡并解释放置结果。
- 推理模板目录:390 个模型、1,224 份启动规格(NVIDIA 775、PPU 196、昇腾 173、海光 42、Apple 9),每份规格固定镜像、引擎、启动参数与权重版本。
- 一张卡跑多个模型:dGPU 显存硬限额(NVIDIA 基于 HAMi-core,昇腾基于 vcann-rt,PPU 基于 ppu-slicing-shim,海光为实验特性),以及 vLLM 的 sleep/wake。
- 横向扩展:跨节点多副本、多机张量 / 流水线并行、PD 分离。
- OpenAI 兼容网关:
/v1下的 chat、completions、embeddings、rerank、音频、图像、视频与 realtime,API 令牌与按令牌的用量统计。 - 公有云与私有云混合调度:从 RunPod、优云智算、AutoDL、Vast.ai、阿里云同步云主机,或从 ZStack Cloud 同步虚拟机。
- 可观测与评测:GPU 与引擎指标、日志检索、单请求追踪(可导出 OTLP)、Web 终端、内置压测、AI 助手与只读 MCP 端点。
- 离线可用:从镜像包或 HTTP 文件服务器导入镜像与模型,节点之间互相同步。
- 签名的多源发布:发布索引带 ed25519 签名,安装与升级从
dl.gpuworks.ai、阿里云 OSS、华为云 OBS 中选择可用的源。
入门
这篇文档有帮助吗?