发布说明
v26.11.1
本文目录
发布日期:2026-11-04 · 发布线:26.11 · 提交:0eb83be4b
这一版更新默认推理镜像,按 A100 与 V100 实测修正推理模板,并让安装包附带第三方许可证正文。本版没有数据库迁移。
升级须知
- 推理模板引用的 vLLM 默认 runner 从
cuda13.0-vllm0.30.0-r2升到-r4,vLLM-Omni runner 从cuda13.0-vllm-omni0.30.0-r3升到-r4。 使用这些模板的新部署会拉取新镜像;已运行的部署不受影响。离线环境需先导入新镜像,见离线环境部署。
新增
- Qwen3-0.6B 新增 V100(Volta)启动规格,使用
cuda12.8-v100-vllm1cat1.5.1-r1镜像(1Cat-vLLM)。 此前 V100 节点没有匹配的规格,会退回到不含 sm_70 内核的通用镜像。 - 每个安装包除
gpuworks与INSTALL.txt外,还附带LICENSE、NOTICE与LICENSES/(内嵌的 PRoot、talloc、perftest 等第三方程序的许可证正文)。
变更
cuda13.0-vllm0.30.0-r4加入 ERNIE-4.5-VL 远程代码需要的 decord 与 moviepy;cuda13.0-vllm-omni0.30.0-r4加入 VoxCPM2 需要的 voxcpm。- 安装包里的
INSTALL.txt按操作系统分别说明安装、默认目录与升级方式,去掉已删除的--public-url参数,文档链接指向 gpuworks.readthedocs.io。
修复
- 约 20 个推理模板按 A100 实测修正启动参数与挂载:MOSS-TTS 系列、Ministral-3、Mistral-Small-4、Devstral-Small-2、ERNIE-4.5、 MiMo-V2-Flash、MiniMax-M2.5、Hunyuan-A13B、Llama 3.x 70B、TranslateGemma-27B、Seed-OSS 等;移除只有分片 GGUF 的 Step-3.5 INT4 规格。
- GLM-TTS 固定 glm_tts pipeline 并挂载 campplus.onnx;MOSS-TTS-Realtime 修正权重挂载路径与 24 GiB 卡上的显存分配。
- vLLM-Omni 中 MOSS-TTS-Realtime 的参考编码器把 CPU 波形交给 GPU 上的 codec,导致每个请求都报设备不匹配。
完整变更
这篇文档有帮助吗?