报告周期:2026 年 10 月 26 日(周一)至 10 月 30 日(周五),共 5 个工作日。

素材来源:本刊每日 FlagOS 动态报告 5 期(10-26 / 10-27 / 10-28 / 10-29 / 10-30,周期内无缺期)。其中 10-26 期为周一晨报,调研窗口自上一期截点 10-23 06:00 起算,为 72 小时,覆盖 10-24 与 10-25 周末;10-27 至 10-30 四期为 24 小时窗口,首尾相接,末期末班截至 10-29 06:00 至 10-30 06:00。因此本报告的事实区间为 10-23 至 10-29,10-23 至 10-25 部分按原始日期标注。

编制说明:按版本与发布、组件与代码共建、成员单位与厂商适配、生态与社区、趋势观察五个维度组织。五期日报按各自窗口累加为提交 1187 笔、合入 755 笔;若只取四个完整的 24 小时窗口(10-27 至 10-30),为提交 575 笔、合入 481 笔。单期有推送的仓库数依次为 16、18、20、23、21 个,组织仓库总数为 61 个。版本与标签以各组件仓库的标签与 Release 原子源独立复核,10-31 复核结果:build-infra 最新标签仍为 v2.2.0,community 仓 release/2.3 目录下仍只有中英文排期表,未见发布清单。


一、本周要闻

  • 2.3.0 走完从运行时到应用层的整条管道,标签与发布清单仍未落地(10-25 ~ 10-30):10-25 授权 2.3.0 运行时按版本重建;10-26 授权二十个 vllm0.24.0 应用镜像在新运行时上重建,并把标签从「按后端加后缀」收敛成统一的 2.3.0-0.3.0;10-27 06:54 至 13:25 连续二十笔机器人提交,把二十个后端键的应用镜像标签逐一落账;10-28 至 10-29 changelog 上站到站点页与 Harbor。截至 10-30 晨,build-infra 最新标签仍是 8 月 3 日的 v2.2.0,community/release/2.3 仍未建立 release 清单。按排期,11-13 为 FEP 合入截止、11-30 特性冻结并拉 rc0、12-07 拉 rc1、12-14 拉 rc2、12-25 封板、12-30 发布。

  • MiniMax-M3.1-Flash 九芯 W8A8 同日交付,Day-0 进入「统一格式批量复制」阶段(10-23):MiniMax 开源当日,FlagOS 把九家芯片的 W8A8 版本上架 ModelScope 与 Hugging Face,九仓在 10-23 14:06 至 14:39 半小时内集中建立。九家为达摩院玄铁(真武)、英伟达、沐曦、海光、华为昇腾、摩尔线程、天数智芯、昆仑芯、清微,其中英伟达、昇腾、昆仑芯与达摩院玄铁四家为 Express 版。技术路径是把模型原有的 QAT NVFP4 权重重转为跨芯统一的 W8A8 格式,源码部署示例以达摩院玄铁为基准(vLLM 0.24.0、vllm-plugin-FL 0.3.0、FlagGems 5.4.0、张量并行 8 卡)。这是继 GLM-5.3-Flash 九芯之后一周内第二次「模型开源当日九芯齐发」,区别在于上一轮是 BF16 与多精度并行、本轮统一收敛到 W8A8 单一路径。

  • 地平线 BPU 首次成为可逐算子执行的 PrivateUse1 后端,新平台从「设计上不可用」变为可用(10-28):Torch-FL #674 落地逐算子执行层(31 文件,加 5698 行减 145 行)。此前 BPU 在 PrivateUse1 上不注册任何计算算子,hbDNNInferV2 只接受整张已编译图,每个 aten 调用都落到 cpu_fallback,backends_bpu.conf 是空的。该笔补上缺失的中间层:x86 侧用 hbdk4 编出单算子 .hbm 产物库、生成提交这些产物的 C++ 内核、再加一条 drobotics conf 路由,覆盖 40 个逐元素算子(32 个一元、8 个二元)、11 个形状分桶,RDK S600 上 440 个产物逐一对 NumPy 比对零差异。收尾三笔分别修分发日志名、CUDA 拷贝内核守卫与厂商名到平台 id 的映射。局限同样明确:卷积等主干算子仍靠 torch.compile 整图路径。

  • FEP-0140 改为 0.32 单发、0.28 跳过、AMD 入列,规则面一次性压掉追版成本(10-27 ~ 10-28):community 仓两个改写(#157、#158)把 vLLM 插件的多版本兼容策略定为「0.32 成为唯一发布版本且覆盖全部芯片」,原「按 Day-0 需求选五家」的范围扩为完整矩阵(2.2 周期的十家厂商加英伟达与 AMD);0.28 不再作为发布版本,连矩阵列与相关 PR 段落一并删除,已合入的 0.28 适配只留作升级基线。10-28 再补剖析范围与验证计划(#159),并把状态转为 Implementable、Owner 设为 @ceci3(#160);FEP-0141 收窄到 SGLang 0.5.18 与沐曦、清微的基础功能(#161)。代价被明确写出:0.28 上合入的适配需在 0.32 上重走验收,这部分工作量尚未在任何 PR 中体现。

  • 达摩院玄铁一周内连补两块底盘:BLAS1 十五组算子落库与 PPU 稀疏注意力(10-26 / 10-28):10-26 FlagBLAS #154 一次性补齐 AMAX、AMIN、ASUM、AXPY、COPY、DOT、DOTC、DOTU、NRM2、ROT、ROTG、ROTM、ROTMG、SCAL、SWAP 十五组一级基础线性代数算子,改动 17 个文件、新增 16,168 行;此前该后端在 FlagOS 里的存在感集中在推理路径,数值库是空档。10-28 FlagAttention #111 又为真武 PPU 补上 MiniMax 稀疏注意力推理算子(6 文件,加 4644 行),支持分页 KV 缓存、因果掩码与强制块选择,prefill 21/21 通过、几何均值 2.299 倍,decode 18/18 通过、几何均值 1.354 倍,合计 39/39、几何均值 1.800 倍。按「能跑推理、能跑训练、数值库自洽」三段衡量,本周跨到第三段的第一级台阶。

  • 沐曦把 135 个特化算子的验收证据搬进可审状态,一小时内开出 135 笔 PR(10-27):FlagGems-Experimental 在 17:43 至 17:59 之间新开 #744 至 #878,标题统一为「Add MetaX support for 算子名」,每笔单文件、约 200 行增删。PR 正文说明本轮为沐曦特化算子复测(1027 批次),150 个算子参测、135 个通过三轮复测后逐一提交,未通过的 15 个留在批次外;验收口径为精度 29 个用例全通过、性能几何均值 1.008 倍(门槛 0.8),环境为 torch 2.8.0 加 metax3.7.2.0、flagtree 0.6.1、八卡 C550。当日组织在审 PR 由 225 升至 401,其中 135 笔来自这一次批量提交。

  • 测试基建 ref-as-candidate 在双仓落地,「测什么」从有没有算子变成参考与实现是否一致(10-29):FlagGems #7630(9 文件)让正确性测试与基准可以把显式声明的参考实现当作候选来跑,不再依赖外部候选文件,缺参考、参考不可调用、测试体未实际调用候选都会显式失败。同日 FlagGems-sglang 以 #239 至 #249 十一笔把全部正确性套件改到 get_candidate,并新增每日 master 到 kernelgen-dev 的自动同步 PR(#242,当日已产生两笔);单日另有 57 笔由同一作者的测试修复合入,覆盖昇腾、沐曦、燧原、昆仑芯与英伟达的跳过条件与参考 ABI。这条线不产出算子数量,但决定后续所有后端对齐是否可信。

  • MiniCPM-OCR 双模型 Day0 覆盖 12 平台,首次给出可比较的归一化口径(10-29):面壁智能与 OpenBMB 开源的 MiniCPM-OCR 1.0(1.3B)与 MiniCPM-OCR Jev(2B)完成跨芯适配,覆盖达摩院玄铁、英伟达、华为昇腾、海光、昆仑芯、沐曦、摩尔线程、清微智能、天数智芯、曦望、Mac(ARM)与此芯科技 12 个平台。性能口径分开陈述:Jev 在达摩院玄铁上平均 63.56 毫秒,实际计算吞吐达英伟达 H100 原生的 98.7%;OCR 1.0 按峰值算力归一化后,单文档 P50 吞吐为原生的 169.3%、批量场景 137.1%,并写明 169.3% 的前提是低峰值算力平台利用率更高而非单卡更快;端侧 M5 CPU 上 Jev 平均单次页面块判别 1.2 秒、中位 895 毫秒。


二、版本与发布动态

本周标签与 Release 清单(北京时间)

时间 组件 标签 / 版本 说明
10-26 10:13 FlagTree 0.7.1a1+mthreads3.6 摩尔线程 3.6 专用构建线,纯 Tag,Releases 列表无对应正文
10-28 17:25 FlagCX v0.14.1 指向 #668「按适配器生成设备位码」,只有 git tag、无 Release 正文
10-29 10:55 FlagCX v0.14.1(标签指向更新) 复核时标签已移到 #683 的合入提交(昆仑芯 cstddef 回摘),仍无正文
10-29 11:09 FlagTree 0.7.1a1+tsingmicro3.6 清微 3.6 专用构建线,纯 Tag,无对应正文
  • 三个标签、两个组件,无一为正式版本:本周期没有任何组件发布正式版本。FlagGems 仍是 5.4.0(09-28)为正式线,5.5.0.dev0 于 10-12 开线后无新标签;FlagQuantum 以 v0.3.1(10-16)为量子栈基线;FlagScale、FlagBLAS、FlagDNN、FlagFFT、FlagTensor、FlagAttention、vllm-plugin-FL、sglang-plugin-FL 等仍停在 09-28 那一批。这是 2.2 发布之后、2.3 于 12-30 GA 之前的典型空档:对外版本静默,制品线与构建线活跃。
  • 两个标签缺发布正文,是本周唯一可复发的流程问题:FlagCX v0.14.1 只建 git tag、未建 GitHub Release,与 v0.14.0「正文指向 FlagOS 2.2 发布清单」的做法不一致;FlagTree 的 3.6 线以「每厂商一个标签」推进,0.7.1a1 本身没有统一发布说明,下游只能从标签名反推后端与 Triton 版本。

2.3.0:管道从头到尾跑通,只差标签与发布清单

  • 运行时层(10-25 ~ 10-26):10-25 授权 2.3.0 运行时按版本请求重建,随后两笔修掉 OCI 标签构建参数引号与厂商 SDK 环境变量丢失 venv 前缀的问题;容器新增启动期版本参数,可用 FLAGTREE_VERSION=latest 装当日构建、用 FLAGGEMS_VERSION 指定 FlagGems 版本,版本从「烧进镜像」变成「启动时选择」,并删除 -build 变体。
  • 应用层(10-26 ~ 10-27):10-26 #1488 为二十个 vllm0.24.0 应用镜像补 changelog 待发布条目以满足门禁,同时把原生插件标签移出镜像标签、改由统一解析器决定,使 2.3.0-0.3.0 这个不带后端后缀的统一标签成立。10-27 二十笔机器人提交把二十个后端键的标签逐一落账:昇腾 cann8.5.0、cann8.5.0-910c、cann9.0.0、cann9.0.0-910c;寒武纪 neuware4.4.3、neuware4.7.2;燧原 tops1.9.10、tops1.10.6;摩尔线程 musa4.3.6、musa5.2.0;沐曦 maca3.7.2.1、maca3.8.1.3;天数 corex4.4.0、corex4.5.0;英伟达 cuda12.8、cuda13.3;以及昆仑芯 xre5.37.1、海光 dtk26.04、清微 tsm260610、曦望 tangrt1.2.0。
  • 留痕与门禁(10-28 ~ 10-29):每镜像 changelog 现在同时出现在站点页面末尾与 Harbor 仓库描述(#1545,455 文件,加 19080 行),原因字段做成中英双语(#1542);应用页一致性检查接进 pre-commit 与 CI(#1549),改一个 image_tag 或 changelog 原因后必须先重建 images.yaml 再比对。
  • 未完成项:版本标签未打、发布清单未建。10-30 日报以「community 仓的 release/2.3/release-2.3.yaml 仍为 404」记录该状态,10-31 复核目录内容仍只有中英文排期表、行为准则、治理与维护者文档,无发布清单。

AMD ROCm 7.2.4:本周期唯一新增后端

  • 基础镜像(10-26):以 ubuntu 24.04 加 repo.radeon.com 直装 ROCm 7.2.4,只装 28 个精干包、apt 解析运行时依赖后合计 94 个,明确排除 MIOpen、MIGraphX、rocm-gdb、rocprofiler-sdk 与 opencl;在干净容器内演练通过,并用本地镜像验证八张 W7900 直通。演练中发现两条必须写进 Containerfile 的事实:节点到不了 archive.ubuntu.com,必须在 ca-certificates 存在之前就切国内 HTTP 镜像(走 HTTPS 会握手失败);pin 文件不是版本偏好而是必需项。
  • 配置与打包(10-27):新增 vendors.amd.rocm7.2.4,栈为 torch 2.11.0+rocm7.2、triton-rocm 3.6.0、flagtree 0.7.0+amd3.6,硬件标注 Radeon PRO W7900(gfx1100、RDNA3)、驱动 6.16.13、Python 3.12;连续五笔补 hipsolver、hipfft、miopen-hip 开发包,打开 FlagCX 的 AMD wheel 行与厂商 PyPI,并在本地十六卡 gfx1100 上验证。同期 native deb 与 native rpm 两条线加上 arm64 维度。
  • 运行时连通(10-29):FlagCX #679 在 ROCm 上把 SGLang 张量并行跑通——补 eventElapsedTime 实现、把 torch.bool 映射到 flagcxUint8、加 USE_AMD 测试构建分支;R9700 双卡上 AllReduce、ReduceScatter、AllGather、Broadcast、Send/Recv 与图捕获的 AllReduce 结果正确,Qwen3.5-9B 与 Qwen3.6-35B-A3B-FP8 在 TP=2 下可服务。
  • 构建器补课(10-29):在 7.2.4 运行时上构建的 FlagCX wheel 链接 GLIBC_2.38,被 wheel 线的 22.04 门禁拒绝,遂为该行配自足的 22.04 构建器(jammy 套件加 deadsnakes 的 Python 3.12、pin 住的 torch),glibc 下限回到 2.35。
  • 边界:FlagGems 尚无 ROCm/HIP 的 C++ 后端,AMD 短期只走 Triton 路径。这是本周期后端矩阵仍在扩张而非收敛的直接证据。

FlagCX:从标签走向发行包

  • 设备位码改为按适配器生成(#668,10-18 合入,本周成为 v0.14.1 的内容):把 setup.py 位码步骤里硬编码的 bindings/ir/nvidia 换成按适配器查表,每个适配器声明自己的 Makefile 与架构变量。此前任何非英伟达适配器都会抛 RuntimeError 或静默不出位码,FlagTree 的 iluvatar 后端只能复制 FlagCX 源码自行重编。
  • rpm 线从三个后端扩到六个(#673,10 文件,加 295 行减 8 行):新增 libflagcx-tsm(清微)、libflagcx-sunrise(曦望)、libflagcx-du(海光 DCU)。三家都不需要厂商基础镜像——SDK 解包到 /opt 或 /usr/local、不调用包管理器,openEuler 镜像加文件仓即完整构建环境;厂商 soname 按昇腾已有口径统一过滤。
  • 交付面转 wheel 线(10-29):build-infra 机器人记录 flagcx wheel 发布(#1553),人工补齐五条空壳描述并加入 flagcx==0.14.1+rocm7.2.4(#1556),再把 hygon-dtk26.10 钉到 flagcx==0.14.1+dtk2610(#1563)。至此 0.14.1 的交付面覆盖 cuda12.8、cuda13.3、corex4.4.0、corex4.5.0、xre5.37.1、rocm7.2.4 与新增的 dtk2610。
  • 0.14 系列仍在支持窗口:在审的 #683 把昆仑芯 cstddef 修复回摘到 0.14.0-rc2 线,说明 0.14 的补丁线未冻结。

FlagTree:3.6 线按厂商切片

  • 两条专号标签:10-26 的 0.7.1a1+mthreads3.6 与 10-29 的 0.7.1a1+tsingmicro3.6 属同一条「按厂商切分的 3.6 预发布线」,均无 Release 正文。清微那个标签与同日合入的 #1459(清微后端同步内部 Triton 3.6 开发线,27 文件,加 2264 行减 407 行)一一对应。
  • 能力增量集中在编译器:摩尔线程的 [MThreads][TLE] 常驻 GEMM 流水线与 SPMC 同步进主线(#1294,63 文件,加 6192 行减 403 行),把原先分别服务 addmm/baddbmm 与 bmm 的两套编译器合成一套超集,支持动态循环里的 stage 与 phase 推进、一生产者对多消费者、命名读与隐式读、分段完成与消费者纪元推导,以及单发、融合消费者与 16 warp 常驻路径;昇腾接上 TensorView 访问路径(#1426,32 文件,加 4901 行);AMD 为 Qwen3-1.7B bf16 做 batch-1 解码优化(#1439,44 文件),R9700 在上下文 1 时 154 tok/s、8K 时 125,W7900 分别为 167 与 136,实测带宽 530 至 597 GB/s,达该卡实测流式上限的 82% 至 87%。
  • IR 层动作:flir 新增 TensorView 方言(#83,25 文件,加 1396 行减 13 行),把 Triton 指针变成携带 shape、stride 与访问编码的 tensor_view,提供分区、跨步、gather/scatter 三类编码,并接入 CommonIR 的 tile.load 与 tile.store,位于 Triton tt 方言与 HIVM、昇腾 NPU IR 之间,与 TileIR 平行。
  • 在审侧:SpaceMiT 的 vmt4d 后端(#1455)、昆仑芯分布式 TLE 后端(#1436)、海光 TLE 通信原语适配(#1441)、昇腾 rpm 线改为消费已发布 wheel(#1461,首条无需厂商 SDK 与硬件的行)、英伟达 Hopper 四项软件流水缺陷修复(#1460)。

三、组件与代码共建

组织节奏:五期累加 1187 笔提交、755 笔合入

期次 窗口(北京时间) 推送仓库 提交 合入 在审(窗口内更新) 新开
10-26 10-23 06:00 ~ 10-26 06:00(72 小时) 16 612 274 253 141
10-27 10-26 06:00 ~ 10-27 06:00 18 185 133 225 74
10-28 10-27 06:00 ~ 10-28 06:00 20 102 98 401 269
10-29 10-28 06:00 ~ 10-29 06:00 23 99 67 288 101
10-30 10-29 06:00 ~ 10-30 06:00 21 189 183 253 84
合计 — — 1187 755 — 669
  • 合入分仓累加(各期日报披露口径):FlagQuantum 226 笔(占 29.9%)、FlagGems 224(29.7%)、build-infra 75(9.9%)、FlagGems-sglang 59(7.8%)、Torch-FL 33(4.4%)、FlagGems-vllm 29(3.8%)、FlagTree 24(3.2%)、vllm-plugin-FL 16(2.1%)、optest 12、FlagTrain 10、FlagCX 10、FlagAttention 9、sglang-plugin-FL 5、community 5、FlagQAI 4,FlagBLAS、FlagScale、FlagOps、TransformerEngine-FL 各 2,FlagCV、FlagSparse、FlagPrism、flir、Trident、FlagTensor 各 1。
  • 双引擎占比回落到七成以内:FlagQuantum 与 FlagGems 合计 450 笔、占 59.6%,加 build-infra 后三仓占 69.5%——上一期同样的两仓占 56.3%、四仓占 79%,本周期 build-infra 的比重因 2.3 镜像落账而升到近一成。
  • 周内形态是「两峰一谷一再起」:周一(72 小时窗口)量子栈与 FlagGems 双高,周二量子栈继续上冲而 FlagGems 承接,周三转为 build-infra 记账为主(36 笔,其中二十笔是镜像标签机器人提交),周四回落到 67 笔为全周最低,周五以 183 笔反弹、为周内最高(FlagGems 一家 92 笔)。
  • 在审的两次脉冲都与批量提交有关:10-28 的在审 401 笔中 135 笔来自沐曦算子批量 PR、269 笔为新开;10-29 回落至 288 笔后,10-30 进一步降到 253 笔。剔除批量提交看,评审队列的实际水位在 220 至 290 笔之间波动,中枢比上一期(154 至 239 笔)更高。

FlagGems(合入 224 笔):自动化供给与正确性修复并行

  • 算子供给已由 KernelGen 承接:10-26 合入 16 笔 KernelGen 加英伟达前缀的算子(稀疏与结构化、量化、特殊函数、张量元信息各一类);10-29 单日 22 笔自动生成算子(稀疏张量的不安全构造与重置、nnpack 空间卷积、thnn 卷积、分数最大池化反向、cholesky、frobenius 范数、chain_matmul 与一批边角算子),同日又新开五笔,队列仍在延续。人工投入不在写算子,而在发射参数与测试可执行性两处。
  • 正确性主线是本周最有价值的一类提交:index_put 与 _index_put_impl_ 共用内核的地址算术改为宽类型(#6892,两文件,加 112 行减 4 行)——此前在达摩院玄铁 PPU-ZW810E 上,int32 索引配合大 stride 张量会静默写错地址,目标行不变而同分配区内的守卫前缀被改写;根因是索引乘 stride 在 int32 内求值并先回绕,事后只转最终偏移已来不及。昇腾侧把 flagtree 从 0.7.0 升到 0.7.1a1 并新增运行时校验脚本(#7837,五文件,加 291 行),因为运行时镜像把 flagtree 烤在虚拟环境之外的 /opt/flagtree,pip 装的 pin 覆盖不了。昆仑芯后端在当前 master 上直接导入失败的问题也一并修掉(#7803,90 行)。
  • 后端调优以昆仑芯最密:八个出位标量链算子改融合内核(#7617,275 行),小形状单次发射、把所有指针作为内核参数带入,输出一次分配加 unbind 得到,相对耗时从 0.083 至 0.126 提到 0.813 至 0.934,约七到十倍;batch-norm 推理与 QKV 变换改连续段内核(#7600),聚合指标分别从 0.228 提到 1.357、从 0.260 提到 5.062;masked_fill 的整数视图快路径改写为 f32 形式后 P800 上从 0.577 提到 0.829(#7850,594 个用例通过)。
  • 其他后端:天数 conv_transpose2d 换成按数据类型、核大小、步长与输出通道数索引的七套硬件调优档位(#7036,加 1886 行),并按输出是否放得进 L2 在直扫与相位专用两个变体间切换;conv3d 去掉每次调用的通道补零(#7061),输出逐位一致;沐曦新增 INT8 与 FP8 的 grouped_mm_w8a8(#6950,7 文件,加 1220 行),基准形态来自 GLM-5.2 在 PPU SGLang TP=8 上采集的真实调用回放,28 条场景、26 组唯一几何、324 万次调用、257 个专家。
  • 在审结构:10-28 新开 53 笔多数为燧原参考实现修复(#7890 至 #7908 连号,涉及 Kaiser 与 inplace ldexp、aminmax、special_round、LU、vander 与 slogdet、median 与 stacking、Adagrad、batch-norm ABI),另有 AMD 的一行修复——厂商描述符把设备名设成 cuda 且未给 triton_extra_name,导致 pow、tanh、exp、rsqrt、erf、gelu 等全部走 __nv_* 被 AMD 后端拒绝。10-29 窗口 FlagGems 在审 181 笔、占组织六成,说明多后端验收的瓶颈在参考实现与测试口径,而不是算子供应。

FlagQuantum(合入 226 笔):从结构重整转入场景铺开

  • 周初是一次目录手术:10-23 至 10-26 三日 505 笔提交、148 笔合入,单仓占组织 82.5% 提交与 54% 合入。QEC 包重组连做九笔(#735 至 #749),先审计包边界与兼容基线,再依次隔离码矩阵与噪声扫描、拆分码族与所有权、分离存储声明与执行组装、拆出探测器误差模型、分离解码算法与可选适配器、定稿包布局与安装指引,最后一体化并入主干——以「可安装性」为目标的目录手术。
  • 外部依赖成形:Quafu SDK 生命周期整体切换分六笔完成(#852 至 #866),发现流程、逻辑任务、物理程序提交、拓扑解析、孪生生命周期依次改走 SDK,最后退役旧执行生命周期;旧路径是删除而非保留别名,属硬切换。同期 Rydberg presence 从立契约(#854)到拒绝无条件组装中的观察(#865)、编码单次 presence 观察(#869)、验证有界相干分支参考(#873),最后提出有限动态相干参考(#876)。
  • 中期转向物理场景:10-27 十笔合入含张量网络下 Module 哈密顿量的期望值收缩(#939)、固定 shots 的纠错记忆实验(#932)、固定两比特门覆盖补齐(#935);10-28 六笔中,把「分片后的 MPS 与不分片是否等价」做成两臂可执行证据(#945,max_bond 64 加精确梯度只变布局、max_bond 2 加近似梯度让布局与截断一起变,用两臂之差把两种贡献拆开)。
  • 周末收束到合成流水线:10-29 六十笔提交、十五笔合入,全部集中在量子电路合成(CS 系列),仓库内已按 FQ-SYNTH-CS01..CS07-20261029 归档十份规格与交付文档:CS-01 定义相干整数构造的语义边界与验证,CS-02 用纯算术内核降低相干加法,CS-03 处理乘法与相干多项式,CS-04 打通受限 Python 工作流,CS-05 加生命周期与工作区调度,CS-06 分三段落地,CS-07 进入寄存器语义与程序准入;同日加入可移植 .fqx 实验文件存载(#960)与 fq.run 的受检程序执行(#964)。
  • 判断:量子栈的作业方式是「设计稿、契约稿、可运行示例、验收记录」四段留证,成本高、可核查性好,也解释了它为什么长期占组织三成以上提交但合入率只有三成左右。它与多芯适配无关,是 2.x 周期里唯一一条与硬件解耦的软件栈主线。

build-infra(合入 75 笔):镜像矩阵与撤回

  • 镜像矩阵落账:10-27 二十笔机器人提交把二十个后端键的 vllm 应用镜像标签统一记为 2.3.0-0.3.0,是本周期单日合入最高的一天(36 笔)。随后 base 层的逐镜像 changelog 与推送门禁补齐,三段镜像记录循环合并为一个脚本。
  • 海光 DTK 26.10 八笔全链(10-29):首版容器与配置(#1554、#1555)落地后镜像仍不可构建也不可调度——base/hygon-dtk26.10 把 /opt/dtk 指向 dtk-26.04 而 SDK 实际解到 /opt/dtk-26.10,构建矩阵缺该条目的 runner 覆盖会落回默认值(#1558);torch 2.13.0+dtk2610 的全局依赖直接链 libmpi.so.40 与 libibverbs.so.1,而 26.04 的 wheel 把这两个 soname 哈希进包内,因此基础镜像补 libopenmpi3t64(#1564)、构建器补 libopenmpi3(#1565);同一运行时钉 python 3.12,使既有 cp310 的 hcu wheel 无法解析,遂以 deadsnakes 3.12 重建 cp312 构建器(#1562)并把 hcu-dtk2610 加进 wheel 发布线(#1566)。八笔里没有一笔改内核,硬件代际切换的成本几乎全部落在打包与依赖解析上。
  • 撤回两笔从未推送的镜像(10-28):Harbor 里没有 megatron_training0.18.2-cambricon-neuware4.7.2 与对应的 megatron_rl 仓,但状态矩阵记了 image_tag: 2.2.0-0.3.0,文档流水线为两个不存在的镜像发了启动页、readme 与 changelog,此后每次 pubdoc-app 都在这两个仓上 404。根因在 0.18.2 的 wheel 里 platform_register 没有 MLU 平台,torch_mlu 的 gpu_migration 把 CUDA 表面别名到 MLU 后选中的是 PlatformCUDA,流水线并行组始终未初始化,而 MLU 注册只落在 release/0.2。处置是撤回主张而不是硬凑:去掉 image_tag、置 launch_docs: false、删掉两份 changelog,使「changelog 文件集等于已发布集合」重新成立。
  • 其它:native deb 与 rpm 增 arm64 维度(#1537);昇腾 rpm 目标(#1557,首条不依赖厂商 SDK 与硬件的 rpm 线);vllm 重打包依赖改读 PEP 503 简单索引(#1543,替代每个依赖起一个子进程的做法)。

Torch-FL(合入 33 笔):抽象层换名与新平台接入

  • 命名重构一轮到底:把箱化槽位从 Backend::kCuda 改为 Backend::kBoxing,给每个平台加厂商名,按厂商重命名源码与 CI 目录、配置与标记与打包目录、后端枚举与英伟达路由键,最后修掉重命名留下的查表失配(六笔在 13:38 至 15:59 完成)。同期明确「不得从默认配置路由箱化」,并新增仅箱化的 day-0 配置——把「某平台缺算子时回落到打包路径」从隐式行为改成显式声明。
  • 地平线 BPU 接入:见本周要闻第一条,此处不重复。
  • 两处「能跑但跑错」的硬修:海光 DCU 的 runtime_dir 原先指向只放 ABI 垫片的目录,导致运行时库由 32 个桩链接而成,构建能过但一 import 就报未定义符号(#654,71 文件、1.1 万行);天数 bf16 GEMM 退回主机执行——2048 见方的 bf16 mm 实测 0.41 TFLOPS,低于同机 CPU 的 0.54,而同算子 fp16 为 80.2、厂商自带 torch 为 84.6,根因是支持判断未纳入 bf16 且 mm 与 addmm 在主机侧复制了转置权重(#660),修完后走厂商 BLAS。
  • 其它:MPS 侧保留 MPSGraph 广播形状、给线性算子用例配 CPU 参考与可读差异、让 Qwen3.5 视觉工厂与插值留在 MPS;昇腾遵循 FP32 matmul 精度并保持梯度驻留(#683);按 conf 键路由解码后的 soft-lowp 组合(#665);MUSA tuner 贯通各策略子类(#666);构建记录里厂商名与平台 id 不一致(hygon/dcu、mthreads/musa、enflame/gcu、nvidia/cuda)一并修正(#673)。

推理栈:vllm-plugin-FL(16)、sglang-plugin-FL(5)、FlagGems-vllm(29)、FlagGems-sglang(59)

  • 三个新模型在同一周内进插件:MiniMax-M3.1 支持与推理示例(#631,10-24 合入)、GLM-5.3-Flash 纯公开算子实现(#454,90 文件,加 19140 行减 280 行)、Qwen3.8-Flash-Next 与 Qwen4 的检查点加载与模型集成(#455,65 文件,加 11226 行减 109 行,含 HC、PLE、QSA 与多模态接线)。FP8 一律采用能力门控:平台原生支持则保留原生内核,不支持时回落到 BF16 线性与 MoE 路径并强制 --dtype bfloat16。
  • 上游大版本的两条线同时推进:原生 CUDA 的 vLLM 0.32 适配(#615,57 文件,加 3408 行减 1044 行)把栈钉在 vLLM 0.32.0 加 cu129、PyTorch 2.13.0 加 cu129、CUDA 12.9 与 python 3.12.3 上,现有英伟达 CI 六项推理与三项服务全过;同时 0.28 的存量适配继续合并(燧原 S60 #582、清微 TXDA #642 在审),与 FEP-0140 的「0.32 单发、0.28 跳过」形成一段并行期。
  • 图模式落到第三、第四个国产后端:清微 TXDA 在 vLLM 插件中获得 FULL_DECODE_ONLY 的图捕获与回放(#649,八文件,加 487 行),修掉捕获域内内核启动被拒(错误码 0x47000003)与设备守卫造成的流改道两个根因,非 TXDA 路径保持与上游逐字节一致;AMD 侧由 SGLang 在 R9700(gfx1201)上跑通 FlagOS(#157 在审)。
  • 算子库侧的重点从新增转向确定性:融合全归约 RMSNorm 进 FlagGems-vllm(#773,6 文件,加 3191 行),all-reduce 加残差相加加 RMSNorm、可选 FP8 静态量化、SM100+ 支持 NVFP4、TP2/4/8 的 FP16 与 BF16 均可;ihc_pre 的 stage1 合并把 tl.atomic_add 换成按 split 槽位写(#1017),因为原子加使结果依赖块到达顺序、重复发射不逐位一致。沐曦侧修 FlashAttention 的缓存安全与图捕获并优化 TP2/TP4(#998),沐曦 TP2 packed decode 做 Split-KV 调度与计算 tile 重排(#1025);fused_q_kv_rmsnorm 同时在昇腾(#872)与达摩院玄铁(#888)落地。
  • FlagGems-sglang 是本周期合入效率最高的仓:34 笔竞赛赛道算子在两小时出头连合(10-23 15:47 至 18:02,其中 16:21 至 16:31 十分钟内九笔),供给来自多名外部贡献者,覆盖 MLA 缓冲读写、排布重排、Top-K 采样、MoE 零专家、缓存定位与软池化;工程侧新增 Debian 与 RPM 打包(#191),说明该仓已从算子集合转向可安装发行物。燧原的 core_shapes.yaml 加了一周没生效——仓内没有任何加载点、基准只认硬编码的 kunlunxin 分支(#229 加文件、#232 修加载),修完把查找泛化到任意厂商并顺带修掉 FileNotFoundError;AMD 侧为 RDNA3 补三个 Mamba 算子的 gfx1100 版本(#231,578 行,与通用内核逐位一致)。

FlagCX(合入 10 笔)与通信层

  • 设备层:昆仑芯 XPU 的设备位码构建(#676),用 Makefile 把共享的设备 API 封装编成 xpu3 的 LLVM 位码,从 XDK 卸载包里抽出设备模块、保留公共符号后优化,产出 libflagcx_device.bc 与消费侧头文件,通信 traits 走 XSHMEM;随后增加 XPU 的设备 IR 入口以支持 FlagTree 链接(#678)。
  • 语义修正:天数的 Device API 补上 Atomic::load 的获取语义(#681,3 文件,加 359 行减 37 行)——此前 load(..., Acquire) 与 load(..., Relaxed) 发射同一条指令,观察者在看到标志后没有失效屏障,本笔改为先读后栅栏、按作用域选强度;系统作用域仍未实现,因为 ivcore11 没有对应的内存屏障指令。
  • 打包与适配:清微 TSM 支持(#674,10 文件,加 886 行减 80 行)同时修分组 P2P 清理、非法 peer 拒绝与异步流事件处理;AMD 适配改用 CUDAStreamGuard(#680);昆仑芯平台 traits 把 cstddef 移到守卫之外(#682)。

训练栈:FlagTrain(10)、FlagScale(2)、TransformerEngine-FL(2)、Megatron-LM-FL(在审 10)

  • FlagTrain 这一支的写法固定:单笔 PR 标题里直接列出后端清单,一个算子按后端矩阵一次铺开。合入的有 fused_indices_to_multihot(#29,英伟达与昇腾,H20 有基准)、基线对照机制移植(#30,按设备瓶颈单位的峰值缩放系数归一化速度比、输出 vs Base 列、缺基线时记录原因而不失败)、multi_tensor_adam(#35,6 文件,加 1093 行,覆盖英伟达、海光、沐曦、PPU 与天数,一次 Triton 发射批量完成多张量 Adam 更新,H20 上 fp32 65536 元素相对 DeepSpeed CUDA 基线 2.24 倍、1024 元素小档位反而 0.76 倍)。在审侧 fused_proj_rms 前反向(#38)、fast_gelu(#33)、fp8_gemm(#18)、mixed_gemm(#10)与 multi_tensor_adam 的后续批次同时在列。
  • FlagScale 转向测试纪律:统一测试策略、受影响路由与执行证据门(#1315);离线训练算子画像(#1310,4 文件,加 1474 行),训练侧只导出各 rank 的 Chrome 时间线,离线抽取器做外部 ID 归因、通信记账与多 rank 聚合,按与推理剖析一致的列式产物输出。在审可见 DeepSeek-V4 向上游同步的 [1/N](#202)与 [2/N](#211,为打包序列补连续上下文并行),以及 HF 与 MCore 的 DCP 轻量互转(#1319)。
  • TransformerEngine-FL 两笔:实现 FlagCICD v1,引入 L0 至 L4 测试分级与计划驱动执行(#142);把 3rdparty/ 三个子模块回滚到上游 v2.17 的验证基线(#150)——此前误把 cutlass 前推 240 个提交(涉及 4000 多个文件)、cudnn-frontend 从 v1.25.0 推到未发布快照、googletest 推到 master 头。
  • Megatron-LM-FL 值得单独记一笔:在审 PR 十笔、为近两周首次成规模更新(10-30 窗口),但本周期未见合入。这条训练栈在 10 月中旬后一度停摆,是否真正恢复推送需要下一期确认。

数值库、注意力与新方向

  • FlagBLAS(2 笔):达摩院玄铁 BLAS1 十五组算子整批落库(#154)与其后的 L1 命名与引用对齐(#155)。BLAS1 是上层 BLAS2、BLAS3 与 LAPACK 求解器的前置依赖,缺一层就无法自底向上自洽,这也是本周最容易被低估的一笔。
  • FlagAttention(9 笔):除 PPU 的 MiniMax 稀疏注意力(#111)外,还有昇腾 Parallax 注意力三段实现(#103,10 文件,加 2738 行,覆盖因果掩码、滑窗、GQA 与变长输入,相较 FLA 在多数训练形状上为 1.0 至 8.74 倍)、燧原 MiniMax M3 稀疏注意力的 prefill 与 decode 优化(#104,2 文件,加 2873 行减 2516 行)、沐曦 C550 上的 Triton 融合 AttnRes 前向(#108,3 文件,加 268 行,D=7168 与 BF16 下从 0.075 毫秒到 1.496 毫秒,作者注明 FLA 不可用故不宣称加速比)、海光移除 FP8 MSA 路径(#109)。注意力层的碎片化在加剧,尚未出现跨厂商的统一下沉实现。
  • FlagCV(1 笔)首次说清自己是什么:合入首份 About 与 README(#2),定位为「以 Triton 实现的高性能计算机视觉库」,在 OpenCV 形状的接口下提供色彩转换、滤波、几何变换与算术运算,以 OpenCV 的 CUDA 基线为对标,构建在 FlagTree 之上、后端可插拔。时间线是 10-14 建仓、10-18 落骨架并撤掉算子实现改为即时模式骨架、10-26 补定位说明——代码骨架在前、定位说明在后。目前没有任何基准或非 GPU 后端数据,真正的检验点是访存密集算子在 NPU 与 DSA 上的表现。
  • FlagQAI(4 笔)与 FlagQuantum 的边界仍待说清:10-27 首次导入命令行源码快照,首轮 CI 在夹具清单一步失败(#1 在审);10-29 加入本地量子工作台网页与原生 Agent 集成(#3)、刷新后保留跟随偏好的修复(#4)。README 明确把「由意图合成电路」列为产品方向而非已完成能力,当前核验范围只有本地电路模拟与一条固定拟设的两比特变分路线。
  • 其余:FlagDNN 两笔均为海光修正(GPU 名与性能);FlagFFT 的推送落在 codex/musa-shortfall 特性分支、默认分支最新提交仍在 10-15;FlagTensor 昇腾常驻网格逐元素内核与厂商调优(#32,24 文件,加 1128 行减 139 行);Trident 支持 Python 3.10(#5),Monad 中间层(#4)仍在审;flir 的昇腾 split 与 join 及静态置换降低(#86)在审。

测试与发布工程:optest(12)、FlagOps(2)、community(5)

  • optest 把十三支厂商脚本收成一条命令:flagos-gpu-check 按「厂商专有设备节点优先、SMI 命令二次确认」的顺序自动探测,保留各厂商原有的逐卡表格、超时与重试参数,并写明两条冲突规则——海光先于 AMD(两者都有 kfd,只有海光有 mkfd)、玄铁先于英伟达。随后把输出重做为单份文本摘要或单份可解析的 JSON 与 YAML(19 文件,加 2947 行),新增 device、driver、runtime、runtime_version、device_count、memory_unit 等归一字段,并把运行时与主机驱动分开表述。燧原 S60 本周期接进 FlagGems-vllm 与 FlagGems-sglang 的变体 CI。
  • community 的五笔全是规则:FEP-0140 的两个改写、剖析范围与验证计划、状态转 Implementable、FEP-0141 收窄。口径澄清也写进正文——DeepSeek-V4-Flash 与 Pro 仍是初始 W8A8 候选,「相对英伟达吞吐提升 10%」是优化目标而非固定验收门槛。
  • FlagOps 两笔都在稳定性:稳健检出清掉硬杀 fetch 留下的陈旧 git 锁(#18);默认连接超时从 30 秒抬到 300 秒(#17)。

四、成员单位与厂商适配

  • 海光:本周期工程密度最高的厂商之一。DTK 26.10 在单日内走完八笔合入,从容器、可用性修复、cp312 构建器、FlagCX wheel 线到两个 soname 依赖补齐,形成一条可复用的「新 SDK 接入排查路径」;容器层首次落地时明确「FlagCX 尚未构建,故本阶段不纳入」。另有 build-infra 补发 libglog.so.1 解决原生插件在 DTK 镜像上加载失败(#1524)、Torch-FL 修 DCU 运行时构建源(#654)、FlagAttention 移除 FP8 MSA 路径(#109)、FlagTrain 把海光列为一等后端(#35),以及在审的 DCU 硬件健康采样(FlagScale #1299)与 GLA 实现(FlagAttention #117)。
  • 沐曦:投入集中在算子验收与推理性能两端。135 个特化算子批量提 PR 是本周期组织在审数激增的主因;grouped_mm_w8a8 的 INT8 与 FP8 双路径以真实调用回放为基准;FlagGems-vllm 侧修 FlashAttention 缓存安全与图捕获并优化 TP2/TP4、按阶段区分融合 MoE 调优、TP2 packed decode 做 Split-KV 调度;sglang-plugin-FL 的 MetaX 与 MACA 后端整包(31 文件,加 3364 行)补齐了推理框架侧的厂商矩阵。生态侧 RLinf 全栈适配合入官方主线(见第五节)。
  • 昆仑芯:最早接入、覆盖最广,因此也最早进入长尾调优期。本周十余笔合入几乎全是「已有路径做快做稳」——标量链融合约七到十倍、连续段内核把 batch-norm 推理与 QKV 变换聚合指标从 0.228 与 0.260 提到 1.357 与 5.062、masked_fill 从 0.577 提到 0.829、slice_scatter 与 vstack 重写路径并借 sym_numel 找回被注册逻辑漏掉的厂商算子表。位码构建(FlagCX #676)长期价值高于单算子提速,它把昆仑芯接进了统一设备抽象。
  • 清微智能:把内部 Triton 3.6 开发线直接同步进开源后端(27 文件,加 2264 行减 407 行),并打出 3.6 专号标签;TXDA 在 vLLM 插件中获得图捕获与回放;FlagCX 的 TSM 支持与 rpm 打包同日落地。代价是每次同步体量大、评审需按厂商 SDK 语义逐项核对,好处是 FlagGems 与 FlagTree 的接口约定能随厂商内部进度前移。生态侧 Open3D-PIMC 的推广继续(见第五节),但两条线目前没有在代码上交汇。
  • 华为昇腾:四个后端键(cann8.5.0、cann8.5.0-910c、cann9.0.0、cann9.0.0-910c)全部跟到 2.3.0-0.3.0;编译器从安装期固定推进到运行期强制固定(#7837),因为镜像把 flagtree 烤在 /opt/flagtree、pip pin 覆盖不了;FlagTree 接上 TensorView 访问路径(32 文件,加 4901 行),在 CommonIR 到 HIVM 之间按索引模式选择按索引载荷 DMA 或逐元素带补零搬运;FlagAttention 新增 Parallax 注意力三段实现。vLLM 侧的原生 decode 图与 ModelSlim 动态 W8A8 量化仍在审。
  • 燧原:形状表、工具链、推理三条线各补一处。core_shapes.yaml 加了一周没生效的根因是仓内没有加载点,修复把查找泛化到任意厂商;FlagPrism 的剖析器与调试器扩到燧原并默认开启(#1239,5 文件),带调试的内核发射改走网关;Qwen3.5 FP8 的 W8A8 块标定推理上 GCU(#358,20 文件,加 3367 行),围绕 GCU300 与 GCU400 的硬件限制重做内核补丁,使 FP8 MoE 在 eager 与整图两种模式下都能跑通。在审侧有大批参考实现修复(#7890 至 #7908 连号)尚未收口。
  • 天数智芯:卷积族三条线同时优化——conv_transpose2d 的七套工况档位、conv3d 去掉通道补零、conv2d 缓存打包权重并融合 channels_last 通道变换;FlagCX 补上 Atomic::load 的获取语义,这是通信正确性而非性能问题。硬件侧天垓 300 首次实机演示对外(见第五节),软件侧的适配仍按 Device API、SGLang 0.5.18、训练算子三处逐项补齐。
  • 达摩院玄铁:连续三个窗口保持「一次一个整块」的节奏——推理(真武 Express 版与 PPU 稀疏 MLA 前向)、注意力(PPU 上的 MiniMax 稀疏注意力,几何均值 1.800 倍)、数值库(BLAS1 十五组算子)。此外 fused_q_kv_rmsnorm 在 10-29 落到该平台、FlagTrain 的 multi_tensor_adam 与 fp8_gemm 都把它列为后端之一,optest 的厂商冲突规则把它排在英伟达之前。下一步看 BLAS2 与 BLAS3 是否跟进,以及 CPU 侧是否与加速卡侧共用同一套检查脚本。
  • 摩尔线程:投入重心在编译器而非算子数量。常驻 GEMM 与 SPMC 合成一套超集(63 文件,加 6192 行减 403 行)是让 addmm、baddbmm、bmm 一类主干算子在 MUSA 上跑到可用性能的前提,这条能力同时被昇腾与沐曦的 TLE 线复用;SDK 升到 v0.7.1 与 3.6 专号标签对齐。生态侧开源 Megatron-MUSA-Titan(见第五节),与本栈的交集仍是算子与插件层,而非训练框架层。
  • 地平线:本周唯一一次「新平台从不可用变为可用」的接入(Torch-FL #674)。价值在打通路径而不是性能——40 个逐元素算子是起点,卷积等主干算子仍靠整图编译;作者同时记录两条否定结论:libhbtl.so 只是 CPU 参考实现,动态形状在 HBRT 4.7.5 上不可执行(加载器把该轴声明成 stride 0,任务校验要求不小于 64)。
  • 寒武纪:本周期在组织内无专属仓库推送与合入,仅在 build-infra 留有两处痕迹——两笔 neuware 版本(4.4.3 与 4.7.2)的 changelog 记账,以及两笔从未推送的 megatron 镜像被撤回。上一期周报已把这家标为缺口,本周期延续,建议在下一期作为风险项单列。
  • 曦望:tangrt1.2.0 首次进入应用镜像矩阵,libflagcx-sunrise 进入 rpm 线(SDK 经 tangtk --toolkit 与 pccl 落到 /usr/local),vLLM 0.28 运行时适配与共享 Gate CI 仍在审(#647)。
  • AMD(新增后端):本周期从一张基础镜像长成完整后端,配置、打包、wheel 行、运行时验证与构建器补课五步齐全;SGLang 在 R9700 上跑通张量并行。FlagGems 侧尚无 HIP 的 C++ 后端,且其厂商描述符有把设备名设成 cuda 的问题(修复在审 #7908),说明 AMD 这条线目前仍以 Triton 路径为主。
  • 进迭时空与此芯、ARM:进迭时空在 FlagTree 的 vmt4d 后端仍在审(#1455),是 RISC-V AI 方向本周的唯一动作;MiniCPM-OCR 的端侧覆盖把此芯科技与 Mac(ARM)纳入,M5 CPU 上以 SME2 矩阵指令加速主要线性层、通过 Triton TLE Raw 接入算子执行路径,平均单次页面块判别 1.2 秒。

五、生态与社区

  • InfoQ 给出 2.2 之后最完整的一篇中文技术复盘(10-24):截至第三季度,FlagOS 生态成员单位 107 家、季度社区下载 464,336 次(为第二季度的 4.76 倍)、代码贡献者 264 位(较上一版增 55%);从 2.1 到 2.2,合并 PR 由 1,890 增至 4,890、代码提交由 5,100 增至 9,730、新建 Issue 由 420 增至 1,423;九大算子库合计 1,454 个算子、较上一版增 890 个,上千算子、10 款芯片范围内跨芯整体性能提升约 27%;GLM-5.3-Flash 在存量昇腾 910B 上逻辑服务吞吐由 8.52k 升至 17.36k tokens/s(2.04 倍)、512K 长上下文生成 60.9 tokens/s。成本项为按每台 8 卡 910B 月租 16,500 元、3P1D 部署、93% 缓存命中率测算,256K 输入 8 并发场景每百万输出 Token 折算 59.27 元、512K 输入 4 并发 104.53 元,分别较对应商业 API 低 19.4% 与 27.6%——属租金折算的测算而非同负载实测对照,引用时应保留这一限定。
  • MiniCPM-OCR 的适配说明把三类数字分开陈述(10-29):实际吞吐比(Jev 在达摩院玄铁上达英伟达 H100 原生 98.7%)、按峰值算力归一化的吞吐比(OCR 1.0 单文档 P50 169.3%、批量 137.1%)与端侧时延(M5 CPU 平均 1.2 秒、中位 895 毫秒)各自标注前提,并写明 169.3% 的成立前提是低峰值算力平台的利用率更高而非单卡更快。这是本栈近期第一份把「追上原生」与「利用率更高」分开陈述的材料,比单一倍数更有参考价值。
  • 社区内容节奏从发布会式宣讲转向按插件拆解的单点技术直播(10-29):19:00 开播的一场以 sglang-plugin-FL 的跨芯片推理适配为题,讲 ATen 算子替换、融合算子调度、统一通信抽象、PD 分离下的 KV Cache 传输与 Empty 模式的依赖拆分,口径称已适配昇腾、海光、昆仑芯等十款芯片平台;与代码侧的进度方向一致(该仓本周 6 笔在审 PR 更新,含昇腾与天数的 0.5.18 Empty 运行时适配)。本场与 10-22 的高校圆桌、10-15 的算子赏金挑战赛构成一条连续的技术传播线。
  • 清微把 Open3D-PIMC 从开源首发带到三十国师资课堂(10-26):该项目由清微智能与北京智源人工智能研究院联合开发,是面向 3D 算力芯片的编程模型与开源软件框架,9 月在中国算力大会正式开源,被定位为众智 FlagOS 面向下一代 3D 芯片的主要解决方案之一;开发者只描述数据分布与任务划分,框架自动完成图编译与即时执行的划分与调用,推理侧原生对接 vLLM 与 SGLang,各厂商私有指令集与微架构能力以插件形式接入。本期报道聚焦生态推广而非代码:全球 AI 开放计算师资发展计划把清微工程师送进课堂,学员为来自三十多个国家的近五十位高校骨干教师。文中「已适配 20 家芯片厂商、30 余款 AI 芯片」为报道方口径,与 10 月开放计算大会上官方给出的 21 厂商、35 芯片不完全一致,引用时需区分归属。
  • 沐曦把具身智能的强化学习框架接进上游主线(10-26):RLinf 由清华大学与无问芯穹联合北京中关村学院等机构推出,定位为首个面向具身智能的仿训推一体化大规模强化学习框架,成果被 OSDI、RSS、NeurIPS 等会议收录。沐曦基于曦云 C 系列 GPU 集群完成 512 卡与 1024 卡(128 节点乘 8 卡)两档 SFT,Pi0.5 模型在 RoboTwin 数据集上训练,四组任务成功率全部对齐或超过论文报告值、其中一组高 8.8 个百分点,多机扩展线性度保持在 97% 以上;接入方式为按插件模式四层对齐(加速器抽象层新增设备管理器并注册进 RLinf 注册表、环境变量控制多卡可见性并与 Ray 调度协同、通信默认走 MCCL、软件栈基于 MXMACA 的 PyTorch 与 FlashAttention 支持 BF16 与 FSDP)。此事不属 FlagOS 组件发布,但方向值得注意——它与 FlagOS-Robo、FlagScale 在场景上重叠,未来是否出现「成员单位先合入上游框架、再由 FlagOS 收口统一后端」的接力,是值得跟的线索。
  • 摩尔线程开源训练基础设施,代码与叙事要分开看(10-28):Megatron-MUSA-Titan 面向万卡级集群的万亿参数 MoE 训练,覆盖预训练与强化学习,支持 blockwise FP8、结合 DeepEP 与 ACE 异步通信做专家并行与计算重叠,可与 slime、miles 协同(Megatron 训练加 SGLang 采样)。仓库存在但本窗口内无推送、最后推送为 10-16,属「宣布开源、代码未动」,与新闻稿的「开源」表述要在时间上分开看。同日发布的还有三季度报告(营收 15.5 亿元、同比增长 1773.9%,前三季度营收 32.89 亿元、归母净利润 3769.73 万元,并推进港股二次上市),财报不改变技术判断,但解释了其开源节奏的投入能力。
  • 天数天垓 300 首次实机演示,硬件口径仍缺可复核条件(10-28):公司在上海媒体开放日首次实机展示天垓 300 通用 GPU,称其为首款实测性能达到英伟达 H200 水平的国产通用 GPU,第三方测试换算后单卡整体吞吐为 H200 的 1.05 倍,并在文生图、文生视频等复杂多模态任务上超过 H200。该数字为公司口径,测试方法、所用模型与工作负载条件均未公布,无法复核。软件栈侧的对应动作是持续的——FlagCX 补 Device API 获取语义、SGLang 0.5.18 的 Empty 运行时适配在审、multi_tensor_adam 已把天数列为支持后端。
  • 渠道核查:新闻面连续四个窗口只有成员单位通稿(10-23 ~ 10-29)。五期日报共做 120 组中英文查询(每期 24 组),组件名直查(FlagOS、FlagGems、FlagScale、FlagTree、FlagPerf、FlagCX、KernelGen)中英文合计持续零命中。五期合计有效条目八条:Google News 侧六条——InfoQ 的 2.2 复盘(10-24)、沐曦与摩尔线程的 MiniMax M3.1 Flash Day-0 通稿(10-23)、清微 Open3D-PIMC(10-26)、沐曦 RLinf(10-26)、摩尔线程 Megatron-MUSA-Titan(10-28);社区自有渠道两条——MiniCPM-OCR 双模型 Day0 适配文章(10-29 11:19)与 sglang-plugin-FL 技术直播(10-29 19:00)。CSDN FlagOS 专栏自 10-22 停更后于 10-29 恢复;HN Algolia 八组查询四天窗口内零条直接命中;智源社区搜索页为客户端渲染,仅得框架页;八家成员单位官网七日巡检仅有四条(摩尔线程 4K 后期制作网、三季度报告图解,沐曦 CNCC 2026 分论坛回顾,以及一条与软件栈无关的行业落地稿);待收录队列本周期无 FlagOS 条目。

六、趋势观察

  • 2.3 的瓶颈已经不在代码,而在「发布能否自证」:本周期最密集的一批工作不是新算子,而是门禁、留痕、撤回与一致性检查——changelog 从「人工记忆」变成推送门禁、上站到站点页与 Harbor,应用页一致性检查接进 pre-commit,两笔从未推送的镜像被撤回以使「changelog 文件集等于已发布集合」。这些动作不产出能力,但直接决定 12-30 之前那份发布清单能否被外部核对。当前状态是构建面已在按 2.3.0 记账、发布清单仍为空,11-13 的 FEP 截止与 11-30 的 rc0 会压缩整个 rc 期。
  • 后端矩阵在 2.3 周期继续扩张,而不是收敛:AMD ROCm 7.2.4 从一张基础镜像长成完整后端,地平线 BPU 从「设计上不能 eager」变成可逐算子执行。两件事的共同点是「接进来之后才需要做」的后续工作极重——AMD 要补构建器与 wheel 行,BPU 要补分发日志、拷贝内核守卫与厂商名映射,且新后端的第一道坎始终是「能跑」而不是「更快」。
  • Day-0 交付已从「能不能跑」进入「按统一格式批量复制」,下一步的胜负手是口径:一周内两次九芯齐发,本轮统一收敛到 W8A8 单一路径并把四家做成 Express 版,说明发布流水线已模板化。MiniCPM-OCR 的说明更进一步,把实际吞吐比、按峰值归一化的吞吐比与端侧时延分开陈述并写明前提——这比单一倍数更有参考价值,也更容易在下一轮被同行按同一口径比较。
  • 算子供给自动化之后,人工投入全部转向正确性与契约:KernelGen 单日 22 个算子、单周多批自动生成已是常态;与之相对,本周最有价值的一批提交是 index_put 的 int32 偏移溢出、天数 bf16 GEMM 退回主机、海光 DCU 运行时由桩链接而成、燧原形状表加载点缺失、昆仑芯后端无法导入这类「测试里不报错、上线后才炸」的问题。ref-as-candidate 在双仓落地与 57 笔测试修复,是把「测什么」从有没有算子改成参考与实现是否一致的分水岭。
  • 规则收敛的代价被推迟到 0.32 上兑现:0.28 跳过看起来压掉了追小版本的成本,但 0.28 上已经合入的适配(燧原 S60、天数、沐曦、清微、昆仑芯)需要在 0.32 上重走验收,这部分返工量目前没有任何 PR 承载。同期 0.32 的第一份落地证据是原生 CUDA 的 vLLM 0.32 适配(钉 vLLM 0.32.0 加 cu129、PyTorch 2.13.0、Python 3.12.3),国产后端尚未开始。
  • 量子栈与多芯适配彻底解耦,成为独立主线:FlagQuantum 一周合入 226 笔、占组织三成,且从结构重整(QEC 包拆分、Quafu SDK 硬切换)转入场景铺开(纠错码、中性原子、热浴),再收束到 CS-01 至 CS-07 的电路合成流水线;FlagQAI 同步做本地工作台。它的作业方式是四段留证,成本高、可核查性好,也是唯一一条不依赖任何芯片厂商进度的软件栈主线。
  • 三个风险项需要在下一期确认:其一,标签缺发布正文已成惯例——FlagCX v0.14.1 与 FlagTree 的两条 3.6 专号都只有标签,下游只能从名字反推后端与 Triton 版本,2.3 若按此线交付会增加核对成本;其二,寒武纪连续两周在组织内无专属推送,仅在 build-infra 留有撤回记录,若下一期延续应单列;其三,训练栈的恢复仍不确定——Megatron-LM-FL 在审十笔但本周期零合入,FlagScale 的 DeepSeek-V4 上游同步只开到 [2/N],训练侧进度落后于推理侧。
  • 下一观察点:2.3.0 标签何时打出、release-2.3.yaml 何时建立;0.32 单发规则下第一家国产后端(昇腾或海光)何时在 0.32 上完成验收;BPU 路径是否从逐元素算子扩到卷积等主干算子;FlagCV 何时给出第一组基准与非 GPU 后端数据;Megatron-MUSA-Titan 的代码是否真正开始推送并与 Megatron-LM-FL 形成复用。

附录:素材与核查

  • 素材:2026-10-26、10-27、10-28、10-29、10-30 五期 FlagOS 日报,窗口分别为 10-23 06:00 至 10-26 06:00(72 小时)、10-26 06:00 至 10-27 06:00、10-27 06:00 至 10-28 06:00、10-28 06:00 至 10-29 06:00、10-29 06:00 至 10-30 06:00,周期内无缺期。10-24 与 10-25 为周末,无独立日报,其内容包含在 10-26 期的 72 小时窗口内。
  • GitHub 核查方法:对组织 flagos-ai 全部 61 个仓库逐日核查推送状态;合入以 is:merged 加 merged:>=窗口起点 检索为真值,在审以 is:open 加 updated:>=窗口起点 检索;主分支新增用 commits?sha=<分支>&since=<UTC> 复核;非默认分支推送由 org 事件流与 commits.atom 兜底分辨(本周期涉及 docs、release-info、FlagFFT、FlagSparse、FlagGems-Experimental、TransformerEngine-FL 等仓)。分仓合入数为各期日报披露口径的累加,逐期分仓合计与各期合入总数完全一致,累计 755 笔。
  • 版本与标签核查:以各组件仓库的标签与 Release 原子源逐一复核,10-31 复核结果为——FlagTree 0.7.1a1+mthreads3.6 的 tagger 时间为 10-26 10:13、0.7.1a1+tsingmicro3.6 为 10-29 11:09,两者均无 Release 正文;FlagCX v0.14.1 为轻量标签,指向 10-29 10:55 的合入提交(昆仑芯 cstddef 回摘),Releases 列表最近一条仍为 9-28 的 v0.14.0;build-infra 标签列表最新仍为 v2.2.0;community 仓 release/2.3 目录下无 release-2.3.yaml。FlagGems、FlagQuantum、FlagScale、FlagBLAS、FlagDNN、FlagFFT、FlagTensor、FlagAttention、vllm-plugin-FL、sglang-plugin-FL、FlagGems-sglang、TransformerEngine-FL 本周期无新 Release。
  • 新闻侧核查:Google News RSS 24 组中英文查询词(组件名取 14 天、成员与产业词取 7 天)逐期执行,五期合计 120 组查询;HN Algolia 八组;CSDN FlagOS 专栏逐条核时;智源社区与八家成员单位官网每日巡检。有效条目按「原站优先」引用;旧闻重发(燧原「今日上市」类稿,该公司科创板上市日为 9-11)、越窗稿(清微「年度科创先锋」原文为 10-22)、会后传播稿(辉羲智能参会稿,指向 10-17 至 10-18 大会)与行情与财报类稿件按规则剔除,未计入条目。
  • 口径说明:日期与时间均为北京时间。周一的 72 小时窗口覆盖 10-24 与 10-25 周末,其内容按原始日期标注,与上一期周报(覆盖 10-19 至 10-23)在 10-23 当日存在重叠,重叠部分的标签与合入已在上一期列明,本期不重复计数。「合入」指 GitHub 检索的合并时间落在窗口内的 PR,与日报逐日窗口计数存在一天左右的错位,本报告统一采用合并日期口径;提交检索为 search 的 total_count 口径,个别仓库因压缩合并与索引延迟会出现合入数高于提交检索数的情况(如 10-27 期 FlagGems 49 笔合入对 28 笔提交),报告内以合入数为准。厂商通稿中的「Day-0」「无需改代码」「对齐或超过论文」等表述为公司口径,未取得第三方复现;天垓 300 的 1.05 倍 H200 与 InfoQ 的成本测算均已注明限定条件。
  • 局限:分支级活动(FlagTree 的 triton_v3.5.x 与 feature/flagmega 分支、FlagGems 的 kernelgen-dev 与 fix/* 临时分支、FlagFFT 的 codex/musa-shortfall)无法以默认分支口径完整枚举,按默认分支统计会低估实际工作量;FlagQuantum 的提交数含合并提交与分支同步提交,不等同于功能改动数;FlagGems-Experimental 的 135 笔批量 PR 截至本周期末全部处于在审状态,是否批量合入、合入后是否回流主仓算子表仍待观察;训练侧 Megatron-LM-FL 与 FlagScale 的动作稀疏,相关判断的置信度低于推理栈。

参考文献