调研窗口：2026-11-05 06:00 ~ 2026-11-06 06:00（北京时间，24 小时；接续上一期日报截点）。

信源：GitHub（org: flagos-ai 61 仓库全量核查、123 笔窗口内提交、94 笔合并 PR、255 笔窗口内更新在审 PR（其中 87 笔新开）、21 仓推送、31 仓 Release 与 8 仓 Tag 原子核查）、Google News RSS（24 组中英文查询词，走代理）、HN Algolia（8 组）、CSDN FlagOS 专栏（逐篇核时）、智源社区（详见附录信源清单）。

本期索引

  • 今日重点：寒武纪在 Torch-FL 打通融合注意力前向与反向，Qwen3 训练步的 CPU 回退从 190 次清零；社区一日送出 7 份 FEP（0163–0170）；燧原 25 笔 GCU300 改写单一次性清账，FlagGems 七个后端键改版本化命名（11-05）
  • 一、开源项目进展（GitHub 动态）
    • 1.1 组织节奏：21 仓推送、123 笔提交、94 笔合入，在审 255 笔（11-05）
    • 1.2 社区治理：一小时内 7 份 FEP 进评审，FlagMega v0.1 与 TLE Raw 五后端入册（11-05）
    • 1.3 版本面：2.3.0 记上 nvidia-cuda13.3，cuda12.8 冻结、torch 升到 2.13（11-05）
    • 1.4 FlagGems：33 笔合入里 25 笔归燧原，七个后端键改版本化命名（11-05）
    • 1.5 FlagTree：海光打通 TLE-Raw，ptxas 资源用量进编译器元数据（11-05）
    • 1.6 Torch-FL：寒武纪融合注意力前反向补齐，训练步零 CPU 回退（11-05）
    • 1.7 FlagQuantum：27 笔提交重排 CI 容量，容错编译器大分支进入整合（11-05）
    • 1.8 视觉与训练侧：FlagCV 对齐 SGLang 评测契约，FlagTrain 接 KMCompiler 算子（11-05）
    • 1.9 配套基建：docs 模型清单机器人开单，optest 与 OpenCourse 小步推进（11-05）
  • 二、新闻报道与生态
    • 2.1 FlagOS 2.2 产业案例：中国电信 mHC 训练损耗从 25% 压到 12%（11-05）
    • 2.2 端侧专场：ARM CPU 跑大模型提速 21%–25%，多芯适配覆盖 35 款芯片（11-05）
    • 2.3 渠道核查：组件级零命中，燧原标题经核为上市回顾稿（11-05）
  • 三、成员单位与后端厂商深挖
    • 3.1 寒武纪：CNNL 融合注意力前向与反向，190 次回退清零（11-05）
    • 3.2 燧原：GCU300 一夜清账 25 笔，NVIDIA 外部符号逐条换成本地实现（11-05）
    • 3.3 海光：HCU 的 TLE-Raw 与 BF16 专家 GEMM 两条线并进（11-05）
    • 3.4 昇腾：Flash Attention 修 UB 溢出，补 varlen 前向与 D=256（11-05）
    • 3.5 摩尔线程、天数、沐曦、昆仑芯、清微与玄铁：矩阵乘与布局分批推进（11-05）
  • 四、总结与趋势观察

一、开源项目进展（GitHub 动态）

1.1 组织节奏：21 仓推送、123 笔提交、94 笔合入，在审 255 笔（11-05）

日期：2026-11-05　来源：flagos-ai 组织仓库 · 提交检索（窗口内） · 合并 PR 检索（窗口内） · 在审 PR 检索（窗口内）

  • 总量：61 个仓库中 21 个在窗口内有推送；主分支新增提交 123 笔，分布在 12 个仓库；合并 PR 94 笔，来自 14 个仓库、32 位作者。
  • 提交分布：FlagGems 33、FlagQuantum 27、Torch-FL 12、build-infra 12 四仓合计 84 笔，占 68.3%；其后为 FlagGems-sglang 8、FlagCV 8、FlagTrain 7。
  • 合入分布：FlagGems 33、build-infra 12、Torch-FL 12 居前三；FlagTrain 7、FlagGems-sglang 6、FlagQuantum 5、FlagTree 5、FlagGems-vllm 5、FlagCV 4。
  • 人身分布：youseeyouonedayday 25 笔（全部是燧原 KernelGen 线）、lvyufeng 12 笔（Torch-FL）、lukatao 9 笔（FlagCV、FlagGems-sglang、FlagTrain）、tengqm 6 笔（build-infra）、FlagQuantum 机器人 5 笔、github-actions 5 笔。
  • 在审：255 笔窗口内有更新、其中 87 笔为新开；FlagGems 84、FlagTree 71 两仓合计 155 笔，占 60.8%。
  • 版本面：31 个仓库的 Release 原子源与 8 个仓库的 Tag 原子源在窗口内零新增，最近一次仍为 FlagCX v0.14.1（11-01）。
  • 对比上一期：提交 238→123、合入 167→94、推送仓库 26→21。数量回落到常态区间，同日却有 7 份 FEP 与一批版本工程动作落地，属”收口日”而非”铺量日”。

1.2 社区治理：一小时内 7 份 FEP 进评审，FlagMega v0.1 与 TLE Raw 五后端入册（11-05）

日期：2026-11-05　来源：FEP-0163 · FEP-0164 · FEP-0165 · FEP-0166 · FEP-0167 · FEP-0168 · FEP-0170 · 2.3 发布时间表

  • 动作：08:29 至 08:32（北京时间）四分钟内开出六份、至 09:31 共七份 FEP，提交人均为 wbavon，每份单文件、篇幅 104 至 207 行，状态一律标注 Provisional Draft。
  • 清单：FEP-0163 FlagMega v0.1（模型编译、vLLM 集成、多卡解码）、FEP-0164 TLE 分布式融合与自动调优、FEP-0165 TLE Raw 覆盖五个加速器后端、FEP-0166 FLIR 面向昇腾与 GPGPU 的优化、FEP-0167 二十个算子—设备对的编译器优化、FEP-0168 FlagTree 多平台支持与 Triton API 兼容、FEP-0170 FlagPrism v0.2 多后端调试与剖析。
  • 最实的一份：FEP-0163 给出五项目标与验收证据的映射——Qwen3.8 / GLM5.3 Flash 的 model-to-MegaKernel 编译、BS=1 解码、vLLM 集成、NVIDIA / AMD / 天数 CoreX 5.0 三方支持，四卡 H800 上 GLM5.3 Flash 解码吞吐高于 vLLM 5% 以上；同时明确 CoreX 5.0、发布矩阵与 GLM checkpoint 复现仍待完成。
  • 共同点：七份正文都写明”未跑 GPU 或模型验收”，把”范围声明”与”完成声明”分开。这是把多后端能力矩阵写成可验收条目的做法，而不是发版清单。
  • 时间关系：按 2.3 时间表，FEP 合入截止为 11-13，rc0 为 11-30。这批单出现在截止前八天，正好落在”补范围”的窗口里。
  • 同批分支：community 仓另有四条 codex/fep23-* 分支在窗口内推送，说明 FEP 起草与分支准备是同一条流水线。

1.3 版本面：2.3.0 记上 nvidia-cuda13.3，cuda12.8 冻结、torch 升到 2.13（11-05）

日期：2026-11-05　来源：build-infra #1649 · build-infra #1652 · build-infra #1653 · build-infra #1654 · build-infra #1655 · build-infra #1647 · build-infra #1650

  • 版本记录：#1649 在 base 文档里记上 2.3.0 并刷新镜像描述；#1653 补 runtime 侧的 2.3.0 changelog 日期，对象是 nvidia-cuda13.3。这是 cuda13.3 这条线首次进入 2.3.0 覆盖。
  • 升级内容：#1652 把 cuda13.3 跟到 torch 2.13——torch 2.13.0+cu130、torchvision 0.28.0+cu130、triton 3.7.1；torchaudio 保持 2.11.0+cu130，FlagTree 保持 0.7.0（两者与 torch 版本解耦）。
  • 冻结方式：torch 2.13 不再发布 cu128 wheel（该轨道止于 2.11.0），cuda12.8 因此无法跟随。做法是给 configs.yaml 加 enabled: 字段并置 false——冻结而非删除：规格、镜像、文档都留着，镜像停在最后一次构建的扁平标签上。
  • 可审计性：脚本 backend_enabled.py 成为唯一解析器，generate_matrix.py、两份状态报告、flagcx 与 vllm-plugin 的注册表共用它，使”冻结”进不了任何构建矩阵，也不会有消费者把冻结当成漂移。
  • 连带修复：#1655 把 torch-2.13 引起的 flagcx 重建写进 cuda13.3 的依赖链；#1654 为 flagtree 的 HCU 构建同时铺两套 LLVM 树并补 libzstd-dev。
  • 发布流水：#1647 与 #1650 两次记录 vllm wheel 发布；#1346 撤掉共用的 upload-nexus 可复用工作流，上传路径收敛。

1.4 FlagGems：33 笔合入里 25 笔归燧原，七个后端键改版本化命名（11-05）

日期：2026-11-05　来源：FlagGems #8446 · FlagGems #8287 · FlagGems #8028 · FlagGems #8393 · FlagGems #7581 · FlagGems #7246 · FlagGems #6706

  • 合入结构：33 笔中 25 笔带 KernelGen 与 Enflame 前缀（见 3.2），3 笔昆仑芯、2 笔摩尔线程、1 笔昇腾、1 笔清微，余为 CI 与通用修复。
  • 后端键版本化：#8446 改 12 个文件、增 39 行减 38 行，把 backends.yaml 里七个裸厂商名改成与 pyproject.toml 一致的版本键——hygon-dtk2604、iluvatar-corex450、kunlunxin-xre5371、spacemit-xxx、sunrise-tangrt120、thead-ppu210、tsingmicro-tsm260610。
  • 为什么值得记：旧写法下 uv pip install ".[tsingmicro]" 会静默匹配不到任何 extra，torch 与 flagtree 都不装，setup.sh 的 FlagTree 校验直接抛 ModuleNotFoundError: No module named 'torch'。键名对齐后，芯片代号与软件栈版本第一次写在同一处，装错版本会失败而不是静默跳过。
  • 清微：#8287 把 tsingmicro 后端更到 1103，190 个文件、增 23195 行减 914 行，是本窗口单笔最大的后端同步。
  • 昆仑芯：#8028 优化四个算子入口到 dtype 等权 Gems Speedup 门槛之上，三次冷缓存均值分别为 upsample_nearest2d 1.202、unique_consecutive 1.053、fake_quantize_per_tensor_affine 0.827、foreach_clamp_max_scalar 0.967；#8393 补 cholesky 求解助手等 XPU 覆盖。
  • 在审：FlagGems 84 笔窗口内更新（其中 15 笔新开于首页统计），仍是全组织最大的评审池。

1.5 FlagTree：海光打通 TLE-Raw，ptxas 资源用量进编译器元数据（11-05）

日期：2026-11-05　来源：FlagTree #1508 · FlagTree #1530 · FlagTree #1568 · FlagTree #1573 · FlagTree #1572 · FlagTree #1574 · FlagTree #1576

  • 合入：5 笔。#1508 给海光 HCU 补 tle.raw 路径，53 个文件、增 5106 行减 17 行；#1530 解析 ptxas 诊断中的寄存器、溢出、栈与共享内存用量；#1568 让 CI 失败时在飞书点名责任人；#1573 修 vllm 启动脚本的 stderr 重定向顺序。
  • HCU 细节：#1508 同时支持 eager 与 deferred 两种模式、HIP 与 MLIR 两种源码（编译为 LLVM IR 后嵌入 Triton IR），并接入 DUSHMEM 流式集合通信；随附 ring shift、allgather GEMM、GEMM allreduce 三个教程。示例中 sort 的 HIP 路径相对 torch 为 1.29 倍。
  • 可观测性：#1530 把资源用量写进 TLE 编译器元数据，解析器与启动、通信行为隔离；仓库侧汇总验证为 154 个 TLE MLIR 测试与 11 个新增 C++ 单测全通过，H800 上 57 个精确填充、循环流水与 scatter 用例全过。
  • 新开：3 笔。#1572 让摩尔线程在 dot 转换中保留显式 blocked 布局；#1574 给重排循环加载加展开边界与前提前提距离；#1576 做燧原 TLE 的 SoC 级分发增强。
  • 在审：17 笔窗口内更新，集中在 TLE 显式布局、Iluvatar native 复现用例、FlagPrism / MetaX 与 PPU 的 set_layout。

1.6 Torch-FL：寒武纪融合注意力前反向补齐，训练步零 CPU 回退（11-05）

日期：2026-11-05　来源：Torch-FL #748 · Torch-FL #749 · Torch-FL #757 · Torch-FL #754 · Torch-FL #745 · Torch-FL #756

  • 合入：12 笔，全部由 lvyufeng 提交，主线是寒武纪 MLU 的算子收敛与 Iluvatar 的路径放开。
  • 融合注意力：#748 把 cnnlFlashAttentionForward_v2 接到 SDPA 的复合覆盖上，结束”分解成三个叶子算子”的历史——批 2、4 头、序列 4096 时那张 B×H×S×S 评分矩阵约 256 MB，原先要写进 HBM 再读回。#749 用 cnnlFlashAttentionBackward_v2 补反向，并与前向一并包成 C++ autograd Function。
  • 回退清零：#757 先对一个完整 Qwen3 因果语言模型训练步做普查，发现残留 190 次 cpu_fallback 只来自两个算子——aten::mul.out 188 次、aten::embedding_dense_backward 2 次；两者改为经 CNNL 在 MLU 上执行后，同一步骤报告零算子回退。注册仍由代码生成器产出，配置与注册文件不会各说各话。
  • 同侧修复：#754 让寒武纪的 mul 操作数留在设备上并共用运行时队列；#750 与 #755 修 argmax 在含 NaN 切片上返回轴长度、以及图回答自身无匹配标记的缺陷。
  • 天数侧：#745 把 Iluvatar 的算子上限放开，使 mul.Tensor 能落到 FlagGems；#746 记录 mean 的差距来自空归约路径。
  • CI：#756 把昆仑芯 3.2 GB 的 FlagTree wheel 挡在 pip 缓存之外；#760 限定只有 push 触发才写缓存。
  • 在审：6 笔窗口内更新，含 #752 为缺乏集合通信的内层后端合成合并式 all-gather / reduce-scatter、#753 与 #762 用 ixblas axpy 承接 Iluvatar 的 add 家族、#759 的沐曦 DTensor 与 FSDP2 多卡验证脚本。

1.7 FlagQuantum：27 笔提交重排 CI 容量，容错编译器大分支进入整合（11-05）

日期：2026-11-05　来源：FlagQuantum #1089 · FlagQuantum #1093 · FlagQuantum #1094 · FlagQuantum #1084 · FlagQuantum #1087 · FlagQuantum #1092

  • 合入：5 笔，其中三笔是 CI：#1089 把 CPU 容量与托管队列、SDK 下载解耦；#1093 预置锁定核心环境并释放托管容量；#1094 用已分配的 CPU 容量配合完整覆盖分区。另两笔为按职责重组编译器模块与容错测试 W1-B。
  • 27 笔提交的主线：全部围绕 CI 质量门——限定镜像缓存资格后再迁移核心套件、被取代的运行不跳过失败门、必需合并门上拒绝被取消的依赖、把实时 Qiskit 依赖发现留在托管 runner、隔离 SDK 队列、对工件上传做有界重试、把未计时的大测试模块摊到有界批次、在合格的离线 A800 环境上跑核心套件、为质量保留容量并平衡八个托管槽位、清理被取消作业的容器。
  • 容错编译分支：feat/ftqc-native-integration 在窗口内有约 20 笔提交，内容是把 QVR 的相位梯度、缩放加法、测量伴随与 Hamming 权重相位逐段移植；主整合单 #1084 已开为草稿，276 个文件、增 31011 行减 92 行，注明后续模块会以独立提交补齐后再请求正式评审。
  • 纠错工作：#1087 接入 Stim 与 PyMatching 的实验工作流；#1092 支持矩阵定义的加权匹配；#1085 给有界 W2/W3/W6 准入加测试。
  • 判断：这一天的 27 笔里没有一笔是量子算法本身，全部是让测试可信、让 runner 可复现。对一个要跑容错编译的项目，这笔账先付是合理的。

1.8 视觉与训练侧：FlagCV 对齐 SGLang 评测契约，FlagTrain 接 KMCompiler 算子（11-05）

日期：2026-11-05　来源：FlagCV #4 · FlagCV #5 · FlagCV #6 · FlagCV #7 · FlagTrain #56 · FlagTrain #57 · FlagGems-vllm #1048 · FlagGems-sglang #294 · FlagSparse #117

  • FlagCV：8 笔提交、4 笔合入。这个 10-14 才建仓的仓库定位是 Triton 写的计算机视觉算子库，接口形状对齐 OpenCV、基线对比 OpenCV CUDA。#5 加独立 OpenCV CUDA add 参考适配器，#6 把 add 的评测对齐 FlagGems-sglang 的 pytest 契约（正确性记录带候选实测调用、dummy 遍历单列报告、参考校验拒绝绕过候选的用例），#7 统一用 GEMS_VENDOR 选设备。
  • FlagTrain：7 笔合入，KMCompiler 路线继续铺算子。#56 加融合的 h_post bda 前后向，实测 nvidia 1.190 倍与 1.702 倍、PPU 6.714 倍与 3.568 倍、MC550 6.057 倍与 2.590 倍、天数 7.087 倍与 3.500 倍；#57 把 scaled_masked_softmax 同时接到昇腾、沐曦、摩尔线程与天数；#50 加 quick_geglu 的 Triton 核；#54 统一算子命名与测试规范。
  • FlagGems-vllm：5 笔合入。#1048 在昇腾上用 TLE 实现 fused_indexer_weight_scale，两段流水、4096 元素分块、UB 分配与拷贝走 TLE，形状取自 GLM-5.3-Flash 的真实调用；#1077、#1080、#1085 连修三处 XCS 标记；#1071 让 setup.sh 装上 FlagGems。
  • FlagGems-sglang：8 笔提交、6 笔合入。#294 把显式设备选择统一到 GEMS_VENDOR，DNN_VENDOR 保留但发 FutureWarning 并让位；#289 与 #290 修 AMD gfx1100 的残差舍入与算子宽度。
  • FlagSparse：#117 由 NCIC-AlphaSparse 上游合入，62 个文件、增 4809 行减 280 行，主体是 MUSA 上 q4 与 40 的优化收尾。
  • vllm-plugin-FL：#698 把 0.4.0-dev 前向同步进 0.5.0-dev，0.5.0-dev 分支在 11-05 10:27 有推送；在审 20 笔。

1.9 配套基建：docs 模型清单机器人开单，optest 与 OpenCourse 小步推进（11-05）

日期：2026-11-05　来源：docs #575 · optest #39 · OpenCourse #7 · FlagCX #694 · FlagBLAS #159

  • docs：19:01 由机器人开出 ModelScope 文档更新单（#575），payload 是当日的模型清单同步；#542 的 aihuanxin 模型清单单仍在审。
  • optest：窗口内主分支无新提交（最近一笔停在 11-04 16:10 的 NV 基线脚本），仅有 fix_workflow_1104 分支推送；#39 修镜像问题在审。
  • OpenCourse：#7 合入 Harness Lab 材料更新，2 笔提交。
  • FlagCX：#694 给 DefaultBackend 加共享的 Net provider 派发；#692 的 PAL 在 AscendCL / DCMI 回退下启用 PCI 拓扑仍在审。
  • FlagBLAS：21:24 推送 new_ascend_gemm 分支；#159 优化 Ascend cgemm 并对着存档的 H100 基线打分，仍在审。
  • Trident：02:03 有推送但主分支无新提交，对应 #4 的 Monad 中间层单在 02:03 更新。

二、新闻报道与生态

2.1 FlagOS 2.2 产业案例：中国电信 mHC 训练损耗从 25% 压到 12%（11-05）

日期：2026-11-05　来源：CSDN FlagOS 专栏：不让一块算力卡闲置

  • 发布：11:23:59 发布，题为《不让一块算力卡闲置：产业伙伴基于 FlagOS，加速多元算力走进真实业务》。文中数字取自 2026 人工智能开放计算大会暨众智 FlagOS 技术大会。
  • 2.2 的一组数：九大算子库合计 1454 个算子；FlagTree 单仓覆盖 20 个厂商芯片后端；跨 10 款芯片、上千个算子的整体性能提升 27.6%；新模型 Day0 适配 12 款芯片；社区成员 107 家；季度下载量 46 万次，为上季度的 4.76 倍。
  • 中国电信：9 月 17 日开源的星辰 Xing4.0-29B-A4B（总参数 29B、激活 4B）全流程在昇腾 910C 集群完成训练，发布当天完成 10 款国产芯片的精度对齐与部署验证。命门是多通道残差算子 mHC：N 卡官方实现自身约 10% 降速，昇腾初版掉 50%，团队自研长期卡在 25%。与 FlagOS 团队合作把 FlagGems 的专项优化算子注册进 MindSpore + CANN + 昇腾 NPU 训练链路后，集群降速从 25% 压到 12%，该适配已开源合入 MindFormers。
  • 连锁效果：Agent 场景平均 prompt 70K、最大 200K，基于 FlagOS 重写 12 个长序列算子后首 token 时延降 19.87%、解码速度提升两成以上；热线语音前处理链路把 Spectrum 类算子聚合重写，在华为、摩尔、天数三款芯片上提速 10 倍。
  • 软通动力：天元智算平台按 token 结算，GLM-5.2 在四台昇腾 910C 上单 token 生成 17.79 毫秒，而模型方公布的 API 准入线是 16.13 毫秒。接入 FlagOS 后启用 PD 分离（Prefill 与 Decode 各占两台服务器）并做双侧优化，把时延压进准入线。
  • 其他伙伴：辉羲智能、奕行智能、澎峰科技同场分享。文章落点是”判断国产 AI 基础设施成熟度，不看支持多少款芯片，而看新模型发布当天能不能只改配置就跑出可交付吞吐”。

2.2 端侧专场：ARM CPU 跑大模型提速 21%–25%，多芯适配覆盖 35 款芯片（11-05）

日期：2026-11-05　来源：CSDN FlagOS 专栏：从云到端，AI 的最后一公里

  • 发布：14:10:28 发布，是面向端侧 AI 的访谈与直播预告，嘉宾为北京智源人工智能研究院性能优化工程师赵帅。
  • 四个看点：端侧 AI 为何此刻能落地（模型变小、算力变强、软件成熟）；端、边、云如何分工，插电与不插电设备如何取舍；不靠 GPU 与 NPU，纯 ARM CPU 把 MiniCPM、Qwen 跑出百级 token/s，实测口径为 SME2 与 I8MM，性能提升 21%–25%；FlagOS 多芯适配”一次优化、多款设备复用”，覆盖 21 家芯片厂商、35 款芯片。
  • 口径差别：这里的 21 家 / 35 款是端侧与设备侧的适配统计，与 2.2 大会公布的 107 家社区成员、12 款 Day0 芯片不是同一维度，引用时不宜混用。
  • 判断：把端侧单独拎出来讲，意味着 FlagOS 的叙事从”训练与推理的云侧多芯”扩到”设备侧多芯”。这与仓库侧 Torch-FL 早前补上 Apple Silicon MPS 路径的方向一致。

2.3 渠道核查：组件级零命中，燧原标题经核为上市回顾稿（11-05）

日期：2026-11-05　来源：Google News RSS · HN Algolia · 智源社区

  • Google News：24 组中英文查询在 24 小时窗口内共返回 8 条候选。七个组件名（FlagOS、FlagGems、FlagScale、FlagTree、FlagPerf、FlagCX、KernelGen）在中文查询下全部零命中，英文侧 BAAI FlagOS 与 flagos-ai 亦为零。
  • 成员词命中：四条来自”智源研究院 开源 / 芯片”查询，内容为智源社区转载的论文解读、活动报道与他人模型评测，与 FlagOS 无直接关系；一条”燧原科技”标题《燧原科技登陆A股 科创板补强DSA架构算力拼图》，经核为燧原 9 月 11 日在科创板上市（688801）的回顾稿，不属窗口内新事件，整批剔除。
  • HN Algolia：FlagOS 与 FlagGems 各返回 8 条与 3 条泛匹配，直接命中为零；BAAI 的 30 条同样无 FlagOS 相关标题。
  • 智源社区：首页与搜索页无窗口内 FlagOS 新帖；搜索页仍为客户端渲染，抓不到条目列表，只能以首页核查为准。
  • 结论：新闻侧当日只有 CSDN 专栏两篇新文可收，其余渠道零增量。这与上一期”组件级零命中”的结论一致，属常态。

三、成员单位与后端厂商深挖

3.1 寒武纪：CNNL 融合注意力前向与反向，190 次回退清零（11-05）

日期：2026-11-05　来源：Torch-FL #748 · Torch-FL #749 · Torch-FL #757 · Torch-FL #754

  • 根因：SDPA 在寒武纪后端被分解成三个叶子算子，原因是 cambricon 被排除在复合覆盖之外，于是每次注意力都要把 B×H×S×S 评分矩阵写进 HBM 再读回。#748 把 CNNL 的融合前向接回覆盖，8 个文件、增 315 行减 27 行。
  • 前向之后补反向：#749 用 CNNL 的融合反向补上梯度路径，并与前向一起包成 C++ autograd Function，使一次训练调用前后两遍都走融合核。3 个文件、增 342 行减 112 行。
  • 普查式收尾：#757 不看单算子，而是先对一个完整 Qwen3 因果语言模型训练步做回退普查，找到仅剩的两个回退点——aten::mul.out 188 次与 aten::embedding_dense_backward 2 次，合计 190 次；两者改为在 MLU 上经 CNNL 执行后，同一步骤报告零算子 CPU 回退。
  • 工程细节：寒武纪代码生成器补进这两个算子，gen_vendor_confs.py 重新推导路由，使出厂配置与注册文件无法互相矛盾；#754 让 mul 的操作数留在设备上并共用运行时队列，避免中间结果往返主机。
  • 作者与工具：这三笔的 PR 正文都带 AI agent 信息段，工具为 dsh（DeepSeek Harness）与另一款编码代理，模型标注 deepseek-v4.1-flash 与 gpt-6.1-sol，人工评审统一为同一维护者。
  • 判断：从”能跑”到”零回退”是训练可用性的分界。190 次回退里 188 次来自同一个算子，说明这类收尾靠的是普查而不是猜。

3.2 燧原：GCU300 一夜清账 25 笔，NVIDIA 外部符号逐条换成本地实现（11-05）

日期：2026-11-05　来源：FlagGems #8443 · FlagGems #8442 · FlagGems #8441 · FlagGems #8429 · FlagGems #8426 · FlagGems #8417 · FlagTree #1576

  • 规模：25 笔合入，全部带 KernelGen 与 Enflame 前缀，落款同一作者；上一期新开的 41 笔 GCU300 覆盖单由此开始批量落地。
  • 改法一：拆外部符号。多条单的主题是”不带 NVIDIA 的 __nv_* 外部符号也能跑”——__nv_nearbyintf、__nv_y0f / __nv_y1f、__nv_j0f、normcdfinv 等逐个换成本地实现，对应 choose_qparams_optimized、special_bessel_y0/y1、special_bessel_j0、special_ndtri 等算子。
  • 改法二：换算法路径。special_chebyshev_polynomial_t 改用专用核；linalg_householder_product 用单遍反射扫；linalg_inv_ex 用单核 Gauss-Jordan；compute_linear_combination 把外积换成 tl.dot；mixed_dtypes_linear 重写打包与分块。
  • 改法三：拆掉不适配的编译期特性。renorm_ 的自动调优会让本后端编译器直接中止，于是整段丢弃；fake_quantize 系列改用 magic-add 舍入，避开 extern 依赖；adaptive_avg_pool3d_backward、cholesky_inverse、linalg_tensorinv 的启动参数改在主机侧规划。
  • 改法四：修启动几何。special_i1e、special_modified_bessel_k0 的 launch geometry 逐条修正，linalg_householder_product 的 batch-norm 功能核几何也一并修。
  • 编译器侧：#1576 新开，做 TLE 在 SoC 级的分发增强，把算子级改写往编译器能力上挪一步。
  • 判断：这条线的方法是把”上游写法”翻译成”本后端支持的写法”，逐条清账。代价是 PR 数量大、单笔改动小；收益是覆盖面可以在两周内从几十个算子推到上千。

3.3 海光：HCU 的 TLE-Raw 与 BF16 专家 GEMM 两条线并进（11-05）

日期：2026-11-05　来源：FlagTree #1508 · build-infra #1654 · TransformerEngine-FL #153 · FlagAttention #123 · FlagGems #8446

  • 编译器侧：#1508 让 HCU 支持 tle.raw，53 个文件、增 5106 行；同时支持 HIP 与 MLIR 两种源码、eager 与 deferred 两种模式，并接入 DUSHMEM 的流式集合通信，随附三个教程（ring shift、allgather GEMM、GEMM allreduce）。
  • 构建侧：#1654 在 build-infra 里为 flagtree 的 HCU 构建同时铺两套 LLVM 树并补 libzstd-dev，说明 HCU 的 LLVM 版本还没收敛到单一树。
  • 训练侧：TransformerEngine-FL #153 新开，为 Qwen3.5-35B 增加可选的 BF16 专家 GEMM 路径（opt-in，不改默认行为）。
  • 注意力侧：FlagAttention #123 的 AttnRes 后端仍在审，属海光注意力的新算子方向。
  • 命名：FlagGems #8446 把海光的后端键定为 hygon-dtk2604，与 DTK 26.04 绑定；上一期记的 2.3.0 覆盖里还有 DTK 26.10 一条线。
  • 判断：海光当天的两个动作分属不同层次——TLE-Raw 是把编译器打开给厂商手写核，BF16 专家 GEMM 是把训练性能往下压。前者一次性投入大，后者直接对模型。

3.4 昇腾：Flash Attention 修 UB 溢出，补 varlen 前向与 D=256（11-05）

日期：2026-11-05　来源：FlagGems #7581 · FlagGems-vllm #1048 · FlagGems-vllm #1077 · FlagBLAS #159 · FlagCX #692 · FlagTree #1507

  • Flash Attention：#7581 修前向与反向的 UB 溢出和反向编译问题，5 个文件、增 1865 行减 286 行。做法是把前向与反向的分块与缓冲都加界，dQ 与 dK/dV 分开编译但保留 FP32 累加、尾部处理与 GQA 梯度归约。
  • 补齐两项能力：新增并注册昇腾的 varlen 前向；针对 dense D=256，先按连续 [N, D] 顺序载入 K 再转置做 QK，放大前向 KV 分块，并且只放大 dQ 的 query 分块，dK/dV 仍守在缓冲上限内。
  • 边界对齐：causal 的全掩码与掩码区按 KV 分块边界对齐，避免 BLOCK_N 大于 BLOCK_M 时分块重叠。
  • 回归：补了 CPU 参考的正向回归，覆盖 FP16 与 BF16、causal 与非 causal、带填充的头维、序列尾巴与 GQA。
  • 推理侧：#1048 用 TLE 实现融合的 indexer 权重缩放算子，两段流水、4096 元素分块、UB 分配走 TLE，保留 FP32 输出；形状取自 GLM-5.3-Flash。同日三笔 XCS 标记修复把 perf 输入与标记对齐。
  • 其他：#159 优化 Ascend cgemm 并对着存档的 H100 基线打分（在审）；#692 让 PAL 在 AscendCL 与 DCMI 回退下启用 PCI 拓扑（在审）；#1507 让昇腾 3.5 编译器导出 triton_key（在审）。

3.5 摩尔线程、天数、沐曦、昆仑芯、清微与玄铁：矩阵乘与布局分批推进（11-05）

日期：2026-11-05　来源：FlagGems #7246 · FlagGems #6706 · FlagGems #8028 · FlagGems #8287 · Torch-FL #745 · FlagAttention #127 · FlagAttention #119

  • 摩尔线程：#7246 重写 MP31 上的 mm，单文件增 2472 行减 146 行——按 dtype、规模与 NN/NT 布局在 GEMV、split-K、TME/SQMMA 流水与 persistent 路径之间选路；FP32 走向量乘矩阵专用路径、TF32x3 分块 GEMM 与 split-K，FP16/BF16 走 TME 搬运加 SQMMA 计算的 warp specialization，并用 TMECachePolicy 配缓存驻留提示。#6706 给 bmm 与 bmm.out 加形状感知的 TLE/SQMMA 实现（9 个文件、增 2369 行），需要配套 FlagTree 的分段 SPMC 流水 v2。#1572 在 FlagTree 侧让 dot 转换保留显式 blocked 布局。
  • 天数：#745 放开 Iluvatar 的算子上限，让 mul.Tensor 能落到 FlagGems；#753 与 #762 在审，用 ixblas axpy 统一承接 add 家族；CI 侧 FlagScale #1322 与 Megatron-LM-FL #213 都在补 Iluvatar 流水线。
  • 沐曦：#57 的 scaled_masked_softmax 覆盖沐曦；FlagGems 侧 #8414 的 layernorm、#6811 的 C550 矩阵乘与 #6807 的 addmm/router GEMM 仍在审；FlagTree #1496 给 FlagPrism 加最小 MetaX 集成、#1471 补 CommonIR set_layout 与布局自动调优；FlagAttention #119 加 Parallax 的 prefill 与 decode。
  • 昆仑芯：#8028 四个算子达到 0.8 以上的 Gems Speedup 门槛，#8393 补 cholesky 求解助手等 XPU 覆盖；Torch-FL #756 把 3.2 GB 的 FlagTree wheel 挡在 pip 缓存外。
  • 清微：#8287 把后端更到 1103，190 个文件、增 23195 行减 914 行，是当日最大的单笔后端同步；后端键定为 tsingmicro-tsm260610。
  • 玄铁：FlagAttention #127 新开，为 PPU-ZW810E 增加并优化 Wall Attention；FlagGems #8446 的后端键定为 thead-ppu210；#8489 新开，修并优化昇腾、摩尔线程与玄铁三方的 convolution_backward。
  • 地平线：本窗口内无提交，其 BPU 线在上一期（11-04）刚完成链式执行与算子库修复，本期无新增。

四、总结与趋势观察

日期：2026-11-05 ~ 2026-11-06　来源：flagos-ai 组织 · 本期各条目的 PR 链接（见附录）

  • 一句话：这一天的主轴是”收口”——燧原把 25 笔 GCU300 改写单一次清完，寒武纪把融合注意力的前后向补齐并把训练步回退清零，社区则把 7 份 FEP 送进评审，为 2.3 的 11-13 截止备料。
  • 观察一：节奏回落，方向反而更清楚。提交 238→123、合入 167→94，但落到具体仓库都是”补完最后一段”：Torch-FL 补反向、FlagGems 清账、FlagTree 打开厂商手写核的口子。铺量阶段结束后的收口日，产出看起来少，但对可用性的推进更直接。
  • 观察二：FEP 批次是 2.3 范围的真实边界。七份新 FEP 指向同一件事——把”多后端能力”写成可验收条目：FlagMega v0.1 的 MegaKernel 编译、TLE Raw 的五后端、FlagPrism v0.2 的多后端调试、FLIR 在昇腾与 GPGPU 上的优化。全为 Provisional Draft 且都注明未跑 GPU 验收，说明这是范围声明而非完成声明；真正的硬边界是 11-13 的合入截止。
  • 观察三：版本工程开始”可审计地退役”。cuda12.8 因为 torch 2.13 不再发 cu128 wheel 而被冻结，做法是加 enabled 字段并置 false，保留规格与文档、让唯一解析器把它挡在所有矩阵之外。冻结不是删除，也不是放任——这套写法值得复用到其他后端退役上。
  • 观察四：CI 容量成了 FlagQuantum 的主要工作。27 笔提交里没有一笔是量子算法，全部是把托管 runner 的容量、镜像资格、覆盖分区与取消语义理顺。容错编译分支已有 276 个文件、3.1 万行的整合单，测试基础设施跟不上就是空转。
  • 观察五：AI agent 是主力提交者，瓶颈在评审。94 笔合入里 25 笔出自同一 agent 会话，PR 正文自带工具、模型与人工评审字段。评审侧的在审池仍有 255 笔、87 笔新开，FlagGems 与 FlagTree 两仓占六成——写已经不是瓶颈。
  • 待观：七份 FEP 能否在 11-13 前收进；FlagGems 的在审池会不会随燧原清账一起下降；FlagQuantum 的容错编译整合单何时从草稿转为正式评审；cuda13.3 这条线在 2.3.0 rc0（11-30）前是否还会再动 torch 版本。

附录：信源核查表与完整信源清单

信源核查表

信源 核查结果
flagos-ai 组织仓库（61 仓） 21 仓窗口内推送；主分支新增提交集中在 FlagGems、FlagQuantum、Torch-FL、build-infra 四仓
提交检索（committer-date 窗口） 命中 123 笔，分 12 仓；FlagGems 33、FlagQuantum 27 两仓占 48.8%
合并 PR 检索（merged 窗口） 命中 94 笔，来自 14 仓、32 位作者；FlagGems 33、build-infra 12、Torch-FL 12 居前三
在审 PR 检索（updated 窗口） 命中 255 笔，其中新开 87 笔；FlagGems 84、FlagTree 71 两仓占 60.8%
Release / Tag 原子核查（31 仓 + 8 仓） 窗口内零新增；最近一次仍为 FlagCX v0.14.1（11-01）
Google News RSS（24 组中英文查询） 组件名七组全部零命中；成员词 8 条候选经核为社区转载、活动稿与上市回顾稿，整批剔除
HN Algolia（8 组查询） FlagOS 8 条、FlagGems 3 条泛匹配，直接命中为零
CSDN FlagOS 专栏 首页 15 篇逐篇核时：2 篇新文落在窗口内（11-05 11:23 与 14:10），其余为 8 月至 10 月旧文
智源社区 搜索页客户端渲染不可抓；首页窗口内无 FlagOS 相关新帖
2.3 发布清单（community release/2.3） 目录仅存发布时间表；清单文件按计划 11-30 特性冻结时生成

完整信源清单