FlagOS週報(2026-11-02 ~ 2026-11-06)
報告週期:2026 年 11 月 2 日(週一)至 11 月 6 日(週五),共 5 個工作日。
素材來源:本刊每日 FlagOS 動態報告 5 期(11-02 / 11-03 / 11-04 / 11-05 / 11-06,週期內無缺期)。其中 11-02 期為週一晨報,調研視窗自上一期截點 10-30 06:00 起算,為 72 小時,覆蓋 10-31 與 11-01 週末;11-03 至 11-06 四期為 24 小時視窗,首尾相接,末期末班為 11-05 06:00 至 11-06 06:00。因此本報告的事實區間為 10-30 至 11-05,10-30 至 11-01 部分按原始日期標註。
編制說明:按本週要聞、版本與釋出、元件與程式碼共建、成員單位與廠商適配、生態與社群、趨勢觀察六個維度組織。五期日報按各自視窗累加為提交 1117 筆、合入 715 筆;若只取四個完整的 24 小時視窗(11-03 至 11-06),為提交 861 筆、合入 600 筆。單期有推送的倉庫數依次為 17、16、24、26、21 個,組織倉庫總數為 61 個。版本與標籤以各元件倉庫的標籤與 Release 原子源獨立複核,週期內無新增 Release 物件。
一、本週要聞
-
2.3.0 的映象層一週內從四層鋪到六層,23 個 base 與 23 個 runtime 全部記上 2.3.0,釋出清單仍只有排期表(10-31 ~ 11-05):新增覆蓋包括海光 DTK 26.10 的 base 與 runtime、AMD ROCm 7.2.4 執行時與 FlagTree amd 構建線、昇騰 CANN 9.2.1 base(僅 910B、python 3.12、torch 2.13、triton_ascend 3.6.0,刻意留空 FlagTree 與 FlagCX)、英偉達 cuda13.3(torch 2.13.0+cu130、triton 3.7.1,同時把 cuda12.8 以 enabled 置 false 凍結)。community 倉庫的 release/2.3 目錄只有中英文排期表,release-2.3.yaml 仍為 404;31 倉 Release 與 8 倉 Tag 原子核查全周零新增。按排期,11-13 為 FEP 合入截止、11-30 特性凍結並拉 rc0、12-07 拉 rc1、12-14 拉 rc2、12-25 封板、12-30 GA。
-
vLLM 0.28.0 在一天內被四條後端同時收口,次日 repack 鋪到 11 家廠商索引(11-03 ~ 11-04):清微 TXDA 只做 eager 並主動拒絕圖模式(#642,加 3067 行減 146 行、29 個檔案);沐曦 C550 在上游無對應分支的前提下做「0.28-empty」空適配(#554,加 2838 行減 70 行、36 個檔案);摩爾執行緒 MUSA 一次帶進原生 MCCL 與分段原生圖(#575,加 7804 行減 233 行、46 個檔案);昇騰做 FULL_DECODE_ONLY 的解碼專用圖(#646,加 3342 行減 340 行、39 個檔案)。四筆合計加 17051 行減 789 行、150 個檔案。11-04 的 build-infra #1635 把 vLLM 0.28.0+flagos 寫進 11 家索引(AMD、昇騰、寒武紀、燧原、海光、天數、崑崙芯、沐曦、英偉達、曦望、清微),aarch64 提供 cp311 與 cp312、x86_64 提供 cp310 與 cp312。
-
寒武紀 MLU 以原生平臺進入 Torch-FL,次日融合注意力前後向補齊、Qwen3 訓練步 CPU 回退從 190 次清零(11-04 ~ 11-05):#720 加 4870 行減 64 行、40 個檔案,把 cambricon 寫進 flagos_platforms.json,補齊 libcnrt 執行時層、torch.mlu 墊片、backends_cambricon.conf、CI 配置與平臺契約;整套跑在 stock torch 2.10.0+cpu 上,不帶 torch_mlu、不帶 FlagTree、不帶 CUDA runtime,並在八卡 MLU590-M9 上端到端實測。次日 #748 與 #749 把 CNNL 融合注意力前向與反向接回 SDPA 覆蓋幷包成 C++ autograd Function;#757 對完整 Qwen3 因果語言模型訓練步做回退普查,190 次 cpu_fallback 中 188 次來自 aten::mul.out、2 次來自 aten::embedding_dense_backward,改經 CNNL 在 MLU 上執行後該步驟報告零回退。#724 同日把 cambricon 的 CI lane 撤下,理由是沒有 runner 承載。
-
達摩院玄鐵一天內以批次形態併入 13 個專用運算元,同時把 ZW810E 的成本模型升到 1.1.0(11-02):FlagGems 在 16:03 至 16:46 的 43 分鐘內合入 13 筆,全部標註 KernelGen 玄鐵產線,覆蓋 Chebyshev 多項式、igamma、三維卷積與轉置卷積、量化 LSTM、RMSNorm 反向融合、矩陣範數、三維自適應池化反向、Lanczos 上取樣等長尾條目,佔 FlagGems 當日 55 筆合入的 23.6%。FlagTree #1236 把 ZW810E 的 MM/MV 成本模型包升到 1.1.0,含 8 個 BF16 mm 變體與 2 個 mul 模型,並讓調優契約接受有序 configs 列表。11-05 FlagAttention #127 再為 PPU-ZW810E 開出 Wall Attention 最佳化單。
-
量子棧把「硬體驗收 + 資源賬目」做成可迴歸的證據:昇騰 910C 原生 provider 167 項透過,一週內合成線推進到 UP-06(10-31 ~ 11-05):FlagQuantum #958 把 910C 從實驗性 split-FP32 推到原生 provider 運算元路徑,PR 正文記錄 167 passed in 115.41s(142 個電路、噪聲、TEBD 與 QEC 用例,加 25 個原生動力學用例,含兩次冷程序計劃重放),CPU 側迴歸 1332 passed;#970 在預置 ARM64 runner 上加 fail-closed 的原生迴歸 lane。合成線一週內從 UP-01(Python qfunc 前臺)、AO-00/01/02(算術基線、歸一化、受保護算術)、PF-00/01(編譯時延與 RSS 賬本)推進到 UP-04/05/06(有界均勻態製備、標量相干控制、U 門與陣列 Hadamard)。11-05 的容錯編譯整合單 #1084 已開為草稿,276 個檔案、加 31011 行。
-
FlagGems 把跨後端評測收斂到「同一把尺子」,並在同周完成後端鍵版本化(11-03 / 11-05):11-03 的 16:41 與 16:42 兩分鐘內合入 23 筆,其中 21 筆由同一作者提交,把注意力與池化、歸約與線性代數、點態、稀疏與張量佈局四類運算元的 H800 參考讀入從分散 reader 遷到統一 JSON;此前參考值的來源、單位與舍入約定分散在程式碼裡,跨後端分數缺少共同基準。11-05 的 #8446 把 backends.yaml 裡七個裸廠商名改成與 pyproject.toml 一致的版本鍵(hygon-dtk2604、iluvatar-corex450、kunlunxin-xre5371、spacemit-xxx、sunrise-tangrt120、thead-ppu210、tsingmicro-tsm260610),修掉
uv pip install ".[tsingmicro]"靜默匹配不到 extra、導致 torch 與 FlagTree 都不安裝的問題。 -
社群治理:一小時內七份 FEP 進評審,把 2.3 的多後端能力寫成可驗收條目(11-05):08:29 至 09:31 共七份單檔案 FEP,狀態一律為 Provisional Draft,提交人同一。清單為 FEP-0163 FlagMega v0.1、FEP-0164 TLE 分散式融合與自動調優、FEP-0165 TLE Raw 五後端、FEP-0166 FLIR 昇騰與 GPGPU 最佳化、FEP-0167 二十個運算元—裝置對、FEP-0168 FlagTree 多平臺與 Triton API 相容、FEP-0170 FlagPrism v0.2。最實的 FEP-0163 給出五專案標與驗收證據的對映,包括四卡 H800 上 GLM5.3 Flash 解碼吞吐高於 vLLM 5% 以上,同時明確 CoreX 5.0、釋出矩陣與 checkpoint 復現仍待完成。七份正文都寫明「未跑 GPU 或模型驗收」,把範圍宣告與完成宣告分開。
-
產業側:FlagOS 2.2 的案例開始給出可量化收益,端側敘事同周補齊(11-05):CSDN 專欄兩篇。中國電信星辰 Xing4.0-29B-A4B 的 mHC 多通道殘差運算元在昇騰 910C 上從 25% 叢集降速壓到 12%,適配已合入 MindFormers;Agent 場景重寫 12 個長序列運算元後首 token 時延降 19.87%;軟通動力把 GLM-5.2 在四臺 910C 上的單 token 17.79 毫秒壓進 16.13 毫秒准入線。2.2 的一組總量為九大運算元庫 1454 個運算元、FlagTree 覆蓋 20 個廠商後端、10 款晶片整體效能提升 27.6%、Day0 適配 12 款晶片、社群成員 107 家、季度下載 46 萬次(上季度 4.76 倍)。端側專場給出 21 家廠商、35 款晶片的適配統計,純 ARM CPU 跑 MiniCPM 與 Qwen 實測提升 21%–25%。
二、版本與釋出動態
2.3.0:六層映象全部記上 changelog,釋出清單仍只有排期表
| 映象層 | 落地時間 | 關鍵內容 |
|---|---|---|
| base 與 runtime:hygon-dtk26.10 | 10-31 ~ 11-04 | 基礎映象裝 ROCm 感知的 Open MPI,執行時補 flagcx 0.14.1 的海光 DTK 26.10 構建版,python 3.12 配 DTK 26.10 的 torch 閉包;廠商 triton 升到 3.7.0+dtk2610 後只有 hcu 驅動 active,修掉 serve 退回 V1 model runner 的問題 |
| runtime:amd-rocm7.2.4 | 10-31 ~ 11-02 | flagcx 釘固、補 amdsmi、刪掉無效的裝置可見性環境變數、torch 閉包對齊 vLLM 0.32;另建 FlagTree amd 打包線做溯源與 A/B 對賬 |
| base:ascend-cann9.2.1 | 11-03 ~ 11-04 | 僅 910B、python 3.12、torch 2.13、triton_ascend 3.6.0;因無 CANN 9.2.x 版本釘固,刻意留空 FlagTree 與 FlagCX;首次構建缺 OCI provenance 標籤,11-04 補標籤重推 |
| base 與 runtime:nvidia-cuda13.3 | 11-05 | torch 2.13.0+cu130、torchvision 0.28.0+cu130、triton 3.7.1;torchaudio 2.11.0 與 FlagTree 0.7.0 與 torch 解耦;cuda12.8 因 torch 2.13 不再發 cu128 wheel 而凍結 |
-
覆蓋度:截至 11-05,23 個 base 與 23 個 runtime 映象的 changelog 都已記上 2.3.0,覆蓋 12 家廠商的 23 條工具鏈線,包括 AMD ROCm 7.2.4、昇騰 CANN 8.5.0 與 9.0.0(含 910C 變體)與 9.2.1、寒武紀 neuware 4.4.3 與 4.7.2、燧原 tops 1.9.10 與 1.10.6、海光 DTK 26.04 與 26.10、天數 corex 4.4.0 與 4.5.0、崑崙芯 XRE 5.37.1、沐曦 MACA 3.7.2.1 與 3.8.1.3、摩爾執行緒 MUSA 4.3.6 與 5.2.0、英偉達 CUDA 12.8 與 13.3、曦望 1.2.0、清微 tsm260610。
-
為什麼昇騰 base 是 python 3.12:兩條硬約束寫在 PR 正文裡——flagos-pypi-ascend 上 torch 2.13、torch-npu 2.13、torchvision 0.28、torchaudio 2.11 的 wheel 只有 cp312;CANN 的 set_env.sh 會把它自帶的 python 樹塞進 PYTHONPATH,base 直譯器必須與執行時 venv 完全一致,否則匯入會串版本。配套把 numpy 釘在 1.26.4。
-
為什麼 base 刻意不帶 FlagTree:9.2.1 既沒有對應的 flagtree 版本釘固,也沒有對應的 flagcx wheel,因此這一層把 flagtree、flagcx 與依賴項全部留空,構建順序改為 base、不帶 FlagTree 的 runtime、FlagTree builder、FlagTree wheel、重新整理 runtime;預設 flagtree 時編譯器回落到 triton。
-
退役機制:cuda12.8 的凍結不是刪除——在 configs.yaml 加 enabled 欄位並置 false,規格、映象與文件全部保留,映象停在最後一次構建的扁平標籤上;指令碼 backend_enabled.py 成為唯一解析器,generate_matrix.py、兩份狀態報告與 flagcx、vllm-plugin 的登錄檔共用它,使凍結狀態進不了任何構建矩陣。
-
釋出態:community 的 release/2.3 目錄目前只有釋出時間表,清單檔案按計劃在 11-30 特性凍結時生成。按 2.3 時間表,FEP 合入截止 11-13、特性凍結 11-30 拉 rc0、rc1 12-07、rc2 12-14、封板 12-25、GA 12-30。映象跑在清單前面屬計劃內節奏,11-13 才是這一版範圍的硬邊界。
本週標籤與 Release 清單:零新增,FlagCX v0.14.1 仍只有標籤
-
零新增:五期日報對 31 個倉庫的 Release 原子源與 8 個倉庫的 Tag 原子源逐日核查,全周沒有新的 Release 物件。唯一帶時間更新的是 FlagCX v0.14.1 標籤(11-01 00:10 重新整理),而 GitHub Releases 的最新正式版仍是 2026-09-28 釋出的 v0.14.0,正文寫明對應 FlagOS 2.2。
-
元件版本線未動:FlagGems 正式線仍是 5.4.0,5.5.0.dev0 自 10-12 開線後無新標籤;FlagQuantum 以 v0.3.1 為量子棧基線;FlagScale、FlagBLAS、FlagDNN、FlagFFT、FlagTensor、FlagAttention、vllm-plugin-FL、sglang-plugin-FL 等仍停在 09-28 那一批。
-
判斷:這是 2.2 釋出之後、2.3 於 12-30 GA 之前的典型空檔——對外版本靜默,製品線與構建線活躍。與上週相比,唯一變化是映象層的覆蓋面從四層擴到六層,標籤與清單兩步仍缺席。
vLLM 外掛:0.28 四後端同日收口,repack 鋪到 11 家索引
-
四種落地策略:同一個上游版本,四條後端各按自身條件選擇路徑。清微刪掉 TXDA 的圖捕獲與切分實現,在配置階段直接拒絕圖與編譯配置並提示 –enforce-eager,理由是分段原圖在 TP8 下已對兩個模型透過門禁,但 Dense TP1 的正確性始終未解決;沐曦把改動全部留在 vllm_fl 與 CI 指令碼內,按廠商名或執行時判定為門,評審明確否決了往 site-packages 寫 .pth 啟動鉤子的方案;摩爾執行緒把原生 MCCL、FX/eager 編譯與分段原生圖一次帶進來,圖處理收進單個 graph.py;昇騰只做 FULL_DECODE_ONLY 的解碼圖,prefill、視覺編碼與取樣留在圖外。
-
repack 機制:build-infra 把「釋出步驟寫目錄、人工只寫文案」的機制本輪正式跑通,替代此前手工改 pypi_index 欄位;一處修邊界按第一個連字元切分 vendor,避免版本串同時含 + 平臺段與 - 分段時截錯平臺名。同日給 FlagGems-vllm 增加每日 wheel 線,構建與上傳容器透傳代理,昇騰 verify 容器補 1 GB /dev/shm。
-
0.32 線並行:0.28 收口的同時,0.32 的五筆適配在評審佇列推進——燧原 S60(#675)、天數(#674)、AMD ROCm gfx1100(#659)、沐曦 C550(#693)、統一 FL 執行並適配燧原(#667)。維護線與目標線同時跑已成常態,廠商需要維持兩套驗證環境。
-
同步機制:0.4.0-dev 向 0.5.0-dev 的 forward-sync 本週合入四筆(#676、#678、#688、#689),方式從整分支合併改為按審閱增量重放並保留源提交,衝突以草稿 PR 公開;11-05 又由 #698 完成一次前向同步。
社群治理:七份 FEP 與 2.3 範圍宣告
-
名單與定位:FEP-0163 FlagMega v0.1 指向模型編譯、vLLM 整合與多卡解碼;FEP-0164 指向 TLE 分散式融合與自動調優;FEP-0165 讓 TLE Raw 覆蓋五個加速器後端;FEP-0166 是 FLIR 面向昇騰與 GPGPU 的最佳化;FEP-0167 聚焦二十個運算元—裝置對的編譯器最佳化;FEP-0168 是 FlagTree 多平臺支援與 Triton API 相容;FEP-0170 是 FlagPrism v0.2 的多後端除錯與剖析。
-
共同寫法:七份正文都寫明「未跑 GPU 或模型驗收」,把範圍宣告與完成宣告分開;community 倉另有四條 codex/fep23-* 分支在視窗內推送,說明 FEP 起草與分支準備是同一條流水線。這批單出現在 FEP 合入截止前八天,正落在補範圍的視窗裡。
三、元件與程式碼共建
FlagGems:一週五批,從覆蓋率轉向可比性與後端專屬實現
-
規模:五期日報視窗內合入分別為 55、76、35、33、33 筆,合計 232 筆,是全組織合入量最大的單倉。11-03 的 76 筆為周內峰值,佔當日全組織 177 筆的 42.9%。
-
玄鐵批次:11-02 的 13 筆集中在長尾條目,包括 Chebyshev 多項式、igamma、三維卷積與轉置卷積、量化 LSTM、RMSNorm 反向融合、矩陣範數、三維自適應池化反向與 Lanczos 上取樣。這批運算元此前通用 Triton 實現收益偏低,專用化後可直接進預設分派;目前尚無與 FlagGems-vllm 推理路徑的對接記錄。
-
崑崙芯契約與調優:11-02 的 #8038 修掉一個靜默錯誤——foreach 系列 out-of-place 標量過載的快路徑只比較元素數、不比較形狀,形狀不同但元素數相同的列表會全部繼承首個張量的形狀;修復按完整形狀判定準入,另兩筆把十六個標量輸出改為單基址定址、列表輸出合併為平坦緩衝。同側 #8034 在提交 JIT 前先求值自動調優網格,#7976 改從 program_id(0) 取槽位;效能側十餘筆覆蓋點態快路徑、pool3d 反向融合、Chebyshev 展開、Jacobi 分塊與 linspace 單公式。#8123 撤回 BF16 點態最佳化、#8245 以另一方案重做,一撤一補說明該路徑仍在試錯。
-
天數與英偉達:11-03 16:04 至 16:10 六分鐘內合入 10 筆 BI-V150 專用運算元(特殊多項式、上取樣與填充反向、量化最大池化、矩陣乘 smm、not_equal、池化索引反向);英偉達側 12 筆繼續補稀疏張量、cudnn 族、檢視與形狀、量化與自動微分內部運算元。11-04 天數再合 12 筆,另 #8396 回退兩處在 BI-V150 上不成立的前序更新。
-
燧原:11-04 的 5 筆全部是裝置守衛修復(CUDA-only guard、im2col 硬編碼、kl_div 與 arctanh、upsample_nearest3d_backward 整型索引鉗位、–override 不匹配時顯式失敗)。11-05 新開的 41 筆 GCU300 覆蓋單在 11-05 當日開始批次落地,25 筆一次清賬,做法包括把 64 位 lane offset 收窄到 32 位、把 launch 幾何搬到 host 側預計算、把 _nv* 外部符號換成本地實現、把點態 dynamic 降級改成專用核。
-
海光與沐曦:11-04 #7388 給海光補 FP32 flash attention 前向;#7318 給沐曦補通道級 bmm_w8a8 INT8 融合縮放;11-04 另有海光 9 筆 FP32 專項開放單(rsqrt、floor、nonzero、全維歸約、masked_fill、nan_to_num、neg、masked_select、aminmax),全部限定連續 FP32。
-
昇騰與摩爾執行緒:11-05 #8110 新增通道級 INT8 BMM(加 519 行減 3 行);#7581 修 Flash Attention 前向與反向的 UB 溢位,並補 varlen 前向與 dense D=256;摩爾執行緒 #7246 重寫 MP31 上的 mm(單檔案加 2472 行減 146 行),#6706 給 bmm 與 bmm.out 加形狀感知的 TLE/SQMMA 實現(9 個檔案、加 2369 行)。
-
後端鍵版本化:#8446 改 12 個檔案、增 39 行減 38 行,把七個裸廠商名換成版本鍵。它的價值不在命名統一,而在裝錯版本會失敗而不是靜默跳過——舊寫法下
uv pip install ".[tsingmicro]"匹配不到任何 extra,torch 與 flagtree 都不裝,setup.sh 的 FlagTree 校驗直接拋 ModuleNotFoundError。 -
清微與 SiliconFlow:11-05 #8287 把 tsingmicro 後端更到 1103,190 個檔案、加 23195 行減 914 行,是當週單筆最大的後端同步;11-03 #6501 一次性補進三個 embedding bag 運算元(支援 SUM/MEAN/MAX、加權、padding 排除、空袋與終止偏移),加 7494 行減 222 行、24 個檔案。
FlagTree:增強項改成執行期開關,海光打通 TLE-Raw
-
執行期開關:11-04 #1565 合入,加 123 行減 27 行、15 個檔案,把每個 FlagTree 增強統一成四件套——編譯期宏、執行期 knob(FLAGTREE_<NAME>,預設開,進 CACHE_INVALIDATING_ENV_VARS)、與周邊程式碼一致的 guard 塊、標註宏名的 #else/#endif。此前編譯器增強一旦進生產,迴歸只能靠回滾整版止損;開關下放後,可以只關掉那一個增強。
-
堆疊單:11-04 13:02 至 13:15 十四分鐘內連開 38 筆,分 [TLE][NVIDIA] 12 筆、[TLE][AMD] 4 筆、[TLE][Iluvatar] 7 筆、[FlagCX] 5 筆、[Iluvatar][Native] 5 筆;另 #1563 把功能 PR 的依賴圖與驗證門寫成文件,明確哪些必須按序合、哪些可獨立驗證。
-
海光 TLE-Raw:11-05 #1508 給 HCU 補 tle.raw 路徑,53 個檔案、加 5106 行減 17 行;同時支援 eager 與 deferred 兩種模式、HIP 與 MLIR 兩種原始碼(編譯為 LLVM IR 後嵌入 Triton IR),並接入 DUSHMEM 流式集合通訊,隨附 ring shift、allgather GEMM、GEMM allreduce 三個教程。示例中 sort 的 HIP 路徑相對 torch 為 1.29 倍。
-
正確性與可觀測性:11-02 #1460 修 TritonGPU 流水化 cp.async 降級與 WGMMA 運算元緩衝複用(屬會算錯而非報錯的一類),#1451 把 WGMMA warp 選擇與上游 MMAv3 對齊;11-05 #1530 解析 ptxas 診斷裡的暫存器、溢位、棧與共享記憶體用量並寫進 TLE 編譯器後設資料,倉庫側彙總為 154 個 TLE MLIR 測試與 11 個新增 C++ 單測全透過。
-
其他:11-02 #1236 玄鐵 ZW810E 成本模型 1.1.0;11-04 #1524 給 AMD native 補三角相容與獨立舍入乘法 API,#1370 把 DEB/RPM 打包改成 verify-only;11-05 #1572 讓摩爾執行緒在 dot 轉換中保留顯式 blocked 佈局,#1576 做燧原 TLE 的 SoC 級分發增強。
FlagQuantum:三條驗收線到 UP-04/05/06,容錯編譯整合單成形
-
規模:五期合入分別為 35、21、28、29、5 筆,合計 118 筆;提交量單倉佔比從三日視窗的 58% 回落到 43% 至 47%,非量子側份額回到一半以上。
-
910C 與 CI:11-02 的 #958 與 #970 把昇騰 910C 推到原生 provider 並建 fail-closed 迴歸 lane,依賴邊界寫明 Torch-FL 取自 feat/ascend-complex-lowering 分支的 3aebd0c、FlagCX 取 v0.14.1 的 6fe3631 並附補丁,等於把可復現性繫結在原始碼提交而非二進位制包上。
-
合成線:11-02 單日 21 筆分佈在 UP(語義)、AO(算術)、PF(效能)三條線——UP-01 讓 @synth.qfunc 裝飾的函式可直接書寫分配、門與輸出;AO-00/01/02 依次建立算術基線與獨立 oracle、受保護公共子表示式消除與位事實歸一化、受保護的平方與常量及終端 XOR;PF-00/01 建立編譯時延與作業系統 RSS 基線、複用已校驗的計劃欄位。
-
前臺與演算法:11-04 的 UP-04 補有界均勻態製備、標量相干控制、有界謂詞與受檢相位助手;UP-05 歸一化前端入口分發並把算術降級抽成共享路徑;UP-06 支援 Qmod 與原生 qfunc 的 U 門與陣列 Hadamard。演算法側新增稀疏化學 SELECT 的門級降級、可執行的 THC SELECT、THC 旋轉經 QROM 與相位梯度降級。
-
探測器誤差模型:11-04 的 #1052 至 #1069 依次補互斥故障奇偶、重複故障合併、多 chunk 往返、稀疏 chunk 投影與逐輪解碼,配合 #1072 的 FTQC W1-B 參考覆蓋圖——這條線補的是量子糾錯解碼的資料路徑,不是演算法演示。
-
容錯編譯與 CI:11-05 的 feat/ftqc-native-integration 分支約 20 筆提交,把 QVR 的相位梯度、縮放加法、測量伴隨與 Hamming 權重相位逐段移植;主整合單 #1084 已開為草稿,276 個檔案、加 31011 行減 92 行。同日 27 筆提交全部圍繞 CI 質量門——容量與託管佇列解耦、映象資格限定、必需合併門拒絕被取消的依賴、工件上傳有界重試、核心套件遷到合格離線環境。
FlagCX:海光 bitcode 統一打包,昇騰 910C CI 與 traits 抽象
-
海光:11-02 #667 是 UIL 線的結構性改動,增加海光 bitcode 構建並把 Device IR 的打包方式統一。此前各後端各打各的 IR,海光接入需單獨維護一套產物;統一後新增後端的打包成本下降。
-
測試與語義:11-02 #687 把 SymMem 覆蓋按介面卡型別強制到 CI,避免某介面卡沒跑對稱記憶體測試而流水線仍綠;#688 與 #689 讓 DU stream guard 按 torch 代際選擇,並把同一修復回摘到 0.14.0-rc2。
-
昇騰 CI:11-04 #669 新增昇騰 910C 流水線並統一單測編排(加 1559 行減 664 行、41 個檔案),把 Torch Python 覆蓋跑到四個平臺並清掉重複的 CUDA 效能測試;#686 由 FlagQuantum 側提出,處理昇騰裝置完成跟蹤與張量保活。
-
抽象層:11-05 #693 新增 CoopOps 與 Clock traits 並給出 NVIDIA 實現,把裝置能力查詢抽成 trait;#691 讓 Window 資源拆除可重試;#694 給 DefaultBackend 加共享的 Net provider 派發。
Torch-FL:兩端擴張(Apple MPS 與寒武紀 MLU),BPU 修到可用
-
規模:五期合入分別為 13、5、2、29、12 筆。11-04 的 29 筆全部出自同一作者,方向卻分兩端。
-
Apple Silicon:一端把 MPS 後端補到「能訓練」——補上 addmm(nn.Linear 帶偏置時真正落到的運算元)、卷積反向、比較與規約族、三角與指數族、cumprod、tril,其中卷積反向與參考實現逐位一致。
-
英偉達預設路徑:11-02 #700 修掉預設 NVIDIA conf 把 1485 個運算元路由到 boxing kernel 的問題,是當週影響面最大的一筆;#684 把 FP4 的半位元組移位改成張量運算以命中已路由的過載;#687 收窄 day-0 FlagGems override 到其說明本身辯護的運算元。
-
地平線 BPU:11-04 #721 查清 eager 路徑其實每個運算元都在 CPU 上跑——運算元桶階梯從不超過 512 lane、雙輸入 artifact 用單張量描述符提交導致靜默錯值、hbdk4 在 box64 下無法匯入 numpy。修復後把 Run 透過 C ABI 暴露,讓 eager 路徑繞開 aten dispatcher,RDK S600 上 262144 lane 的 relu 從 0.176 毫秒降到 0.073 毫秒,一個 conv block 從 23.2 毫秒降到 11.1 毫秒。#726 新增 DeviceChain,讓多個 BPU artifact 在裝置上連續執行、中間啟用不回主機,序列化 elementwise 從 0.417 毫秒降到 0.104 毫秒,四次獨立派發從 1.667 毫秒降到 0.673 毫秒。
-
天數與崑崙芯:11-02 #698 把 Iluvatar CI 的 FlagTree 釘到 0.7.0(該晶片實際執行版本),#697 讓 baddbmm 走廠商 GEMM;11-05 #745 放開 Iluvatar 的運算元上限,使 mul.Tensor 能落到 FlagGems;11-05 #756 把崑崙芯 3.2 GB 的 FlagTree wheel 擋在 pip 快取之外。
-
能力查詢:11-05 #708 新增融合運算元可用性與裝置能力兩個查詢介面,讓上層程式碼不再用 tensor.is_cuda 判斷裝置能否跑融合運算元——在 flagos 張量上該欄位恆為 False,會讓 flex attention 這類程式碼靜默退回 eager 路徑。
訓練與運算元庫:壁仞 SUPA 首次入棧,DSv4 同步按子系統推進
-
壁仞:11-04 TransformerEngine-FL #143 新增 Biren SUPA 廠商後端,加 3608 行、7 個檔案,是壁仞第一次以獨立後端形態出現在 FlagOS 的訓練元件裡。PR 正文只寫「Add BIREN SUPA vendor」,未附硬體驗證記錄,屬骨架先行。
-
FlagTensor 與 Megatron:11-04 FlagTensor #14 註冊 MThreads/MUSA 後端,併為 ACOS、ACOSH、ASIN、ASINH、ATAN、ATANH、TAN 七個超越函式加專用重寫,繞開 MUSA Triton JIT 不支援的 libdevice 路徑(加 300 行減 5 行、14 個檔案),版本對齊 0.3.0。Megatron 側「DeepSeek-V4 向上遊同步」按子系統推進:#202 是第 1 筆,保住精度敏感引數並處理壓縮器與索引器的部分投影(加 3356 行減 775 行、26 個檔案);#214 是第 2 筆,主題為 mHC 與專家並行的重疊。
-
FlagTrain:11-02 八筆集中 KMCompiler 的 NVIDIA 線(weighted_squared_relu、fused_h_aggregate 前反向、bias_swiglu、scaled_masked_softmax 前反向、fused_proj_rms_compute_h);11-05 #56 加融合的 h_post bda 前後向,實測 nvidia 1.190 倍與 1.702 倍、PPU 6.714 倍與 3.568 倍、MC550 6.057 倍與 2.590 倍、天數 7.087 倍與 3.500 倍;#57 把 scaled_masked_softmax 同時接到昇騰、沐曦、摩爾執行緒與天數。
-
FlagBLAS 與 FlagSparse:11-02 FlagBLAS #157 為 MUSA 補 L1 BLAS 後端與 muBLAS 參照,覆蓋 AMAX 至 SWAP 十五組運算元;11-05 #159 最佳化 Ascend cgemm 並對存檔的 H100 基線打分(在審)。11-03 FlagSparse #115 從外部倉庫 NCIC-AlphaSparse 合入(MUSA q4 收尾),11-05 #117 再合入 62 個檔案、加 4809 行減 280 行。
-
推理側:11-04 FlagGems-sglang #279 把 6 個模型級運算元連同各平臺 vendor 覆蓋一併合入,加 13061 行減 79 行、85 個檔案,其中 rms_norm 與既有 one_pass_rms_norm 數學與 ABI 一致,故以 _mthreads、_thead、_hygon 覆蓋形式併入而非新增運算元;11-05 #294 把顯式裝置選擇統一到 GEMS_VENDOR,DNN_VENDOR 保留但發 FutureWarning。FlagGems-vllm 11-05 #1048 在昇騰上用 TLE 實現 fused_indexer_weight_scale,兩段流水、4096 元素分塊,形狀取自 GLM-5.3-Flash 的真實呼叫。
-
視覺:10-14 才建倉的 FlagCV 本週 8 筆提交、4 筆合入,#5 加獨立 OpenCV CUDA add 參考介面卡,#6 把 add 的評測對齊 FlagGems-sglang 的 pytest 契約,#7 統一用 GEMS_VENDOR 選裝置。
配套基建:打包改 verify-only,測試與 CI 前置到評審鏈
-
打包:11-04 有 15 筆合入橫跨七個倉庫(FlagBLAS、FlagSparse、FlagTree、FlagFFT、FlagDNN、FlagTensor、libtriton_jit、flagtree-cpu),核心動作是把 DEB/RPM 工作流統一改成 verify-only,只驗證能否構建、不重複釋出產物。配套修掉 FlagFFT 與 libtriton_jit 的檔案衝突、RPM 容器的 nlohmann_json 依賴、FlagDNN 在無可匯入 torch 時配置 NVIDIA 構建等問題。
-
optest:11-02 五筆圍繞測試基建(uv 管理 FlagTrain 廠商依賴、共享記憶體不足快速失敗、包索引重試、S60 共享記憶體、按庫與後端隔離併發);11-03 七筆加入飛書測試摘要與可配置超時;11-04 #38 按廠商探查 FlagGems 運算元清單(每個後端實際註冊了哪些運算元,不再靠猜),#35 補英偉達基線指令碼,#36 修「收集測試標記卻真的執行了測試」。
-
CI 與文件:FlagTree #1457 與 #1513 把 FlagGems 的 CI 結果寫進飛書多維表,#1568 讓 CI 失敗時在飛書點名責任人;docs #575 由機器人開出 ModelScope 模型清單同步單;OpenCourse #5 至 #7 更新全部實驗材料到主線;FlagQAI #30 收緊 macOS 沙箱(本地 Python 作業、headless 會話、原生 shell、搜尋目標與子程序逐個收進邊界)。
四、成員單位與廠商適配
海光:DTK 26.10 的整條交付鏈與 FP32 兩條線
-
映象與依賴:本週海光投入最集中,21 筆 build-infra 合入覆蓋 2.3.0 的 base 與 runtime 兩層,外加 flagcx wheel 以 +dtk2610 字尾釋出、去掉無效的 HIP_VISIBLE_DEVICES、補 amdsmi。DTK 26.10 的代價幾乎全在依賴解析與打包,而不是核心本身。
-
通訊與訓練:FlagCX #667 的海光 bitcode 與 Device IR 統一打包,是海光在通訊庫側第一次拿到與其它後端一致的構建產物形態;FlagScale #1299 在審,加海光 DCU 硬體健康取樣,#1255 至 #1257 三筆加 NCCL 的 CPU 側缺失進入、集合通訊與 P2P 不匹配、內部掛起三類診斷,指向「萬卡訓練出問題時能不能定位」。
-
FP32 前向:#7388 給 _flash_attention_forward 的海光實現補顯式 FP32 路徑,同時保住 ATen 的五輸出 schema 與既有 FP16/BF16 行為。支援範圍寫得很窄:固定長度、連續 4D BSHD、方形 MHA 且 Q/K/V 同形、head dim 為 64 或 128、dropout 為 0、無 window/alibi/seqused/varlen,不支援的組合直接報錯。實現上 QK 與 PV 用 IEEE FP32 點積,線上 softmax 最大值用 -inf 初始化,長序列走 exp2/log2。
-
編譯器與訓練效能:FlagTree #1508 讓 HCU 支援 TLE-Raw;build-infra #1654 為 flagtree 的 HCU 構建同時鋪兩套 LLVM 樹,說明 LLVM 版本尚未收斂到單一樹;TransformerEngine-FL #153 為 Qwen3.5-35B 增加可選 BF16 專家 GEMM 路徑(opt-in,不改預設行為);FlagAttention #117 與 #123 分別補 GLA 最佳化與 AttnRes 後端。
昇騰:910C 量子線之外,執行時、執行模式、運算元與 CI 四層並進
-
量子與通訊:910C 原生 provider 與 ARM64 迴歸 lane 是本週最大單筆(見要聞);配套 FlagCX #686 處理昇騰裝置完成跟蹤與張量保活,是量子棧在通訊層的前置條件。
-
執行時:CANN 9.2.1 base 層僅 910B,python 3.12 與 torch 2.13 的約束來自 wheel 與 CANN 自帶 python 樹的版本一致要求;該層刻意留空 FlagTree 與 FlagCX,11-04 補 OCI provenance 標籤後重推。
-
執行模式:vLLM 0.28 的 FULL_DECODE_ONLY 原生圖覆蓋 Qwen3.6-27B 與 Qwen3.6-35B-A3B,解碼走 torch.npu.NPUGraph,prefill、視覺編碼與取樣留在圖外。
-
運算元與 CI:FlagGems #8110 新增通道級 INT8 BMM(加 519 行減 3 行),#6060 為 mm_w8a8_int8 與 mm_w8a8_int8_out 增加昇騰後端(支援預量化 INT8、FP32 標量或逐行逐列 scale、可選 bias,輸出 BF16/FP16/FP32,不支援非對稱零點);#7581 修 Flash Attention UB 溢位並補 varlen 前向與 D=256;FlagCX #669 建 910C CI 流水線;FlagTree #1413 修 XCS 的 lightning-indexer UB 溢位與 swiglu 精度。
達摩院玄鐵:運算元批次、成本模型與 PPU 注意力三線
-
運算元層:11-02 的 13 個專用運算元在 43 分鐘內合入,覆蓋特殊函式、三維卷積、量化 LSTM、矩陣範數與池化反向;平均 3.3 分鐘一筆,說明評審已能按後端並行消化批次運算元單。
-
編譯層:ZW810E 的 MM/MV 成本模型包 1.1.0 納入 FlagTune 模型目錄,含 8 個 BF16 mm 變體與 2 個 mul 模型,是自動調優在玄鐵上的第一份完整成本模型。
-
推理與通訊:FlagGems-vllm #1038 為 chunk_kda 補天數與玄鐵兩個後端;sglang-plugin-FL #166 把 RS+add+RMSNorm+AG 融合環形核做成 pure TP prefill 的可選項(在審),在 PPU 810E 上覆用 pccl 28 通道圖的環;FlagAttention #127 新開 PPU-ZW810E 的 Wall Attention;FlagGems #8446 把後端鍵定為 thead-ppu210。
崑崙芯:批次效能補丁與一個靜默錯誤的形狀契約
-
節奏:10-30 單日十筆,11-02 十四筆,11-03 十一筆,11-04 五筆新開。團隊按批次推進而非隨上游節奏,寫法上儘量走直指標與單發射、對 bf16 單獨給分塊寬度。
-
正確性:#8038 修掉 foreach 快路徑只比元素數不比形狀導致的靜默錯誤——形狀不同但元素數相同的張量列表會全部繼承首個張量形狀,輸出既不報錯也不越界。這類缺陷比慢十倍更危險,它不會被基準發現,只會被下游模型以精度異常的形式撞上。
-
效能:#8255 用廠商 min.o 的 SIMD 載荷與分段寬行並行加速 argmin,#8028 四個運算元達到 0.8 以上的 Gems Speedup 門檻(upsample_nearest2d 1.202、unique_consecutive 1.053、fake_quantize_per_tensor_affine 0.827、foreach_clamp_max_scalar 0.967),#8250 讓 inner 在 XPU 上真正參與編譯並重調 tile,#8262 用展開歐幾里得演算法最佳化 lcm。
-
修復與推理棧:新開側集中在 sum_dim 回退、fake_quantize 系列、lstm/gru 的 pipeline event 溢位、linalg_matmul 與 linalg_lu_solve 的 tt.gather 降級、avg_pool1d 讓程序中止;sglang-plugin-FL #155 把崑崙芯後端升到 SGLang 0.5.18(在審),vLLM 0.28.0 wheel 目錄行由 #1637 補上。
沐曦:0.28 空適配、偵錯程式與注意力新結構
-
推理外掛:C550 的 0.28 適配在上游沒有對應分支時靠外掛自足(#554),安裝形態明確否決 site-packages 啟動鉤子,並清掉 15 個歷史 zz_fl_*.pth 鉤子;0.32 的 C550 適配 #693 同日開出,雙線並行。
-
除錯與注意力:FlagPrism #18 補 MACA 執行時介面卡、構建模組、Python 繫結與測試,是 FlagPrism 第一次把沐曦接進除錯鏈路;FlagAttention #119 與 #122 分別加 Parallax 的 prefill/decode 與 BF16/INT8 的 Hy3 注意力,屬新模型結構的多晶片落地而非既有運算元調優。
-
運算元與產業側:FlagGems #7318 補通道級 bmm_w8a8,#8414 補 layernorm(在審),Torch-FL #702 修正 SDPA 用例的跳過理由(原先歸因於 fp32,實際原因另有其他),屬測試可信度修復。產業側三季報披露 MXMACA 3.9.0 釋出、構建支援程式碼合入 LMCache,模型側稱完成 GLM、千問、混元的 Day 0 適配。
摩爾執行緒:Conv1D 把 26 個基準例全部拉過 0.8 倍線
-
完整案例:#6754 為 MTT S5000 增加 conv1d 後端覆蓋,把官方 conv1d_padding 基準從 18/26 例達標提到 26/26 例不低於 0.80 倍 torch;此前所有 FP32 K3/K5 padding 例只有 0.41 至 0.53 倍。三層改法同時落地:改路由去掉冗餘 padding 與 bias 分配、新增專用 Triton-MUSA Conv1D 核按 M=N×Lout 做三維網格切分、權重預打包配合帶精度補償的 SQMMA。
-
推理與運算元:MUSA 0.28 一次帶進原生 MCCL、FX/eager 編譯與分段原生圖,執行基線為四張 S5000、BF16、TP=4、TorchMUSA 2.9.0 與 MUSA SDK 4.3.5;編譯側 RMSNorm、SiLU、rotary 走顯式 MUSA 運算元邊界,參考 RMSNorm 保留目標端 FP32 累加契約。
-
訓練元件:FlagTensor #14 註冊 MUSA 後端併為七個超越函式加專用重寫;FlagBLAS #157 補 MUSA 的 L1 BLAS;FlagAttention #121 加 Moba 注意力並修 import;FlagGems #8097 最佳化瘦長 FP8 矩陣乘(轉置點積加 GEMV tile)。
燧原:41 筆新開、25 筆清賬,改寫而非翻譯
-
規模:11-04 FlagGems 新開 66 筆裡 41 筆給 GCU300,11-05 當日 25 筆一次合入,全部帶 KernelGen 與 Enflame 字首。
-
四類改法:其一拆外部符號,把 _nv_nearbyintf、__nv_y0f/y1f、__nv_j0f、normcdfinv 等逐個換成本地實現;其二換演算法路徑,special_chebyshev_polynomial_t 改專用核、linalg_householder_product 用單遍反射掃、linalg_inv_ex 用單核 Gauss-Jordan、compute_linear_combination 把外積換成 tl.dot;其三拆掉不適配的編譯期特性,renorm 的自動調優會讓本後端編譯器直接中止,於是整段丟棄,fake_quantize 改 magic-add 舍入;其四修啟動幾何,special_i1e 與 special_bessel_k0 的 launch geometry 逐條修正。
-
裝置守衛:11-04 另有 5 筆全是 CUDA-only guard 修復,包括 im2col 硬編碼守衛、kl_div 與 arctanh、upsample_nearest3d_backward 整型索引鉗位、–override 與運算元名不匹配時顯式失敗。
-
其他:vLLM 0.32 的 S60 適配 #675 在審;FlagTree #1494 臨時禁用 03-topk 測試止損;FlagTree 同期刪除 enflame3.5-guc400 的 CI/CD 工作流,屬 CI 名單隨硬體世代更替,不宜解讀為產品線終止;FlagAttention #118 加 parallax 運算元。
天數智芯:BI-V150 的十分鐘十筆與編譯器 Native 路線
-
運算元產線:11-03 16:04 至 16:10 六分鐘合入 10 筆,11-04 再合 12 筆(其中兩筆為在 BI-V150 上不成立的前序更新回退)。覆蓋三角邊距損失、偽逆、矩陣乘加、張量求逆、索引歸約、逆伽馬、三維網格取樣、三維轉置卷積及反向、線性組合與 CTC 損失。
-
編譯器側:FlagTree 的 12 筆新開全部是 [Iluvatar][Native] 與 [TLE][Iluvatar]——執行緒數由目標 warp size 推導、按元素大小選向量訪問寬度、顯式 load-vectorization 編譯選項、顯式佈局跨控制流、SME transport、物理 grid barrier 域。方向是把「通用 Triton 假設」換成「按目標機規格生成」。
-
推理與訓練:sglang-plugin-FL #139 補 SGLang 0.5.18 空適配;Torch-FL #745 放開運算元上限,#753 與 #762 用 ixblas axpy 承接 add 家族(在審);FlagScale #1322 與 Megatron-LM-FL #213 補 Iluvatar 流水線。
清微:TXDA 只做 eager 的一次工程取捨
-
取捨:#642 的分段原生圖已經實現,並在 TP8 下對兩個模型透過完整門禁(快照 R10 與 R6d),但 Dense TP1 的正確性始終未解決。作者沒有選擇「只在部分並行度可用的圖模式」,而是刪掉圖捕獲與切分實現,在配置階段拒絕圖與編譯配置,把使用者直接指向 –enforce-eager。MLA、稀疏注意力、投機解碼與上下文並行按各自不支援的具體路徑逐項拒絕。
-
驗證環境:8 張 TX8110 64G,映象內 vLLM 為 0.28.0+empty——用上游 tag 提交 2cf0a69 以目標裝置為空的方式構建,不帶 vllm._C 擴充套件,所有 kernel 來自外掛或 FlagGems。這等於把「外掛是否真的自足」變成硬約束。
-
本週其他動作:FlagGems #8287 把 tsingmicro 後端更到 1103(190 個檔案、加 23195 行減 914 行);Torch-FL #704 把 tsingmicro 納入 conf 與註冊集一致性檢查,此前該平臺被排除在六個平臺之外;後端鍵定為 tsingmicro-tsm260610。
寒武紀:從「能跑」到「零回退」
-
接入形態:MLU 以 vendor-native 平臺進入 Torch-FL,補 libcnrt 執行時層與 torch.mlu 墊片,跑在 stock torch 2.10.0+cpu 上,八卡 MLU590-M9 端到端實測;同日撤下 CI lane,把「先接後端、後補 CI」寫在提交資訊裡,而不是留一條永遠紅的流水線。
-
融合注意力:SDPA 此前在寒武紀被分解成三個葉子運算元,因為 cambricon 被排除在複合覆蓋之外,每次注意力都要把 B×H×S×S 評分矩陣寫進 HBM 再讀回。批 2、4 頭、序列 4096 時該矩陣約 256 MB;#748 與 #749 把 CNNL 融合前向與反向接回覆蓋,幷包成 C++ autograd Function。
-
回退清零:190 次回退裡 188 次來自 aten::mul.out,說明這類收尾靠普查而不是猜;兩處改經 CNNL 在 MLU 上執行後,完整 Qwen3 訓練步報告零運算元 CPU 回退。寒武紀的 neuware 4.4.3 與 4.7.2 兩個映象層均在 2.3.0 覆蓋內。
地平線與壁仞:一條補基礎運算元族,一條停在骨架
-
地平線:11-02 三筆讓 conv、batch norm 與 pooling 從 eager 路徑落到 BPU,並用等價 depthwise 卷積承載 avg_pool;11-04 修完三處硬故障後,relu 與 conv block 的延遲分別降到 0.073 毫秒與 11.1 毫秒,DeviceChain 把四次派發從 1.667 毫秒壓到 0.673 毫秒。11-05 無新增提交,屬上一輪之後的靜默期。
-
壁仞:TransformerEngine-FL #143 以 SUPA 後端進入訓練元件,加 3608 行、7 個檔案,但未附硬體驗證記錄。新晶片進入 FlagOS 有兩條路徑——從訓練元件起或從運算元產線起;壁仞走第一條且停在骨架,驗證深度與清微、沐曦不在同一等級。
五、生態與社群
FlagOS 2.2 的產業案例首次給出可量化收益
-
中國電信:星辰 Xing4.0-29B-A4B(總引數 29B、啟用 4B)全流程在昇騰 910C 叢集完成訓練,釋出當天完成 10 款國產晶片的精度對齊與部署驗證。命門是多通道殘差運算元 mHC:N 卡官方實現自身約 10% 降速,昇騰初版掉 50%,團隊自研長期卡在 25%;把 FlagGems 的專項最佳化運算元註冊進 MindSpore + CANN + 昇騰 NPU 訓練鏈路後,叢集降速從 25% 壓到 12%,該適配已開源合入 MindFormers。
-
連鎖效果:Agent 場景平均 prompt 70K、最大 200K,基於 FlagOS 重寫 12 個長序列運算元後首 token 時延降 19.87%、解碼速度提升兩成以上;熱線語音前處理鏈路把 Spectrum 類運算元聚合重寫,在華為、摩爾、天數三款晶片上提速 10 倍。
-
軟通動力:天元智算平臺按 token 結算,GLM-5.2 在四臺昇騰 910C 上單 token 生成 17.79 毫秒,而模型方公佈的 API 准入線是 16.13 毫秒;接入 FlagOS 後啟用 PD 分離(Prefill 與 Decode 各佔兩臺伺服器)並做雙側最佳化,把時延壓進准入線。
-
2.2 的一組總量:九大運算元庫合計 1454 個運算元;FlagTree 單倉覆蓋 20 個廠商晶片後端;跨 10 款晶片、上千個運算元的整體效能提升 27.6%;新模型 Day0 適配 12 款晶片;社群成員 107 家;季度下載量 46 萬次,為上季度的 4.76 倍。文章落點是「判斷國產 AI 基礎設施成熟度,不看支援多少款晶片,而看新模型釋出當天能不能只改配置就跑出可交付吞吐」。
端側敘事:ARM CPU 與 35 款晶片
-
實測口徑:不靠 GPU 與 NPU,純 ARM CPU 把 MiniCPM 與 Qwen 跑出百級 token/s,實測基於 SME2 與 I8MM,效能提升 21%–25%;FlagOS 多芯適配「一次最佳化、多款裝置複用」,覆蓋 21 家晶片廠商、35 款晶片。
-
口徑差別:這裡的 21 家與 35 款是端側與裝置側的適配統計,與 2.2 大會公佈的 107 家社群成員、12 款 Day0 晶片不是同一維度,引用時不宜混用。把端側單獨拎出來講,意味著敘事從「訓練與推理的雲側多芯」擴到「裝置側多芯」,這與 Torch-FL 補上 Apple Silicon MPS 路徑的方向一致。
烏鎮峰會與成員單位動態
-
峰會:2026 年世界網際網路大會烏鎮峰會於 11-02 至 11-05 舉行,主題為「開源開放 共建共享」,設 27 場分論壇;配套的「開源主題生態體驗館」自 11-01 在烏鎮世界網際網路科技館開放,首次集中展出人工智慧開源開放重大科技成果。視窗內公開報道未出現 FlagOS 或其元件,本條只作外部環境記錄,不作歸因。
-
成員單位:沐曦股份與摩爾執行緒在峰會上同獲「傑出貢獻獎」;燧原科技登陸 A 股科創板的報道在 11-03 出現,11-06 複核確認其實際上市日期為 9 月 11 日(688801),屬回顧稿而非視窗內新事件,故不作為本週新增事實。三家在 FlagOS 側的動作各有不同——沐曦與摩爾執行緒當日合入 0.28 適配,燧原在 FlagGems GCU300 有四筆正確性修復,資本與榮譽層面的進展沒有改變技術投入節奏。
-
並行生態:10-31 舉行的 GAI+C 大會「智慧計算系統創新與開放生態」分論壇釋出「九源×飛騰」「九源×TileLang」「九源×商湯多模態大模型訓推套件」三項聯合成果,並啟動 2026 秋季啟元人工智慧大賽。中國工程院院士鄭緯民在主旨報告中直指國產算力「有卡難用、煙囪式適配」,主張以統一軟體棧支撐「一套程式碼、無需修改」跨平臺執行,與 FlagOS 的技術主張同構,但主體是另一條生態線。11-04 智源社群刊出《全球首份〈前沿開放權重 AI 風險管理框架〉》,屬開放權重模型治理層面的對外輸出,與 FlagOS 的開源棧敘事互補。
渠道核查:元件級新聞連續零命中,敘事仍依賴官方渠道
-
Google News:24 組中英文查詢詞逐日核查,FlagOS、FlagGems、FlagScale、FlagTree、FlagPerf、FlagCX、KernelGen、flagos-ai 與 BAAI 相關英文組合全周零元件級命中;命中集中在成員單位與產業詞,內容為三季報、股價、融資、活動與科普稿,按規則整批剔除。
-
CSDN 專欄:全周僅 11-05 兩篇新文(11:23 與 14:10),其餘條目為 8 月至 10 月舊文,最新一篇停在 10-29 的 MiniCPM-OCR 與 Jev Day0 適配;頁面頭部排前的 GLM-5.3-Flash、Qwen3.8-Flash-Next 與 LightX2V 三稿分別為 8-28、8-27、8-27 舊文。
-
HN 與智源社群:HN Algolia 八組查詢全周零直接命中,僅有 FlagOS 與 BAAI 的泛匹配;智源社群搜尋頁為客戶端渲染,抓取只能確認首頁無 FlagOS 條目,該渠道繼續以「無新增可見條目」記錄。
-
判斷:GitHub 側一週 21 至 26 倉推送、94 至 177 筆合入,與新聞側的零元件級命中形成反差。FlagOS 的對外敘事仍高度依賴 CSDN 專欄、智源社群與大會,第三方媒體對元件級進展的覆蓋尚未形成。
六、趨勢觀察
-
映象先行是計劃內節奏,11-13 才是硬邊界:23 個 base 與 23 個 runtime 全部記上 2.3.0,而清單檔案要到 11-30 特性凍結才生成;按排期,FEP 合入截止 11-13、rc0 11-30、rc1 12-07、rc2 12-14、封板 12-25、GA 12-30。映象跑在清單前面不是脫節,真正值得盯的是 11-13 之前七份新 FEP 能否收進、以及 cuda13.3 這條線是否還會再動 torch 版本。
-
多晶片適配從「模板複製」轉入「按後端算賬」:同一個 vLLM 0.28.0,四條後端給出四種策略——清微主動放棄圖模式換正確性邊界,沐曦在上游無分支時做外掛自足,摩爾執行緒把圖收進單個檔案並帶進原生 MCCL,昇騰只做解碼圖。適配工作不再有統一模板,每家按自己的驗證能力與下游模型需求取捨,隱性成本是同時維護 0.28 與 0.32 兩套環境。
-
評測可比性成為新的基礎設施:FlagGems 兩分鐘 23 筆把四類運算元的 H800 參考讀入收斂到統一 JSON,optest 按廠商探查實際註冊的運算元清單、補英偉達基線,FlagTree 與 FlagCX 把結果推飛書多維表、把覆蓋跑到四個平臺。這條線不產出運算元數量,卻決定跨後端分數是否可信;本週 26 筆落在 CI 與評測側,佔單日合入的 14.7%。
-
瓶頸穩定落在評審端,而不是生產端:11-04 日報記錄全組織在審存量 1602 筆,合入與在審之比約 1 比 9;11-05 至 11-06 視窗內更新在審仍有 288 與 255 筆,FlagGems 與 FlagTree 兩倉佔六成。同期多筆 PR 正文自帶 AI agent 的工具、模型與人工評審欄位,說明寫程式碼這一端已被 agent 放大,產能瓶頸轉到評審與驗證環境。
-
新晶片接入的兩條路徑都已跑通,差距在驗證深度:壁仞以 SUPA 後端進入 TransformerEngine-FL,屬骨架先行、無硬體驗證記錄;寒武紀以原生平臺進 Torch-FL 並在八卡 MLU590-M9 上實測,次日把訓練步回退清零;天數以一天十筆專用運算元走運算元產線。接入速度已不是門檻,能不能拿出硬體門禁記錄才是分水嶺。
-
量子棧的工程化路徑已經清楚:910C 的 167 項硬體驗收、x*256 從 28 個分配量子位與 4 GiB 態緩衝降到 19 個與 8 MiB 的資源賬目、fail-closed 的迴歸 lane,三者構成「語義、資源、硬體」三份可核對證據。本週 27 筆提交沒有一筆是量子演算法本身,全部用於讓測試可信、runner 可復現,說明這個階段先付基礎設施的賬是共識。
-
運營側的短板仍在對外敘事:2.2 的產業案例已經能給出 25% 到 12%、19.87%、10 倍這類硬數字,但元件級新聞連續多個視窗零命中,第三方媒體覆蓋尚未形成。對 FlagOS 而言,技術產出與外部可見度之間的落差,可能比任何一個後端的功能缺口更影響生態擴張速度。
附錄:素材與核查
素材清單
| 日期 | 日報 | 調研視窗 | 性質 |
|---|---|---|---|
| 11-02(週一) | FlagOS 社群每日動態 | 10-30 06:00 ~ 11-02 06:00,72 小時 | 覆蓋 10-31 與 11-01 週末,接續上一期截點 |
| 11-03(週二) | FlagOS 社群每日動態 | 11-02 06:00 ~ 11-03 06:00,24 小時 | 首尾相接 |
| 11-04(週三) | FlagOS 社群每日動態 | 11-03 06:00 ~ 11-04 06:00,24 小時 | 首尾相接 |
| 11-05(週四) | FlagOS 社群每日動態 | 11-04 06:00 ~ 11-05 06:00,24 小時 | 首尾相接 |
| 11-06(週五) | FlagOS 社群每日動態 | 11-05 06:00 ~ 11-06 06:00,24 小時 | 末期末班 |
核查說明
-
GitHub 側:五期日報均對 org flagos-ai 的 61 個倉庫做全量推送核查,並以提交檢索、合併 PR 檢索、在審 PR 檢索三條獨立查詢交叉驗證;Release 與 Tag 以 31 倉 Release 原子源與 8 倉 Tag 原子源逐日複核,全周零新增。分支歸屬與預設分支提交另行原子補核,避免把 PR 分支或 gh-pages 部署誤記為預設分支動態。
-
版本與日期:2.3.0 的層名、版本號與日期均取自 build-infra 的 PR 正文與 changelog 記錄;2.3 排期取自 community 倉的釋出時間表;vLLM 0.28.0 與 0.32 的適配狀態以相應 PR 的合併與在審狀態為準,未把在審項寫成已合入。
-
廠商動作:成員單位的條目以 flagos-ai 各倉庫的實際提交與 PR 為準,產業側數字取自公開報道並標註來源性質;財報、獲獎與上市類內容明確標註為企業側動態,不計入專案進展。燧原上市的日期在 11-06 期經複核更正為 9 月 11 日,本報告採用更正後的口徑。
-
口徑提示:11-02 期為 72 小時視窗,與其餘四期的 24 小時視窗不可直接相加比較;本報告在給出總量時同時列出五日累加與四個完整 24 小時視窗兩組數字。端側的 21 家廠商、35 款晶片與 2.2 大會的 107 家成員、12 款 Day0 晶片分屬不同統計維度,引用時未混用。
-
未覆蓋項:週期內無缺期日報;社群倉庫的 release-2.3.yaml 尚未建立,故無釋出清單可核;智源社群搜尋頁為客戶端渲染,僅能以首頁核查,無法給出條數級結論。