又一個SOTA基礎模型開源，而且依然是國產。

剛剛，階躍星辰兌現了WAIC上的承諾，將最新多模態推理模型Step-3正式開源！

在MMMU等多個多模態榜單上，它一現身就取得了開源多模態推理模型新SOTA的成績。

并且速度飛快，在Hopper GPU上每秒可以解碼4039個Token（4K上下文、FP8、無MTP），是DeepSeek-V3的174%。

這一表現，也給大模型解碼設定了新的帕累托前沿（資源分配的一種理想狀態）。

另外，Step-3采用了模型-Infra一體化設計，因此性價比也極高。

它有321B參數，但可以運行在8塊48GB的GPU上，處理多達80萬個token。

如果直觀比較，Step-3在H20上的解碼成本僅有DeepSeek-V3的30%。

Huggingface工程師評價，這種模型-Infra共同設計的理念，代表了一種前進方向。

百萬Token解碼成本不到4毛

Step-3是一款MoE模型，包含48個專家，總參數量321B，其中316B為語言模型，5B為視覺編碼器，激活參數量則為38B（3個專家）。

在MMMU、AIME25、LiveCodeBench等多個數學、代碼及多模態榜單中，Step-3都達到了開源SOTA水平。

而且Step-3主打一個高效能，在4K上下文長度下，平均解碼吞吐達到了3910token/GPU/秒，峰值4039 token/GPU/秒，比DeepSeek-V3的峰值高74%。

成本方面，Step-3使用H20+H800的異構組合，8K長度下每百萬Token成本為0.055美元，合人民幣不到4毛錢。

相比于只用H800的DeepSeek-V3，Step-3激活參數量更高，但成本只有V3的80%。

如果對比采用同樣異構組合的Qwen MoE，Step-3的成本也要少將近12%。

如果不使用異構，Step-3在各個芯片上的成本，也低于DeepSeek-V3和Qwen。

例如在32K長度下，H20計算卡上，Step-3的解碼成本只有V3的30%

特別值得一提的是，在昇騰910B上，Step-3的解碼成本甚至比華為自家的盤古大模型還要低。

之所以能實現如此高的性價比，關鍵就在于Step-3采用了模型-Infra協同設計。

模型-Infra協同設計

Step-3通過“模型—系統”一體化思路，把注意力、前饋網絡和集群調度當作同一個優化對象，而不是單獨微調某個算子。

核心中的核心是階躍自研的MFA（Multi-Matrix Factorization Attention，多矩陣因子分解）注意力機制。

MFA在Query-Key路徑上進行低秩分解，并讓多個查詢頭共享同一組Key/Value表示，從根源上壓縮 KV 緩存和乘加量。

技術報告顯示，Step-3的KV緩存大小小于DeepSeek-V3，使得Step-3更適用于長上下文場景。

并且與傳統稀疏或線性注意力不同，MFA還特地把算力-帶寬比調到剛好略低于主流GPU的屋脊線，讓同一套權重在高帶寬卡和算力卡上都能維持高利用率。

系統層面，階躍團隊提出了AFD（Attention-FFN Disaggregation）機制。

傳統情況下，模型關于Attention和FNN的推理計算任務，會同時交給同一組GPU同時處理，常常導致資源浪費。

AFD則把注意力和 FFN 分拆到各自最擅長的GPU群組，通過專門的三階段流水線把隱藏態在兩端之間“穿針引線”。

這樣一來，每類算子都能選用最合拍的硬件和并行策略，同時流水線把通信延遲掩藏在計算之下，實現小規模集群就能跑滿卡的解碼吞吐。

為支撐這一細粒度拆分，階躍團隊編寫了StepMesh通信庫，通過GPUDirect RDMA實現，SM占用為0，可在子毫秒時間內完成雙向流式傳輸。

并且StepMesh庫已隨模型一同開源，提供可跨硬件的標準部署接口。

One More Thing

Hugging Face模型榜單，已經被中國開源模型占據主導，前十名中有8個模型全都來自中國。

其中第一名是智譜AI的GLM-4.5，第二名是騰訊推出的混元世界模型，4-6名為不同版本的Qwen。

之后的國產模型包括智譜GLM-4.5的Air版本，以及同一團隊的Wan2.2視頻生成模型，第十名則是上海AI Lab的Intern-S1。

Kimi-K2則位列第十一，之前也曾進入過前十，這次的Step-3也位列第一頁。

此外，第一頁中還能看到字節Seed、昆侖萬維、上交大PowerInfer等中國團隊研發的模型。

并且這些廠商都選擇了把自家的王牌模型直接開源，而不是發布新一代才開源上一代。

在開源世界，國產模型已成為當之無愧的領軍者。

Github：
https://github.com/stepfun-ai/Step3
Hugging Face：
https://huggingface.co/stepfun-ai/step3
魔搭ModelScope：
https://www.modelscope.cn/models/stepfun-ai/step3
https://www.modelscope.cn/models/stepfun-ai/step3-fp8
技術blog：
https://www.stepfun.com/research/zh/step3
StepMesh開源地址：
https://github.com/stepfun-ai/StepMesh