0
| 本文作者： 小七 | 2026-05-29 16:13 |
當今人工智能時代，基于國產(chǎn)算力的大模型高效訓練和推理是國家發(fā)展戰(zhàn)略的大問題。DeepSeek-V4-Pro在效率和性能方面是業(yè)界大模型的杰出代表。DeepSeek-V4-Pro已經(jīng)成功完成在國產(chǎn)算力上推理部署，但訓練還未完全實現(xiàn)國產(chǎn)算力化。
在此背景下，深圳河套學院Al訓練平臺項目團隊，聯(lián)合哈爾濱工業(yè)大學(深圳)、深圳市大數(shù)據(jù)研究院、華為GTS(全球技術(shù)服務)、計算產(chǎn)品線、2012實驗室，協(xié)同深智城AI算力平臺，面向國產(chǎn)算力大模型訓練開展聯(lián)合攻關(guān)。目前，僅用1個月時間，項目已基于昇騰910C國產(chǎn)算力集群實現(xiàn)DeepSeek-V4-Pro全參數(shù)續(xù)訓練/SFT穩(wěn)定運行，完成長穩(wěn)訓練1500+步，訓練MFU超30%，關(guān)鍵訓練算子效率提升14%。
據(jù)公開資料檢索，本工作是公開可查范圍內(nèi)，業(yè)界首個由第三方機構(gòu)基于國產(chǎn)算力集群完成的DeepSeek-V4-Pro全參數(shù)后訓練工程實踐，標志著國產(chǎn)AI基礎(chǔ)設(shè)施正在從推理部署和輕量化微調(diào)邁向超大模型全參數(shù)后訓練。
01
為什么萬億級模型的“全參數(shù)后訓練”是一塊硬骨頭？
DeepSeek-V4-Pro，一款1.6萬億參數(shù)級MoE開源旗艦模型，采用了CSA+HCA混合稀疏注意力、mHC連接等新機制。相比于上一代DeepSeek-V3/R1，它對國產(chǎn)訓練框架提出了全方位的“極限挑戰(zhàn)”。
稀疏MoE結(jié)構(gòu)：專家路由帶來的跨節(jié)點通信，是傳統(tǒng)密集模型的數(shù)十倍；
混合稀疏注意力：注意力模式的動態(tài)切換，對算子效率和顯存管理極為敏感；
萬億參數(shù)級狀態(tài)：權(quán)重、梯度、激活、優(yōu)化器狀態(tài)——僅單副本就需數(shù)TB顯存。
02
核心進展：千卡集群上，1500+步穩(wěn)定奔跑
經(jīng)過聯(lián)合攻關(guān)，項目已基于千卡級昇騰 910C 國產(chǎn)算力集群，成功實現(xiàn)DeepSeek-V4-Pro在國產(chǎn)算力集群上的全參數(shù)后訓練穩(wěn)定運行。
長穩(wěn)SFT訓練：完成1500+步迭代，skipped iterations = 0，NaN iterations = 0；
訓練效率：MFU（模型算力利用率）達到約30%，關(guān)鍵訓練算子計算效率較初始版本提升約14%；
最終表現(xiàn)：在昇騰超節(jié)點上，MFU穩(wěn)定在34.9%。
與此同時，DeepSeek-V4-Flash的全參數(shù)續(xù)訓練與SFT鏈路也已同步打通。
DeepSeek-V4-Pro@昇騰超節(jié)點訓練，MFU最終穩(wěn)定在34.9%
一組數(shù)據(jù)足以說明差距：在同等參數(shù)量下，業(yè)界公開的國產(chǎn)算力全參數(shù)后訓練案例幾乎為零。而我們將一個1.6T MoE模型，在千卡集群上以27秒/步的穩(wěn)定節(jié)奏，連續(xù)奔跑1500余步——這不是實驗室的“單次演示”，而是可復現(xiàn)、可工程化交付的穩(wěn)定能力。
更重要的是，該平臺已快速驗證了垂直領(lǐng)域價值。團隊圍繞工業(yè)級自動化運籌建模場景，在數(shù)周內(nèi)完成了從數(shù)據(jù)生產(chǎn)、樣本篩選、訓練鏈路打通到效果評測的閉環(huán)驗證。這意味著：國產(chǎn)算力平臺不僅能夠“訓大模型”，更能“訓好行業(yè)模型”——以短周期、低成本構(gòu)建面向?qū)I(yè)任務的增強能力。
03
三大關(guān)鍵技術(shù)突破：從“能跑”到“能訓、訓穩(wěn)、訓優(yōu)”
本次攻關(guān)面向DeepSeek-V4-Pro全參數(shù)后訓練，而非LoRA等少量參數(shù)微調(diào)。聯(lián)合團隊在以下三個層面實現(xiàn)了系統(tǒng)性突破：
1. 分布式承載：1.6T參數(shù)的“顯存拼圖”
洞察： 萬億參數(shù)不能只靠顯存大，更要靠“放得巧”。
項目成功構(gòu)建了權(quán)重、梯度、激活、優(yōu)化器狀態(tài)的分布式承載方案，使得數(shù)據(jù)并行、張量并行、流水并行與專家并行四者協(xié)同工作。每一張卡上，該放什么、怎么放、如何動態(tài)調(diào)度——這套“顯存拼圖”是穩(wěn)定訓練的地基。
2. 稀疏與通信：讓專家不“吵架”，讓注意力不“堵車”
洞察： MoE模型訓練最怕“專家負載失衡”和“跨節(jié)點通信風暴”。
團隊針對混合稀疏注意力、MoE路由、歸一化、矩陣計算等關(guān)鍵訓練算子進行了深度適配與優(yōu)化，算子效率較初始版本提升14%。同時建立了專家負載的實時監(jiān)控與均衡機制，避免部分專家過載而部分專家閑置。
3. 長穩(wěn)監(jiān)控：當訓練跑上幾天幾夜，誰來守夜？
洞察： 全參數(shù)后訓練最可怕的不是慢，而是“跑著跑著就崩了”。
聯(lián)合團隊搭建了一套完整的監(jiān)控體系：Loss曲線、梯度范數(shù)、專家負載、顯存占用、異常自動恢復……所有指標均可視、可告警、可自愈。在1500+步的訓練中，未出現(xiàn)一次Loss失控或NaN值——這是“長穩(wěn)能力”最直接的證明。
04
實戰(zhàn)驗證：數(shù)學建模能力在后訓練中顯著躍升
為了檢驗DeepSeek-V4在昇騰集群上進行全參數(shù)后訓練的真實價值，項目設(shè)計了一項“硬核”實驗：增強大模型的數(shù)學建模能力。
團隊搭建了一條SFT建模數(shù)據(jù)生產(chǎn)workflow，產(chǎn)出3000條高質(zhì)量數(shù)學建模任務SFT樣本，覆蓋4類目標任務和3種問題形態(tài)。隨后，對DeepSeek-V4進行后訓練。
優(yōu)化建模SFT數(shù)據(jù)飛輪流程
訓練曲線給出了清晰的信號：
LM loss從高位快速下降，最終收斂至0.2056；
MTP-1 loss收斂至0.2538；
梯度范數(shù)平穩(wěn)下降，未出現(xiàn)震蕩或發(fā)散；
單步耗時穩(wěn)定在27秒左右。
3K SFT訓練過程概覽
更直觀的結(jié)果來自Benchmark對比：
四項關(guān)鍵指標均顯著超越原模型，其中ORGEval WL提升超過5個百分點。這意味著：在國產(chǎn)算力上完成的全參數(shù)后訓練，不僅能“跑穩(wěn)”，更能“訓強”——模型在復雜推理任務上的能力得到了真實增益。
05
以戰(zhàn)育才：在真實攻關(guān)中培養(yǎng)“能訓大模型”的人
本次攻關(guān)的另一個獨特價值，在于它是一次人才培養(yǎng)模式的范式實驗。
深圳河套學院將萬億級模型訓練攻關(guān)作為“練兵場”，把學生直接嵌入國產(chǎn)算力真實訓練場景。截至目前，項目已培養(yǎng)學生42名，形成了由青年教師指導、博士生核心攻堅、工程團隊支撐的協(xié)同培養(yǎng)機制。
在這一過程中，同學們不只是參與項目進展，更是承擔具體任務的“戰(zhàn)斗員”：有的負責訓練數(shù)據(jù)構(gòu)造與樣本質(zhì)量分析，有的負責分布式并行策略驗證，有的跟進長穩(wěn)監(jiān)控與異?；謴停械淖珜懠夹g(shù)報告與工程文檔。
一次訓練啟動、一次報錯定位、一次參數(shù)調(diào)整、一次結(jié)果復盤——在這些真實而瑣碎的工程實踐中，學生們從“會調(diào)用大模型”真正走向了“理解并參與訓練大模型”。
能力提升體現(xiàn)在三個方面：
建立了對國產(chǎn)算力大模型訓練全鏈路的系統(tǒng)性認識；
掌握了從領(lǐng)域數(shù)據(jù)到模型能力增強的全過程實操能力；
在真實項目中形成了問題拆解、實驗設(shè)計、訓練復盤與團隊協(xié)作的工程素養(yǎng)。
后續(xù)，這些真實任務將沉淀為課程案例、實訓資源和學生科研項目，將持續(xù)支撐深圳河套學院培養(yǎng)“懂模型、懂系統(tǒng)、能工程、敢攻關(guān)”的高水平復合型AI人才。
項目團隊開展技術(shù)復盤與學生實戰(zhàn)培養(yǎng)
06
未來展望：從“全參數(shù)后訓練”走向“Agentic RL + 超長上下文”
下一階段，深圳河套學院將繼續(xù)聯(lián)合哈爾濱工業(yè)大學（深圳）、深圳市大數(shù)據(jù)研究院、華為GTS(全球技術(shù)服務)、計算產(chǎn)品線、2012實驗室、深智城等合作伙伴，在現(xiàn)有全參數(shù)續(xù)訓練/SFT鏈路基礎(chǔ)上，重點推進三項任務：
1. 訓練效率再突破
持續(xù)優(yōu)化訓練框架與關(guān)鍵算子，進一步提升訓練效率（MFU），降低萬億模型訓練的算力成本。
2. 超長上下文訓練
支撐512K至1M超長上下文訓練，提升復雜專業(yè)任務中的長文檔理解與長鏈路推理能力；
3. 強化學習后訓練閉環(huán)
突破DeepSeek-V4-Pro強化學習后訓練技術(shù)，圍繞數(shù)學建模優(yōu)化、代碼Agent、長上下文推理等任務，構(gòu)建rollout生成 → 工具執(zhí)行 → reward/verifier → 策略更新 → 評測反饋的完整Agentic RL鏈路。
同時，項目將堅定推進技術(shù)開源與人才培養(yǎng)沉淀：
分階段開放訓練配置、評測腳本、合成數(shù)據(jù)、技術(shù)報告及相關(guān)模型與框架能力；
將真實訓練任務、數(shù)據(jù)構(gòu)造方法、故障排查案例和評測流程轉(zhuǎn)化為課程案例與實訓任務；
持續(xù)完善“國產(chǎn)算力支撐、真實任務牽引、學生團隊實戰(zhàn)、工程能力沉淀”的培養(yǎng)路徑。
在此基礎(chǔ)上，項目還將依托這一訓練場，開展新一代通用人工智能的基礎(chǔ)理論、新范式和新架構(gòu)的研究——包括符號、連接與行為主義有機融合，從單一智能體到群體智能再到人機融合的建模探索。
結(jié)語
DeepSeek-V4-Pro在國產(chǎn)算力上的全參數(shù)后訓練，不是一次孤立的工程突破。
它驗證了一條道路：國產(chǎn)開源旗艦模型 + 國產(chǎn)AI算力 + 高水平訓練團隊 + 國產(chǎn)廠商技術(shù)支持——這個四角閉環(huán)，是可持續(xù)的、可復制的、可信任的。
它發(fā)出了一聲宣告：國產(chǎn)AI基礎(chǔ)設(shè)施，從今天起，不再只是“能推理”，而是真正“能訓練、能訓穩(wěn)、能訓優(yōu)”。
更重要的是，它點燃了一個希望：在下一代通用人工智能的征途上，中國的高校、科研機構(gòu)和年輕學子，可以站在自己的算力土壤上，開展人工智能的研究，親手訓練屬于自己的萬億模型。
這不是終點，而是發(fā)令槍。
?項目后續(xù)將逐步開源技術(shù)報告、訓練配置與評測腳本，敬請關(guān)注深圳河套學院官方發(fā)布。
