網易首頁 > 網易號 > 正文 申請入駐

DeepSeek V4 傳下周發布,核心架構組件曝光,這次可能是真的

突然發現事緩則圓可能是真的

0
分享至

DeepSeek V4 要來了?這次可能是真的

4 月 19 日,普林斯頓 AI 實驗室研究員Yifan Zhang在 X 上發了一條極其簡短的帖子——"V4, next week."

隨后在跟帖里列出了三項架構組件


Yifan Zhang 發布的 V4 預告推文 消息源可信度分析

先說說這個爆料人的背景,判斷一下可信度:

Yifan Zhang,本科北大元培、碩士清華姚班,現為普林斯頓大學 AI Lab Fellow

研究方向是大語言模型推理與強化學習,曾在字節跳動 Seed 基礎模型團隊做過研究實習。

? 個人主頁:yfz.ai

需要注意的是,他目前并不在 DeepSeek 任職,DeepSeek 官方截至目前也沒有回應任何媒體關于發布時間的問詢

但結合以下信號,"下周發布"的可信度相當高:

  1. 梁文鋒在內部溝通中確認了 4 月下旬發布——這是路透社、創知集等多家媒體獨立報道的

  2. Polymarket 預測市場給出 75% 概率在 4 月底前發布,90% 概率在 5 月中旬前

  3. DeepSeek 網頁端已經上線"快速模式"和"專家模式",產品層面的預熱動作很明顯

  4. DeepSeek 正在烏蘭察布規劃建設大型數據中心,為后續算力需求做準備

  5. DeepGEMM 在 4 月 16 日推送了重大更新——新增 Mega MoE(融合 MoE 大核)、FP8xFP4 GEMM、FP4 Indexer 等核心組件,而這些正是 V4 傳聞架構里的關鍵原語,開源動作和發布節奏高度吻合

所以雖然 Yifan Zhang 的推文帶有"非官方"性質,但綜合各方信息來看,這基本就是最后的預熱了

三項架構組件解讀

Yifan Zhang 在跟帖中提到了 V4 的三項核心架構組件,每一項都對應 LLM 優化里的一條重要方向:

1. 稀疏 MQA(Sparse Multi-Query Attention)

在多查詢注意力(MQA)的基礎上引入稀疏性。簡單說就是:不是每個 token 都去看所有的上下文,只看最相關的部分

這對百萬級上下文窗口來說至關重要。傳統注意力機制在處理超長上下文時,算力和顯存開銷會呈二次方增長。稀疏 MQA 把這個復雜度壓到了接近線性(O(N) 到 O(N log N)),使得百萬 token 的上下文處理在實際工程中變得可行。

據傳 V4 還搭配了一個叫Lightning Indexer的組件,可以在幾百頁的長文檔中實現 20ms 以內的檢索速度,且不損失連貫性

2. 融合 MoE 大核(Fused MoE Mega Kernel)

MoE(Mixture-of-Experts)架構本身 DeepSeek 從 V2 就開始用了,V3 進一步打磨。但 MoE 有個工程痛點:路由判斷和專家矩陣乘法是兩步操作,中間有大量 kernel 啟動和顯存搬運的開銷

Fused MoE Mega Kernel 把這兩步融合進同一個 GPU kernel,直接砍掉了中間的開銷。這對推理延遲的優化是非常直接的——從架構層面減少了大量不必要的數據搬運

這也是 DeepSeek 一貫的風格:在工程層面把每一個 cycle 都榨干

3. Hyper-Connections(流形約束超連接)

這是三個里面最有學術含量的一項。傳統 Transformer 用的是殘差連接(Residual Connection),就是簡單地把輸入加到輸出上。Hyper-Connections 是對殘差連接的泛化,用多條可學習的加權通路替代單一的殘差加法

但早期版本的 Hyper-Connections 有一個致命問題:信號放大會失控,在超大模型中放大倍數可以達到 3000 倍以上,導致訓練直接崩潰

DeepSeek 的解決方案叫mHC(Manifold-Constrained Hyper-Connections):用Sinkhorn-Knopp 算法把連接矩陣投影到一個特定的數學流形上,讓信號放大嚴格控制在 2 倍以內

? 論文:arXiv:2512.24880

這項技術的代價只有約 6.7% 的額外計算開銷,但換來的是:萬億參數級別的超深超寬模型可以穩定訓練

這是 V4 能做到萬億參數的關鍵基礎設施

DeepSeek V4 已知信息匯總

綜合各方報道,V4 目前已知的信息:

特性

參數規模

約 1 萬億(萬億級 MoE),每個 token 激活約 32-37B 參數

上下文窗口

百萬級(約 100 萬 token)

訓練芯片

首次深度適配華為昇騰 950PR 等國產芯片,全棧國產算力

開源協議

Apache 2.0,可商用

API 定價

傳聞每百萬 token 約 $0.30,是 GPT 旗艦模型的 1/10

產品版本

V4 旗艦版、V4 Lite(輕量版)、V4 Vision(多模態版)

核心架構

Sparse MQA + Fused MoE Mega Kernel + mHC


幾個值得關注的點

1. 全棧國產算力,這是最大的信號

V4 如果真的完全跑在華為昇騰芯片上,那意味著 DeepSeek 從 CUDA 遷移到了 CANN 框架,實現全鏈路國產化

這對整個中國 AI 產業的意義遠超一個模型發布本身 —— 它證明了在芯片封鎖的條件下,國產算力生態是跑得通的

2. 定價繼續卷

每百萬 token $0.30,延續了 DeepSeek 一貫的"價格屠夫"風格

V3 時期就已經是業內最便宜的了,V4 在萬億參數的情況下還能維持這個價位,MoE 的稀疏激活功不可沒

3. 算力基建正式入場

DeepSeek 之前一直是"輕資產"打法,主要靠算法效率取勝

但 3 月底那次長達 12 小時的宕機暴露了算力瓶頸。這次在烏蘭察布規劃數據中心、首次啟動外部融資(路透社 4 月 17 日報道,估值約 100 億美元),說明 DeepSeek 已經意識到:光有好算法不夠,算力基礎設施也得自己掌握

4. 之前"狼來了"過兩次

實話實說,V4 之前已經有過兩輪"即將發布"的傳聞(2 月和 3 月),結果都跳票了

但綜合 Yifan Zhang 的爆料、梁文鋒的內部確認、產品端的預熱動作、以及預測市場的賠率,這次的信號密度確實是最高的

總結

如果 V4 真的在下周發布,它將是:

  • 國產 AI 模型首個萬億參數級開源模型

  • 首個全面適配國產算力的旗艦大模型

  • 百萬級上下文窗口 + 極致性價比的組合

DeepSeek 從 V2 開始就一直在給行業制造驚喜,V3 更是直接把開源大模型的天花板拉到了跟閉源模型掰手腕的水平。V4 如果能兌現這些技術承諾,那真的可以說是"2026 年國產 AI 的破局之作"

拭目以待,下周分曉

制作不易,如果這篇文章覺得對你有用,可否點個關注。給我個三連擊:點贊、轉發和在看。若可以再給我加個,謝謝你看我的文章,我們下篇再見!

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
農民當著眼鏡蛇面剝了3條小蛇:就愛喝蛇酒,次日下田一看后悔了

農民當著眼鏡蛇面剝了3條小蛇:就愛喝蛇酒,次日下田一看后悔了

卡西莫多的故事
2025-10-23 10:48:34
高市早苗走投無路,求中國重啟談判,中國亮劍:賣光日本都不夠賠

高市早苗走投無路,求中國重啟談判,中國亮劍:賣光日本都不夠賠

明天后天大后天
2026-04-25 22:31:45
普京被迫打開金庫,俄羅斯黃金連夜運往中國,中方發話果斷接盤

普京被迫打開金庫,俄羅斯黃金連夜運往中國,中方發話果斷接盤

激情與榮耀并存
2026-04-26 09:37:41
芬蘭空軍學員駕飛機空中畫巨型不雅圖案 遭軍方譴責、網友抨擊

芬蘭空軍學員駕飛機空中畫巨型不雅圖案 遭軍方譴責、網友抨擊

環球趣聞分享
2026-04-24 13:10:17
40多艘現役艦艇集中亮相,我國海軍為何愈發重視軍營開放日活動?

40多艘現役艦艇集中亮相,我國海軍為何愈發重視軍營開放日活動?

上觀新聞
2026-04-25 19:29:10
渾身都是“寄生蟲”的3種魚,賣魚商販都不敢吃,白送也千萬別要

渾身都是“寄生蟲”的3種魚,賣魚商販都不敢吃,白送也千萬別要

哄動一時啊
2026-02-27 23:35:44
張蘭又有大動作!打總監三巴掌,一腳踢滾下車,馬筱梅公司成笑話

張蘭又有大動作!打總監三巴掌,一腳踢滾下車,馬筱梅公司成笑話

悄悄史話
2026-04-26 16:26:47
下架視頻并封號!3人被拘留!警方:沒有一句是實話

下架視頻并封號!3人被拘留!警方:沒有一句是實話

南方都市報
2026-04-26 09:09:00
爺爺是萬里,前男友是李云迪,赴美卻只能擠地下室,名媛萬寶寶的人生究竟有多生猛?

爺爺是萬里,前男友是李云迪,赴美卻只能擠地下室,名媛萬寶寶的人生究竟有多生猛?

史海孤雁
2026-04-24 22:24:12
親手送吳亦凡入獄5年后,都美竹迎噩耗,法院出手或使其飯碗不保

親手送吳亦凡入獄5年后,都美竹迎噩耗,法院出手或使其飯碗不保

老吳教育課堂
2026-04-25 01:00:44
《黑夜告白》開播!觀眾要求下架,理由:故弄玄虛、掛羊頭賣狗肉

《黑夜告白》開播!觀眾要求下架,理由:故弄玄虛、掛羊頭賣狗肉

趣味八卦
2026-04-26 16:30:17
嫂子一聲掀翻籃壇!96黃金一代的愛情、疤痕與永不落幕的江湖

嫂子一聲掀翻籃壇!96黃金一代的愛情、疤痕與永不落幕的江湖

林子說事
2026-04-26 14:28:50
阿斯報:皇馬即將900萬回購尼科-帕斯,已通知科莫和球員本人

阿斯報:皇馬即將900萬回購尼科-帕斯,已通知科莫和球員本人

懂球帝
2026-04-26 14:22:20
溫州一鳴董事長!年薪公布

溫州一鳴董事長!年薪公布

溫曉生
2026-04-25 23:56:01
看球20年最感慨的反差:曾被中超低估的外援,轉頭在拜仁拿下3冠

看球20年最感慨的反差:曾被中超低估的外援,轉頭在拜仁拿下3冠

圣西羅的太陽
2026-04-26 14:25:14
CCTV5直播遼寧男籃VS山東,廣東VS廣州,季后賽門票開賣,真賺錢

CCTV5直播遼寧男籃VS山東,廣東VS廣州,季后賽門票開賣,真賺錢

體育大學僧
2026-04-26 11:07:35
羅馬諾:穆里尼奧已告知身邊人想回皇馬,決定權在弗洛倫蒂諾

羅馬諾:穆里尼奧已告知身邊人想回皇馬,決定權在弗洛倫蒂諾

懂球帝
2026-04-26 18:58:13
扛不住了?俄羅斯終于點頭妥協,與其拖著不如給中國一個順水人情

扛不住了?俄羅斯終于點頭妥協,與其拖著不如給中國一個順水人情

璀璨幻行者
2026-04-25 16:24:35
傳聞故事:15年之期已到,何超瓊與許晉亨的離婚保密協議曝光

傳聞故事:15年之期已到,何超瓊與許晉亨的離婚保密協議曝光

卡西莫多的故事
2026-02-04 09:38:40
香港頂級富二代共進早餐,何超瓊李澤楷坐中間,霍啟剛鄭志雯也在

香港頂級富二代共進早餐,何超瓊李澤楷坐中間,霍啟剛鄭志雯也在

漫婷侃娛樂
2026-03-29 19:37:50
2026-04-26 19:56:49
Ai學習的老章 incentive-icons
Ai學習的老章
Ai學習的老章
3352文章數 11139關注度
往期回顧 全部

科技要聞

漲價浪潮下,DeepSeek推動AI“價格戰”

頭條要聞

特朗普內閣又一女部長落馬:強迫男下屬為其提供性服務

頭條要聞

特朗普內閣又一女部長落馬:強迫男下屬為其提供性服務

體育要聞

森林狼3比1掘金:逆境中殺出了多孫穆?!

娛樂要聞

僅次《指環王》的美劇,有第二季

財經要聞

事關新就業群體,中辦、國辦發文

汽車要聞

預售19.38萬元起 哈弗猛龍PLUS七座版亮相

態度原創

親子
手機
游戲
家居
公開課

親子要聞

#健康躍動生活#孩子碰頭別大意,出現這5種情況,立刻就醫

手機要聞

一加Ace 6至尊版規格全揭曉,堆料堆到友商沉默!

傳言稱索尼PS5數字版游戲需要每30天在線驗證一次

家居要聞

自然肌理 溫潤美學

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版