馬斯克 xAI 的 Colossus 數據中心里有著高達 55 萬張 GPU，然而訓練時平均每張卡的利用率只有大約 10%。剩下的 90% 算力其實被數據搬運拖了后腿，也就是說 GPU 大部分時間都是在等數據。

6 月 11 日，香港中文大學博士生王本善和他所在的黃超然教授團隊在《科學》雜志上發表了一篇論文。港中文黃超然教授為文章的通訊作者，港中文博士研究生王本善和肖洽榮為文章的共同第一作者。其他共同作者包括來自港中文的博士研究生徐滕基、范理、劉少杰和孔秋強教授，華中科技大學董建績教授和復旦大學張俊文教授。

他們打造了一款全光信號處理芯片（OSP，Optical Signal Processor），可以降低數據在 GPU 之間傳輸延遲，把被耽擱的效率找回來，讓 GPU 不再干等。本次芯片的總吞吐量達到 1.6Tbps，延遲僅有 60 皮秒。1.6Tbps 意味著一秒就能傳上百部藍光電影，60 皮秒則比一個電腦時鐘周期還要短。

（來源：《科學》）

光信號無需轉成電，直接在半路修好

在當前的數據中心里，大部分 GPU 之間依靠光互聯實現數據傳輸。光模塊發射端將數字信號轉成光然后傳出去，接收端再來轉回電。但是光信號在光纖里跑的時候會受損，例如色散會讓脈沖展寬，光電器件帶寬不夠會讓信號變糊，非線性效應則會制造各種失真。

隨著傳輸速率的不斷提升，信號失真問題也會更嚴重。傳統做法是在光轉成電之后，使用數字信號處理（DSP，Digital Signal Processing) 芯片去修復。盡管 DSP 芯片非常成熟，然而它的延遲很高。在電處理上依賴于數字時鐘頻率，一般在兆赫茲或吉赫茲級別，延遲在微秒級到毫秒級，當幾萬張卡一起跑的時候，這個延遲會被不斷放大。

對此，研究團隊的思路是受損是在光路上出現的，那么就在光路上直接修復。他們所打造的全光信號芯片放在光電探測器之前，所以會在信號還是光的時候就把失真補償掉。處理前不用轉電，就不用等候時鐘周期，光速有多快，處理就可以有多快。

他們在芯片上設計了三層級聯的光學儲備池，每層都設計了一個反饋回路。這三層疊加起來之后，配合一個 8 分支的全光讀出層，就能形成一個等效的無限脈沖響應濾波器。

也就是說，這顆小小的光子芯片在功能上好比一個擁有 7 個反饋通道和 64 個前饋通道的復值濾波器。進一步利用光電探測器的平方律探測，整個系統可以等效成二階 Volterra 非線性均衡器結構。他們還特意把儲備池層和讀出層的采樣周期調成不完全一致，借此產生了游標卡尺一樣的放大效應。這樣一來，有效采樣分辨率達到了 1 皮秒，1 皮秒是一萬億分之一秒，這比光走一根頭發絲直徑的距離還要短。

（來源：《科學》）

王本善告訴 DeepTech，我們常用的筆記本發燙了 GPU 就會降頻，顯示屏畫面也會變卡。而數據中心里的幾萬張卡一起跑，電芯片發熱會更嚴重，進一步降低系統效率。正因此他們轉而使用光來做處理，實現了發熱更少、延遲也更低的效果。對于 AI 數據中心來說，整體也可以更節能。

色散、帶寬、非線性，三種損傷一起修

一直以來，光纖通信里存在三個難題：在色散方面，不同顏色的光速度不一樣快，脈沖會被拉寬，這就導致前后碼元疊在一起；在光收發機方面，帶寬不夠就像一扇太窄的門，高頻分量自然也就過不去，信號也會變糊；在光纖里非線性效應方面，能量太高的時候，光本身也會互相干擾。

使用傳統 DSP 來處理色散的痛點在于，由于接收端在做光電探測的時候光信號相位信息已經丟失，所以補償效果十分有限，而且還會放大高頻噪聲。業內有個經典公式 B2DL，其被用于衡量色散對于系統的限制。以 100GBaud 信號為例，在 C 波段傳輸的時候，DSP 能夠無損補償的累積色散僅有大約 25 皮秒每納米。

王本善做的對比實驗顯示，當光纖長度為 5 公里，累積色散為 85 皮秒每納米，沒有 OSP 的時候眼圖則是一片模糊。OSP 一加上去，眼圖立刻就清晰了。他還在 5 公里光纖上跑了 100GBaud 的 PAM4 信號，在沒有任何接收端 DSP 輔助的前提下，OSP 就能實時把信號修好。仿真結果顯示，OSP 甚至可以支持 170 皮秒每納米色散下的 100GBaud 傳輸，這讓可用的波分復用窗口被拓寬了 6.8 倍以上；同時 OSP 還支持 200GBaud 的超高速信號處理。

（來源：《科學》）

低成本、低功耗、可編程，一個芯片處理八個通道

據介紹，OSP 并非一塊固定功能的芯片，假如調節片上微加熱器驅動的移相器，它能夠重新配置光場處理過程，從而可以適應不同的調制格式、數據速率和工作波長。

王本善在 5 公里光纖上分別測試了 OOK 和 PAM4 兩種調制格式，符號率從 56GBaud 到 112GBaud，波長從 1,540 納米到 1,565 納米都是連續可調的。他還使用粒子群優化算法來做原位訓練，借此發現 OSP 能夠針對不同鏈路狀態來自動地優化參數，并且傳輸出錯的概率始終低于那個能讓硬件自己把錯誤修好的門檻。

（來源：《科學》）

在制程方面本次 OSP 芯片用的是商用硅光平臺，65 納米以上就能滿足。相比之下，1.6T 光模塊需要的傳統 DSP 芯片得用 3 納米制程。而 3 納米的流片費用是 65 納米的幾十倍甚至上百倍，成本差距非常懸殊。在功耗方面 DSP 芯片處理 1.6T 信號大概要 10 瓦。

王本善測了一下 OSP 芯片功耗大約為 100 毫瓦，理論上還能降到 10 毫瓦量級，實現了一百到一千倍的提升。而且，光芯片的制程要求更低，65 納米就能跑，傳統電芯片卻要一路追摩爾定律追到 3 納米。由此可見，當電芯片越做越貴、功耗越來越高的時候，光芯片早已使用成熟制程實現了彎道超車。

光芯片還有一個天然優勢，這個優勢就是并行處理能力。傳統 DSP 芯片處理波分復用信號的時候，每個波長通道都需要配一個 DSP 模塊，8 個通道需要 8 個 DSP，32 個通道需要 32 個 DSP，功耗和芯片面積線性增長。

本次 OSP 芯片利用了光波的并行性，一個芯片就可以同時處理多個波長通道，完全不需要額外增加能耗和芯片面積。王本善搭建了一個 1.6Tbps 的數據中心互聯演示系統，其中 C 波段 8 個波長通道，每一個通道跑 200Gbps 的 PAM4 信號，隨后通過 5 公里光纖傳輸。

（來源：《科學》）

期間，一個 OSP 芯片就可以同步處理所有通道，由于不同波長的色散不一樣，這時剩下的一點小問題，只需要一個小電處理芯片就能搞定。在混合方案里，每個通道平均只需要 25 抽頭的前饋均衡器或 15 抽頭的決策反饋均衡器，抽頭數比傳統純 DSP 芯片方案少了一個數量級以上，且性能更佳。

王本善在采訪中還提到了一個關于技術路線的關鍵判斷，使用光計算來做通用計算一直面臨一個問題，那就是輸入輸出都是電信號，需要反復做電光光電轉換，這樣一來優勢就被吃掉了。但他選的這個場景不一樣，因為光互聯的輸入是光、輸出也是光，天然就適合光計算，也就是說他們把光計算芯片嵌在了最合適的位置上。

從實驗室到啟動創業，把光計算用在最合適的地方

據了解，王本善 2020 年從武漢大學本科畢業，學的是電子信息工程。他本科就做過空間光通信項目，拿了全國大學生光電設計競賽二等獎。武漢是中國的光電子產業重鎮，烽火通信、光迅科技這些龍頭企業都在這里。本科期間走訪企業，讓他對光電行業有了初步的認識和興趣。后來他看到黃超然老師這邊做的光計算項目，發現原來光學除了通信之外，在計算等領域也有多樣的應用前景。

2021 年 6 月，他加入了黃超然教授團隊，成為后者團隊最早期的博士生之一。這個項目從 2022 年啟動，中間流片迭代了五次以上，每次需要等待半年，回來測試、優化參數、再等下一次，每一次等待都很煎熬。與此同時，光通信和光計算相關領域發展迅速，團隊的技術目標也隨著行業進展不斷提高：從最初面向單通道 50G 內，逐步提升到 200G 乃至 400G 級別。

2024 年，他們第一次在純光鏈路里把信號恢復出來。期間沒有用任何 DSP 芯片，沒有用任何 DSP 算法，一個 200G 的 C 波段 1,550 納米信號在光纖里傳了一段 5 公里之后（等效 O 波段 1,300 納米傳輸 80 公里），被他們本次研發的 OSP 芯片完完整整地修了回來。王本善說：“看到本來很 dirty 的高速信號直接變得很干凈，整個團隊非常興奮。這個結果在學界和業界都沒有見過。”目前商用主流 1.6T 模塊傳輸距離僅為 O 波段 2 公里。

香港中文大學在光學領域有著特殊的傳承，“光纖之父”高錕曾擔任該校校長，他的研究讓光通信成為可能。半個多世紀后，該校團隊這次在《科學》上發表全光信號處理芯片，讓光處理信號成為現實。從讓光跑腿到讓光動腦，可以說這所大學用了幾代人的時間。而王本善作為黃超然的第一個博士生，參與并見證了團隊第一篇 Science 正刊的誕生，這份經歷對他來說意義非凡。

王本善下個月即將畢業拿到博士學位。目前，他跟所在團隊正在籌備一家初創公司，積極推進相關技術的產業化工作。他們在去年參加了中國國際大學生創新大賽（原互聯網+），拿了全國第三名，眼下已經有投資機構表達了融資意向。

未來，他希望在中國香港或內地盡快把公司跑起來，他相信光互聯的延遲從微秒毫秒級降到皮秒級，AI 訓練成本會跟著降下來，普通人用 AI 花的錢也會變少。訓練一個萬億參數的大模型，本來可能要一個月，未來有希望在十分之一的時間里跑完，那被耽誤的 90% 算力，也許很快就能要回來了。

參考資料：

相關論文 https://www.science.org/doi/10.1126/science.ady5344

運營/排版：何晨龍