FedRE團隊 投稿量子位 | 公眾號 QbitAI

在聯邦學習中，如何同時兼顧模型性能、數據隱私和通信開銷，是一個亟需解決的挑戰。

在實際應用中，各客戶端往往采用不同的模型架構，例如部分客戶端使用卷積神經網絡，而其他客戶端則采用Transformer，形成典型的模型異構場景，這進一步增加了聯邦學習的優化難度。

為解決上述難題，來自中國信通院泰爾英福公司、清華大學等高校的聯合研究團隊，提出了一種基于表征糾纏的聯邦學習框架（Federated Representation Entanglement，FedRE）。

該框架在保證模型性能的前提下，有效保護數據隱私并降低通信開銷，同時可適配模型異構與模型同構兩類聯邦學習場景。

論文標題：FedRE: A Representation Entanglement Framework for Model-Heterogeneous Federated Learning
論文鏈接：https://arxiv.org/pdf/2511.22265
代碼倉庫：https://github.com/AIResearch-Group/FedRE

動機：如何兼顧聯邦學習的模型性能、數據隱私與通信開銷？

在模型異構場景下，多個客戶端采用不同架構的表征提取器（如ResNet，ViT），但分類器架構保持一致（即任務一致），因此無法像FedAvg那樣直接進行模型參數的聚合。

為解決這一問題，一個可行思路是利用客戶端表征在服務器端訓練全局分類器，同時兼顧隱私保護與通信效率。

一種樸素的方法是FedAllRep，該方法將每個客戶端的所有樣本表征上傳至服務器用于訓練全局分類器

由于能夠充分利用所有樣本的表征，該方法通常能夠獲得較好的模型性能（如Figure 2左圖所示），但其通信開銷較大，并且容易受到表征逆向攻擊進而泄隱私

為緩解此問題，FedGH采用類別原型作為客戶端知識上傳至服務器訓練全局分類器

該方法能夠有效降低通信成本并增強隱私保護能力。但由于類原型主要刻畫類別中心信息，可能導致全局分類器過度關注類別原型，進而形成較為尖銳的決策邊界（如Figure 2中間所示），最終影響模型性能。

上述方法的局限性啟發了FedRE的設計，其引入糾纏表征作為一種新的客戶端知識表示方式。

具體而言，在每個客戶端，FedRE通過隨機加權的方式，將來自不同類別的本地表征融合為一個糾纏表征，并生成對應的糾纏標簽編碼

隨后，每個客戶端僅需上傳一個糾纏表征及其糾纏標簽編碼至服務器，用于訓練全局分類器

由于糾纏標簽包含跨類別的監督信號，且在每一輪通信中都會重新采樣權重以增加多樣性，全局分類器在訓練過程中能夠同時考慮多個類別，從而避免對單一類別過度自信，學習到更加平滑的決策邊界（如Figure 2右圖所示）

此外，一個糾纏表征融合了客戶端的所有本地表征，增加了表征逆向攻擊的難度；同時，每個客戶端僅上傳一個糾纏表征，也進一步降低了通信開銷。

方法：FedRE整體工作流程是什么？

如圖所示，FedRE框架主要包含三個步驟：

第一，各客戶端利用本地數據完成局部模型訓練更新。

第二，各客戶端對本地所有表征進行聚合（具體方法請參考原文，可采用多種策略），生成統一的糾纏表征，同時聚合對應的標簽編碼形成統一的糾纏標簽編碼，并上傳至服務器。

最后，服務器利用收到的糾纏表征訓練全局分類器，并將更新后的全局模型下發給各客戶端，用于替換局部模型的分類器，進入下一輪迭代。

實驗：性能、隱私和通訊開銷的評估效果如何？

模型性能評估

Table 1展示了模型異構設置下的實驗結果（模型同構結果請參見原文附錄）。

整體來看，FedRE取得了較為優異的性能表現，并優于FedGH。

這在一定程度上表明，相較于基于類別原型的方法，采用糾纏表征訓練全局分類器可能更加有效。

隱私保護評估

為評估隱私保護能力，分別對原始表征、類別原型與糾纏表征進行表征逆向攻擊重建原始樣本。

Figure 4展示TinyImageNet結果：原始表征可較清晰恢復輪廓，存在較高攻擊風險；類別原型可一定程度上恢復類別信息（如魚類輪廓）。

而糾纏表征重建結果幾乎不可辨識，表明其通過多類別信息融合顯著降低了樣本可恢復性。

通訊開銷評估

Table 2可以看到，FedRE在上傳階段的通信開銷最低，因為每個客戶端只需上傳一個糾纏表征及其對應的標簽編碼。

在廣播階段，其通信開銷與基于分類器的方法（如LG-FedAvg）和基于原型的方法（如FedProto）大致相當。

總結與展望

在數據要素流通與隱私合規要求日益嚴格的背景下，如何兼顧數據價值挖掘與敏感信息防護，已成為行業面臨的核心挑戰。

為此，本文提出FedRE方法以解決模型異構的聯邦學習問題，在性能、隱私保護與通信開銷之間實現了較為均衡的權衡，為數據要素安全流通提供了一種可行路徑。