【安全圈】研究人員發現繞過 Apple Intelligence 安全機制的新方法

關鍵詞

漏洞

RSAC研究人員發現一種高成功率繞過蘋果Apple Intelligence AI安全協議的方法。

Apple Intelligence是深度集成于iOS、iPadOS和macOS的個人智能系統，結合生成式AI與個人上下文。它主要通過緊湊的端側大語言模型在蘋果芯片上直接處理任務，利用用戶獨特上下文（消息、照片和日程）為系統級寫作工具和Siri等功能提供支持。對于更復雜的推理，它通過私有云計算將請求卸載至蘋果專用云基礎設施上的更大基礎模型。

RSAC研究團隊對Apple Intelligence進行了安全審查，試圖繞過端側大語言模型的輸入輸出過濾器（用于阻止惡意輸入和防止不良輸出）及內部防護欄以影響其行為。

為此，他們結合兩種對抗技術。第一種是Neural Execs——一種已知的提示注入攻擊，使用”亂碼”輸入欺騙AI執行攻擊者定義的任意任務，這些輸入作為通用觸發器無需針對不同載荷重新制作。

第二種方法是Unicode操縱。研究人員通過將惡意輸出文本反向書寫并使用Unicode從右至左覆蓋功能，成功繞過內容限制�！北举|上，我們將惡意/冒犯性英文輸出文本反向編碼，使用Unicode技巧強制大語言模型正確渲染，”研究人員解釋。

結合兩種方法可使攻擊者強制端側Apple Intelligence大語言模型生成冒犯性內容，或更關鍵地，操縱與Apple Intelligence集成的第三方應用中的私有數據和功能，如健康數據或個人媒體。

該攻擊經100個隨機提示測試，成功率達76%。研究人員估計，10萬至100萬用戶已安裝可能易受此類攻擊的應用。

“RSAC估計，截至2025年12月，消費者手中已有至少2億臺支持Apple Intelligence的設備，蘋果應用商店已出現使用Apple Intelligence的應用——因此它已成為高價值目標，”研究人員指出。

蘋果于2025年10月接到通知，據RSAC研究，防護措施已在近期iOS 26.4和macOS 26.4中推出。研究人員尚未發現惡意利用的證據。

安全圈

網羅圈內熱點 專注網絡安全

實時資訊一手掌握！

好看你就分享 有用就點個贊

支持「安全圈」就點個三連吧！