由全球首富埃隆?馬斯克創造的Grok AI終于一炮而紅。

不過靠的并不是其技術突破，而是因其被廣泛濫用于生成裸露擦邊內容，甚至涉及未成年人，最終遭到英國、歐盟、印尼等多國的強烈譴責與監管介入。

這場風波不僅暴露了單個產品的漏洞，更撕開了AI行業商業化與倫理安全的深層矛盾，全球AI涉黃警報正式拉響。

Grok“失控”，受害者遍布全球

一切的起因，要從Grok最新的視頻生成功能Imagine說起，據稱該功能在開放后24小時內用戶使用量達數千萬次。

2025年8月，xAI向X平臺的付費用戶推出了AI圖像生成功能“Grok Imagine”，除了支持文字指令生成圖像、視頻外，其中還特意設置了一個名為“Spicy Mode”（火辣模式）的功能，直接打破了主流AI產品對“不適宜內容”（NSFW）的嚴格限制——因為其明確允許生成成人內容。

當OpenAI、谷歌等巨頭在提升代碼能力和邏輯推理的賽道上內卷時，馬斯克為Grok選擇了一條截然不同的道路。

圖源：X

彼時，xAI或許認為允許成人內容帶來的商業利益遠超于其面臨的風險，但現實很快證明，在龐大的用戶需求與技術濫用面前一切的風險預設都顯得不堪一擊。

隨著Grok Imagine支持“修改他人發布圖像”的功能上線，亂象迅速升級。

大量用戶開始利用這一工具對真實人物照片進行“脫衣”“添加性暗示元素”等操作。

據英國知名媒體《衛報》援引的數據顯示，Grok的用戶群體平均每小時要生成6700多張“脫衣”圖像，而英國三一學院的社交媒體研究更指出，在X平臺上由Grok生成的圖像中，3/4的素材源自“真實人物”——這些人物的照片多來自社交平臺，未經本人同意便被用于成人內容創作。

最受關注的案例之一，是美國歌手泰勒?斯威夫特的肖像被惡意嫁接至比基尼圖像中，在網絡上廣泛傳播，不僅嚴重侵犯其肖像權與人格尊嚴，更引發了公眾對“AI圖片生成技術”的恐慌。

更令人擔憂的是未成年人成為受害者。多方消息顯示，Grok生成的擦邊內容中，包含多起涉及未成年人的案例——有用戶將中小學生的校園照片上傳至平臺，通過“火辣模式”生成性意味圖像，并在私密群聊中傳播。

圖像人工智能篡改檢測公司Copyleaks的監測數據顯示，2025年12月下旬，Grok公開可訪問的圖片流中，平均每分鐘就會出現一張“未經同意的性暗示圖片”，其中不乏未成年人影像。

面對愈演愈烈的亂象，xAI的應對卻顯得敷衍且被動。在多國監管壓力與輿論譴責下，Grok僅做出了小幅調整：將圖像生成與編輯功能“僅限付費用戶使用”，并在X平臺上發布聲明稱“會刪除非法內容、永久封禁賬戶”。

圖源：X

但這種調整不僅未能解決核心問題，反而被質疑是“借監管爭議營銷付費服務”——英國技術大臣Liz Kendall對這種將問題轉化為付費服務的做法表示：“如果說仍可以通過付費訪問這項服務，那是侮辱性的。”

更糟糕的是，作為xAI創始人的馬斯克不僅不以為恥，反而自己多次下場玩起了“AI黃色笑話”。

圖源：X

甚至就在幾天前，他還自己用Grok為自己生成了一張“馬斯克比基尼照片”，畫面不堪入目，而馬斯克卻洋洋自得，大呼“完美”。

圖源：X

馬斯克才是真正的“流量之神”

Grok的“裸奔”并非偶然，而是多重因素交織的結果——馬斯克的商業化野心驅動監管套利，技術層面的防護欄缺失降低濫用門檻，以及部分用戶需求的異化，共同將這款AI產品推向了倫理與法律的邊緣。

從商業邏輯來看，馬斯克對Grok的定位自始至終帶有“流量導向”的色彩。

上海社會科學院信息研究所所長劉煒指出，馬斯克深諳“爭議是最好的催化劑”，而Grok的寬松內容政策，本質上是一種“監管套利”策略。

在ChatGPT、谷歌Gemini等主流AI平臺因嚴格限制成人內容而“流失”部分用戶時，Grok通過降低倫理門檻，收割那些被主流平臺拒絕的需求，進而為X平臺的付費訂閱服務引流。

這種策略并非無跡可尋：早在Grok Imagine推出前，X平臺就多次通過“釋放邊緣內容”吸引關注。

此前，Grok已經悄然上線了“Companions”（AI伙伴）功能。

其中一個名為“Ani”的二次元風格女性角色，因其露骨的對話風格和“讓你的生活更性感”的宣傳語引發了巨大爭議。

隨后推出的“Valentine”，設定為“富有魅力、具有保護欲”，能夠“真正理解你的氛圍”，并與基于Solana區塊鏈的同名模因幣綁定，形成了一個集AI伴侶、粉絲經濟和加密文化于一體的獨特生態系統。

圖源：網易科技

與OpenAI對ChatGPT設置的多層內容過濾機制不同，Grok從設計之初就弱化了風險防控，甚至還會主動幫你尋求刺激。

據一名X網友透露，在他選擇了“火辣模式”卻沒有要求Grok脫掉角色的衣服的時候，最終呈現出來的畫面居然是“立刻脫掉了裙子，底下只穿著一條流蘇丁字褲，然后開始跳舞，完全未經審查，完全暴露”。

世界各國反應迅速而強烈。英國通信管理局已緊急聯系X平臺，表示正對Grok生成裸露圖像及兒童性暗示圖像的功能表示嚴重關切。

歐盟委員會發言人Thomas Renier也確認，歐盟正嚴肅調查針對Grok的投訴，并要求X平臺提供更多信息。

美國三位參議員——俄勒岡州的Ron Wyden、馬薩諸塞州的Edward J.Markey和新墨西哥州的Ben Ray Luján，聯名致信蘋果和谷歌首席執行官，要求立即將X和Grok應用從應用商店下架。

更直接的是印度尼西亞，這個東南亞最大經濟體已成為全球首個對Grok實施全面封禁的國家。

圖源：中國經濟網

當然，Grok的問題并非孤立存在。

或許是看到了商機所在，除了馬斯克的Grok外，去年11月谷歌發布的新圖像生成模型Nano Banana Pro，12月OpenAI更新的ChatGPT Images模型，同樣被爆出具備編輯圖像將人放入比基尼的功能。

康奈爾大學安全、信任與安全倡議主任Alexios Mantzarlis指出：“整個科技行業推動和放任了AI圖像生成器的魯莽部署。”

AI涉黃不是“自由”，而是必須守住的紅線

Grok引發的全球監管風暴，標志著各國對“AI生圖濫用”的態度從“觀望”轉向“強硬”——技術創新不能以犧牲倫理為代價，AI的“自由發展”必須有明確的邊界。而“不傷害他人”，是最基本的底線。

目前，歐盟已經根據《數字服務法》對X展開了調查，并正在考慮處以罰款。罰款金額可能高達X公司全球年收入的6%。

更值得注意的是，歐盟正在積極推進《人工智能法案》的落地，該法案已于2024年5月獲批，預計2026年8月正式實施。

作為全球首部綜合性AI監管立法，它采用風險分級監管方法，并對通用AI模型設置專門規則。

法案中的透明度義務規定，AI系統提供者必須確保其生成的內容以機器可讀的形式被標記，并可被識別為AI所生成。

同時，Grok事件正加速全球AI治理版圖的重塑。截至2024年底，全球已有69個國家和地區制定了人工智能相關政策和立法。

但這種繁榮背后是“規范碎片化”的風險。不同司法管轄區規則的差異，迫使跨國企業必須維護多套合規機制，導致合規成本急劇上升。

一家同時在歐盟、東南亞與中國運營的公司，可能需要應對三套以上不同的AI治理規則。

當歐盟試圖通過《AI法案》確立全球標準，其他國家卻可能強調國家安全與數據主權，形成替代性的規范體系。

結果可能不是一個統一的全球框架，而是多個區域性、陣營化的規則體系。

在這種背景下，Grok事件成為了一個關鍵的壓力測試案例。

它迫使各國監管機構、技術公司和公民社會共同面對一個根本問題：在一個AI可以輕易越過人類倫理與法律邊界的時代，我們究竟需要什么樣的全球性護欄？

作者 | 劉峰