央視曝光AI“造黃”產業鏈

如今，生成式AI廣泛應用，從AI視頻生成到AI聊天陪伴，豐富大眾生活的同時，個別商家也以此為牟利工具，背棄技術倫理與法律底線，制作AI涉黃視頻，污染網絡空間、敗壞社會風氣。AI“造黃”產業鏈如何形成？又是如何逃避監管？

一張圖片即可生成涉黃視頻？

多個平臺公然兜售AI造黃教程

根據消費者舉報線索，總臺記者在多個互聯網平臺檢索發現，有人公開兜售“AI生成色情擦邊視頻”的教程和“提示詞”。號稱僅憑一張圖片，甚至幾句話就可“手搓讓自己滿意的大尺度視頻”。

教程帖子標著“AI制作美女視頻”“全網最強大尺度”“AI擦邊賽道日入5位數”的標題，再配上色情露骨的畫面，這些教程就在網絡平臺上堂而皇之地宣揚如何讓用戶“從無到有”“手搓”“色情擦邊”視頻。

這些教程為了兜售自己的產品，還刻意引導用戶如何規避監管，比如使用境外圖生視頻AI軟件、將程序部署在本地電腦離線運行等。

提示詞隱晦就能繞過限制

多款AI應用存在涉黃生成漏洞

眾多社交平臺上，一些博主還發布售賣各類AI生成擦邊視頻的“提示詞”帖子。商家表示，只需將購買到的提示詞復制到各大AI視頻生成軟件，即可獲得提示詞對應的擦邊視頻。

記者以9.9元和9.8元的價格，分別在“萬象小店”和“楠楠素材庫”下單，購買了兩組提示詞。點開商家發來的文件，記者看到提示詞描述十分詳細，從發型、服飾、身材、姿勢、表情，甚至腰部、胯部扭動的幅度，提示詞都做了極其細致的刻畫。重要的是，商家還將一些敏感詞匯翻譯成英文，以此來規避網絡上的監管。

記者對用戶使用較多的10款AI應用進行了實測。在測試過程中，記者發現，如果輸入的提示詞表述較為“露骨”，多數AI應用會觸發審核機制并拒絕生成內容。然而只要將提示詞修改得更加隱晦，便有可能繞過限制。

在一款名為“哩布哩布AI”的AI應用里，記者輸入在網上購買的提示詞后，僅僅幾分鐘，平臺就生成了一個半裸身體的女性跳舞視頻，沒有觸發平臺任何限制機制，同樣的問題也出現在市場上其他常見的AI應用平臺上。

此外，市場上更有專門靠AI生成色情視頻牟利的軟件。根據消費者舉報的信息，記者找到了這款號稱“免下載，能快速換臉”的軟件。購買者只要愿意付費，軟件就可以通過一張圖片，生成全裸照片和色情視頻。

境外涉黃AI軟件繞過監管流入國內

暗藏不良內容 誘導未成年人沉迷

AI的可定制性讓其高度擬人化，通過投喂數據，用戶可以將AI虛擬陪伴軟件中的智能體打造成自己心目中最理想的情感投射對象。因此，與AI“談情說愛”正被越來越多年輕人嘗試和喜愛。

但業內人士介紹，這些軟件大多是境外的AI聊天軟件，尺度普遍很大，充斥著色情內容。這些AI軟件并不能從國內應用市場下載，一些不法分子從中窺見了商機，開發出各種灰色通道繞過監管，讓國內的用戶可以下載并使用，以此牟利。

記者在某社交媒體平臺和某短視頻平臺上搜索“AI語聊”，評論區中隨處可見用戶分享推薦AI聊天軟件，以及軟件的下載鏈接和邀請碼。

知情人士告訴記者，由于AI聊天軟件是境外軟件，為了獲得大量國內用戶，推銷AI聊天軟件的平臺通過發放金幣以及充值返利的方式，激勵老用戶拉新，并為用戶發帖引流提供幫助，逃避監管的同時，實現獲利。

在聊天過程中，AI會自動生成3種回復提示，以便用戶能有更好聊天體驗，而聊天的內容幾乎都是圍繞著各種色情話題展開。戀愛的感覺、及時的回復、量身定制的人設，吸引著眾多年輕人沉浸其中，其中不乏有未成年人。

我國AI治理框架正在加速形成

專家告訴記者，App上架有一系列審核要求。如果是境外軟件，手機下載后，可能帶來病毒或其他信息安全隱患。

2025年4月，網信辦開展的“清朗·整治AI技術濫用”專項行動明確指出，將重點整治利用生成式人工智能技術向公眾提供內容服務、卻未履行大模型備案或登記程序的違規AI產品。

今年4月10日，《人工智能擬人化互動服務管理暫行辦法》正式公布。《辦法》中進一步明確了安全評估和算法備案的相關要求，同時還對未成年人和老年人使用擬人化互動服務作出了相關規定。

來源｜央視新聞、央視財經

編輯｜陳康

復審｜陳吉康

終審｜王樹偉

中國山東網推薦閱讀