北京
不是AI變壞了，而是“壞人”學會了用AI
4月14日消息，昨日，“央視財經”曝光一條完整的AI“造黃”黑色產業鏈。只需一張普通照片、幾句隱晦“提示詞”，幾分鐘即可生成大尺度視頻，最低成本僅9.9元。
這條產業鏈分工明確：有人兜售教程和提示詞，有人開發專用軟件，有人通過社交平臺批量引流。商家將敏感詞翻譯成英文寫入提示詞，引導用戶使用境外AI工具或本地離線部署，以此繞過平臺審核。
“央視財經”記者實測發現，在擁有1.4億用戶的某知名AI應用中，輸入購買的提示詞后，幾分鐘即生成半裸女性跳舞視頻，全程未觸發任何限制。“哩布哩布AI”等平臺同樣存在漏洞。一款號稱“免下載、快速換臉”的軟件，可根據付費金額生成全裸照片和色情視頻。
境外AI聊天軟件成為另一重災區。“Dady”“flai”等虛擬陪伴軟件通過灰色通道流入國內，以“可開車、無限制詞”為賣點，聊天內容幾乎圍繞色情話題展開。這些軟件通過“拉新返利”機制裂變擴張，老用戶發帖引流可獲金幣和充值返利，評論區隨處可見下載鏈接和邀請碼。
知情人士透露，推銷平臺刻意繞過監管，瞄準未成年人群體。今年4月10日公布的《人工智能擬人化互動服務管理暫行辦法》已明確安全評估和算法備案要求。2025年4月網信辦“清朗”專項行動將未履行備案的違規AI產品列為重點整治對象。
專家指出，境外軟件缺乏安全審核，下載后可能帶來病毒或信息安全隱患。央視評論稱，這不是AI變壞了，而是“壞人”學會了用AI。“日入五位數”的暴利驅動下，AI造黃正從個案演變為工業化犯罪。
消息釋出后，有網友評論：“AI絕不能帶病“裸奔”，或“先污染后治理”。更有網友呼吁：”AI治理刻不容緩！“”科技進步的同時，監管一定要跟上！“”加強管理，不要毀了未來，任何新東西的誕生都是雙面的 有好有壞，就看自己怎么用。“”嚴厲打擊！“
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
