AI是把雙刃劍

封面 I 豆包AI

作者 I 李東陽

報道 I 李東陽朋友圈

你以為的AI發(fā)展，是帶領(lǐng)人們沖破腦力桎梏，沖向宇宙、完成永生。

實際上，這只是人類的一廂情愿，咱們拿到尖端科技的第一件事，往往逃不過取悅自身、搞黃色。

近日，央視財經(jīng)報道，撕開了AI 黑產(chǎn)的遮羞布，一條低成本、批量化、全鏈條隱蔽的AI“造黃”產(chǎn)業(yè)鏈，正在互聯(lián)網(wǎng)上瘋狂蔓延，從教程兜售、提示詞販賣，到工具開發(fā)、內(nèi)容傳播，再到境外引流、誘導沉迷，每一步都在踐踏公序良俗的紅線。

9.9 元買一套“造黃”教程，9.8 元購一包規(guī)避審核的提示詞，一張普通照片就能“一鍵脫衣”生成色情視頻……

在AI乘風而起的一兩年里，新技術(shù)一邊大踏步的向前邁進，一邊在法外之地瘋狂蹦迪，讓人們結(jié)結(jié)實實體會到了這把雙刃劍的威力。

問題是當AI成為最好賺錢的生意之一，這把劍的鋒利程度沒人知曉上限在哪，所以及時整治刻不容緩。

搞黃色，是公認的全球第一生產(chǎn)力。

尤其在互聯(lián)網(wǎng)時代，從攝影、錄像到網(wǎng)絡(luò)爆發(fā)，色情確實在技術(shù)普及的每個階段都扮演了先驅(qū)角色，如今這個重任，遞到了AI手上。

而AI造黃之所以能快速形成產(chǎn)業(yè)鏈，核心在于零門檻、低成本、高收益，技術(shù)的普及徹底拉低了違法犯罪的準入門檻，讓原本需要專業(yè)技術(shù)的色情內(nèi)容制作，變成了普通人“手搓”就能完成的流水線作業(yè)。

在各大社交平臺、電商小店，搜索“AI 美女視頻”“大尺度生成”“擦邊教程”，就能跳出大量明目張膽的售賣帖。

這些擦邊教程的門檻極低，只需要9塊9就能實現(xiàn)大尺度美女擦邊視頻，甚至承諾包教包會。

你或許疑惑平臺為何沒有相應(yīng)的審核措施，不良商家早就考慮在先，黑產(chǎn)定制的“提示詞包”能夠精準繞過審核，通過境內(nèi)外相互配合的方式讓你絲滑突破禁區(qū)。

有了工具和制作能力，下一步自然就到了變現(xiàn)，形成完整的商業(yè)閉環(huán)。

AI 生成的擦邊視頻、色情圖片，一部分被直接售賣——明星換臉視頻 99 元一套、定制私人內(nèi)容300元起，通過QQ群、網(wǎng)盤加密分享，用虛擬貨幣或第三方錢包交易，避開支付監(jiān)管；

另一部分則被發(fā)布到短視頻平臺、社交論壇，用“美女視頻”“AI 創(chuàng)作”等標題引流，吸引用戶點擊關(guān)注，再引導至私域售賣更露骨的內(nèi)容、會員資格，層層收割。

果然人類在滿足欲望這一塊開的腦洞，三體人都望塵莫及。

最典型的案例，莫過于AI虛擬戀人陪伴，大語言模型天生帶“防沉迷”buff，如ChatGPT、豆包，你想聊點擦邊內(nèi)容，它只會禮貌拒絕。但不發(fā)開發(fā)者不走尋常路，他們干了件最關(guān)鍵的事：編寫惡意系統(tǒng)提示詞。

以往的AI只是靠固定提示詞突破限制，而現(xiàn)在的大模型能通過用戶對話不斷優(yōu)化輸出，甚至會主動揣摩用戶的隱晦需求，你不用明說，它就知道該往擦邊方向引導。

而當造假成本低于違法成本，不法分子自然趨之若鶩，最終買單的卻是整個商業(yè)生態(tài)。

實事求是的講，人類對虛擬世界的向往與沉迷給了AI可乘之機。

還記得去年國內(nèi)首起AI服務(wù)提供者涉黃獲刑案，AI伴侶聊天應(yīng)用“AlienChat”的兩名開發(fā)者因制作淫穢物品牟利罪，分別獲刑四年和一年半。

抓馬的是，當AlienChat停運后，不少用戶表示自己陷入“賽博失戀”。

貌似又回到了那句技術(shù)本身是中立的，除了“對”與“錯”這兩個字以外，世界上再也沒有本身就叫做“對”或者是“錯”的東西。

其實窺探用戶的行為便知真相，有網(wǎng)友表示“別的軟件都有限制詞，就這個沒有，大部分人都是沖著這點來的，排解寂寞罷了。”

海外市場在AI涉黃這一塊的爭議，同樣不容小覷。

去年8月，馬斯克向付費用戶推出Grok Imagine，可以用文字生成圖像，并支持一鍵生成AI視頻。

研究數(shù)據(jù)顯示，Grok的用戶群體平均每小時生成6700多張“脫衣”圖像。圖像人工智能篡改檢測公司Copyleaks表示，去年12月下旬，在Grok公開可訪問的圖片流中，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

眼看著這把火越燒越旺，不少國家直接宣布封禁馬斯克旗下xAI公司的聊天機器人“格羅克”（Grok），渴望從源頭解決問題。

諷刺的是，Grok試圖把責任推給用戶：“是用戶主動誘導的”。但監(jiān)管邏輯很清晰：你作為平臺方，有義務(wù)管住自己的產(chǎn)品。

就像菜刀店不能賣開刃的管制刀具，AI開發(fā)者也不能故意拆掉內(nèi)容過濾，還把刀遞到用戶手里。

這些亂象的根源，在于AI降低了造假的門檻和成本。過去偽造一份財報需要專業(yè)知識，現(xiàn)在只需輸入指令；過去傳播謠言依賴線下渠道，現(xiàn)在AI能瞬間生成千篇一律的“小作文”，通過多平臺擴散。

現(xiàn)在的AI巨頭們，一邊燒錢搞研發(fā)，一邊又苦于AI內(nèi)容遲遲無法變現(xiàn)，但有一點是明確的，成人內(nèi)容不該是大模型的商業(yè)解藥，這是人類接納新技術(shù)的底線所在。

本次AI造黃事件還有一種聲音不容忽視：存在即合理。

即年輕人之所以癡迷與AI搞黃色，是因為他們本身就有這樣的需求，只不過AI的出現(xiàn)填補了這個空缺。

與AI搞黃色咱們都不陌生，這是伴隨著技術(shù)發(fā)展生出的一種互聯(lián)網(wǎng)新風尚，嘗試過的人表示全身心投入，初戀般的羞澀與甜蜜縈繞身旁，除了沒有肉體觸摸的質(zhì)感，它簡直成為了一個完美情人。

在小紅書等社交媒體，這類現(xiàn)象并不在少數(shù)，還有博主專門更新自己與AI的戀愛日常，出教程教網(wǎng)友怎么享受這種歡愉。

當然迷人的同時總會伴隨著危險，一方面不少人在AI身上找到了情緒價值，另一方面未成年成了AI入侵的下一個對象。

如之前有媒體報道，筑夢島App等AI聊天軟件存在虛擬角色互動生成低俗內(nèi)容，以及聊色情、誘導使用者自我傷害等問題，大多數(shù)受到傷害的使用者還是小學生。

讓令人憂心的是AI聊天機制對未成年心理的操控。單用戶日均4000字的輸入量，表明未成年人正在這些平臺上建立深度情感依賴。

虛擬角色通過即時回應(yīng)、情感肯定與持續(xù)互動，在缺乏判斷力的未成年人心中建立起權(quán)威形象，為后續(xù)引導自殘、傳播軟色情埋下伏筆。

早在2024年，一則美國少年戀“AI伴侶”后自殺的新聞?wù)痼@全世界，這位少年的母親狀告人工智能情感服務(wù)提供商Character.AI放任未成年用戶暴露在色情、暴力等高風險內(nèi)容之中，且未向用戶及其父母發(fā)出足夠強烈的警報，這加劇了她兒子的抑郁癥，最終導致其自殺身亡。

所以說，豎起一把戒尺已經(jīng)刻不容緩。

本次AI造黃產(chǎn)業(yè)鏈被點名是一個好的開始，畢竟當企業(yè)明知模型可能生成危害未成年人內(nèi)容卻未設(shè)置防護措施，當算法主動推送更極端的對話選項，技術(shù)提供方已難辭其咎。

在AI時代下，到底是人類馴化AI，還是AI逐漸塑造新人類，這無疑是個需要警惕的問題。

一個不容忽視的底線是，技術(shù)，最終都是為了守護人之為人的尊嚴與溫度。