前兩天央視曝光了一條產(chǎn)業(yè)鏈，有人在網(wǎng)上公開賣教程，教你怎么用AI生成色情視頻。

還不是偷偷摸摸的，是明碼標(biāo)價、公開吆喝、售后齊全地賣。

9塊9一條提示詞，復(fù)制粘貼進AI工具，幾分鐘，片子就出來了。

價格，太便宜了，當(dāng)一個東西的售價降到了9塊9，它就已經(jīng)完成了從技術(shù)到商品的躍遷，意味著整條產(chǎn)業(yè)鏈已經(jīng)成熟到內(nèi)卷的程度了。

關(guān)鍵在于，怎么繞過審核

央視記者實測的時候發(fā)現(xiàn)了一個細節(jié)，我覺得特別有意思。

那些賣提示詞的人，會附贈一個“小技巧”，把敏感詞翻譯成英文輸入，就能繞過平臺的中文審核系統(tǒng)。

你品品這個操作。

這說明什么？說明這幫人完完全全知道自己在干違法的事。他們不是法盲，他們不是不懂，他們是非常清楚知道自己在做什么。

說白了，這不是無知者無畏，這是知法犯法但覺得劃算。

而且不止翻譯成英文這一招。有人教你把模型部署到本地，離線運行，徹底脫離平臺監(jiān)管。有人教你用諧音、縮寫、黑話來觸發(fā)特定內(nèi)容。還有人直接打包好了整套工具鏈，一鍵安裝，傻瓜式操作。

我以前覺得這種犯罪至少需要點技術(shù)含量，現(xiàn)在看來，這條產(chǎn)業(yè)鏈的分工已經(jīng)細到了，上游的人負責(zé)研究怎么繞過審核，中游的人負責(zé)把方法打包成所謂的教程賣錢，下游的人負責(zé)批量生產(chǎn)內(nèi)容變現(xiàn)。

每個環(huán)節(jié)都有專人干，每個環(huán)節(jié)都明碼標(biāo)價，就是一條標(biāo)準(zhǔn)化的黑產(chǎn)流水線。

平臺的審核防線，就是紙糊的門

記者測了幾款國內(nèi)主流AI應(yīng)用，結(jié)果怎么樣呢？

只要提示詞稍微隱晦一點，換個說法，繞個彎，半裸視頻幾分鐘就能生成。

全程沒有任何攔截，沒有任何彈窗，沒有任何警告。

什么概念呢？

你直接輸入生成色情圖片，它攔住了，好，它可以跟監(jiān)管部門說你看，我們有審核機制。

但你把同樣的意思換成英文、換成隱晦表達、換成分步驟的暗示性指令，它就當(dāng)沒看見了。

說實話，我不太相信這些平臺的技術(shù)團隊真的檢測不出來。

你一個能理解復(fù)雜語義、能寫詩能編程的大模型，你告訴我它分辨不出用戶在試圖生成什么內(nèi)容？

它不是分辨不出，它是沒有足夠的動力去分辨。

因為每一次嚴格審核，都意味著用戶體驗的下降，都意味著活躍度的流失，都意味著數(shù)據(jù)不好看。在安全和增長之間，有些平臺選擇了一個「微妙」的平衡，審核系統(tǒng)做得剛好能過監(jiān)管的關(guān)，但又不至于真的擋住想進來的人。

擋君子不擋小人，這是一種商業(yè)選擇，不是技術(shù)局限。

最該擔(dān)心的不是成年人，是孩子

很多人可能覺得，成年人看點擦邊內(nèi)容，雖然違法，但好像也沒那么嚴重。但這條產(chǎn)業(yè)鏈真正讓我覺得難受的，不是那些9塊9的提示詞，是另一個東西。

央視同時曝光了一批境外的AI戀愛聊天軟件，這些軟件通過國內(nèi)社交平臺拉新，用VPN繞過監(jiān)管，專門瞄準(zhǔn)年輕用戶。

你知道這意味著什么嗎？

一個十五六歲的孩子，在社交平臺上看到推廣，下載了一個AI聊天軟件，以為自己在跟一個虛擬戀人聊天。對方溫柔體貼、有求必應(yīng)、24小時在線，永遠不會發(fā)脾氣，永遠不會讓你失望。

然后聊著聊著，話題就往那個方向滑了。

孩子以為自己在談戀愛，其實他在給一套算法喂數(shù)據(jù)、喂時間、喂錢。而這套算法的設(shè)計目標(biāo)，從第一天起就不是陪伴，是上癮，是付費，是越界。

一個成年人被騙，你可以說他不夠警惕。

但一個孩子，他連什么是真實的感情都還沒搞明白，你就用一個精心設(shè)計的算法去操縱他的情感認知，這不是什么技術(shù)創(chuàng)新，這叫精準(zhǔn)投毒。

法規(guī)在追，但技術(shù)跑得比立法快太多

現(xiàn)在國家在做什么呢？

出臺了《人工智能擬人化互動服務(wù)管理暫行辦法》，網(wǎng)信辦也在搞“清朗”專項行動，打擊AI生成違法內(nèi)容。

方向是對的，力度也在加大。

但我跟你說一個殘酷的現(xiàn)實。

這場貓鼠游戲里，貓永遠比老鼠慢半拍。不是貓不努力，是這個游戲的規(guī)則天然對老鼠有利。

立一部法規(guī)需要多久？調(diào)研、起草、征求意見、修改、發(fā)布、執(zhí)行，快的話半年，慢的話一兩年。但一個新的繞過審核的方法需要多久？可能就是今天晚上某個人靈機一動的事。

而且AI技術(shù)還有一個特殊性，它是可以本地化部署的。一旦模型被下載到個人電腦上離線運行，平臺管不著，監(jiān)管也很難觸達。你總不能挨家挨戶去檢查每個人的電腦硬盤吧？

所以這個問題的本質(zhì)不是要不要管，而是怎么管得住。

傳統(tǒng)的監(jiān)管邏輯是“管住渠道”，管住平臺，管住分發(fā)，管住入口。但AI時代，生產(chǎn)工具本身就在每個人的電腦里，渠道已經(jīng)去中心化了。你堵住了這個平臺，他轉(zhuǎn)移到那個平臺，你封了國內(nèi)的，他用境外的，你管住了在線的，他跑到離線去。

很有挑戰(zhàn)。

9塊9背后，是技術(shù)平權(quán)的另一面

最后我想說一個可能不太受歡迎的觀點。

我們這兩年一直在說一個詞，叫技術(shù)平權(quán)。AI讓普通人也能做設(shè)計、寫代碼、剪視頻，這是好事，是時代的紅利。

但技術(shù)平權(quán)從來都是一把雙刃劍。

它讓普通人獲得了創(chuàng)造的能力，也讓壞人獲得了作惡的能力。以前拍一部色情片，你需要場地、設(shè)備、演員、后期，門檻很高，風(fēng)險很大，現(xiàn)在你只需要9塊9和一臺能上網(wǎng)的電腦。

以前打擊這些涉黃內(nèi)容，每個環(huán)節(jié)都能抓，抓人，抓場地，抓傳播渠道，現(xiàn)在AI造黃，一個人、一臺電腦、一條提示詞，全鏈條在一個房間里完成，幾乎沒有中間環(huán)節(jié)可以被截獲。

當(dāng)犯罪的成本降到了9塊9，我們過去所有基于「高門檻等于低概率，復(fù)雜性等于暴露多」的安全假設(shè)，全部失效了。

這不是AI的錯，AI就是個工具，跟菜刀一樣。但當(dāng)菜刀變成了人手一把的激光劍，你原來那套「菜刀實名制」的管理辦法，就不夠用了。

所以要做的，是對監(jiān)管體系的一次根本性升級。

不是修修補補，是重新想一想，在一個人人都能成為“生產(chǎn)者”的時代，安全的底線到底應(yīng)該畫在哪里，由誰來畫，怎么畫，以及更關(guān)鍵的，怎么執(zhí)行。

各位大佬覺得呢？