這幾天AI圈子里又出事了！

4月14日消息，央視點(diǎn)名多款A(yù)I應(yīng)用存在涉黃生成漏洞，其中哩布哩布AI的漏洞被重點(diǎn)提出。

圖源：微博

到底咋回事？

4月12日，在被央視點(diǎn)名批評(píng)哩布哩布AI存在安全漏洞后，哩布哩布火速發(fā)布了一份《關(guān)于加強(qiáng)內(nèi)容安全管理的說(shuō)明》，態(tài)度倒是挺端正，直接就是認(rèn)錯(cuò)、道歉、整改三連。

4月14日中午，哩布哩布AI官方發(fā)公告稱，在復(fù)雜的提示詞組合后，確實(shí)存在違規(guī)內(nèi)容生成的問(wèn)題，并發(fā)布道歉通告。通篇看完總結(jié)起來(lái)就是：我們錯(cuò)了，我們已經(jīng)改了，大家別罵了。

圖源：哩布哩布AI公眾號(hào)

在小雷看來(lái)，其實(shí)不僅是哩布哩布，現(xiàn)在可能所有的生成式AI都有這個(gè)風(fēng)險(xiǎn)，這條安全漏洞背后已經(jīng)形成了一條灰色產(chǎn)業(yè)鏈。

有人專門(mén)研究怎么繞過(guò)審核，然后把“越獄提示詞”打包成教程甚至直接賣錢(qián)，再配合AI批量生成擦邊內(nèi)容，引流到色情網(wǎng)站或付費(fèi)群。

哩布哩布這次被曝光的漏洞，很可能就是被這些人盯上了。

風(fēng)險(xiǎn)遠(yuǎn)不止涉黃這么簡(jiǎn)單，還有其他隱患要解決。

圖源：AI生成

首先第一個(gè)就是未成年的風(fēng)險(xiǎn)。

你想啊，現(xiàn)在AI平臺(tái)那么多，用戶群體里就有大量的未成年，如果平臺(tái)沒(méi)監(jiān)管好，孩子輸入幾個(gè)關(guān)鍵詞就可以生成涉黃的內(nèi)容，那后果可太嚴(yán)重了。家長(zhǎng)舉報(bào)，監(jiān)管部門(mén)介入，平臺(tái)扛不住的。

然后是侵犯名譽(yù)權(quán)和肖像權(quán)。有人用它惡意生成別人的不雅照片或丑化形象，到處傳播，被侵害的人根本沒(méi)法維權(quán)，因?yàn)樯烧哂玫氖翘摂M賬號(hào)。如果審核不力，等于給AI造黃謠提供了機(jī)會(huì)。

最近半年已經(jīng)有多起利用AI生成虛假淫穢圖片的案件，源頭就是像哩布哩布這些內(nèi)容安全有漏洞的平臺(tái)。

其實(shí)漏洞本質(zhì)上是平臺(tái)的失職，但是平臺(tái)的功能沒(méi)有錯(cuò)，只是被不安好心的人鉆了空子。

平臺(tái)本身也有競(jìng)爭(zhēng)壓力，功能要完善，如果沒(méi)有用戶，自然也就賺不到錢(qián)，就會(huì)關(guān)掉AI。將來(lái)真正想用AI生成自己喜歡的東西的人，就無(wú)辜躺槍了。

好在央視及時(shí)發(fā)現(xiàn)問(wèn)題，哩布哩布還算火速回應(yīng)，認(rèn)錯(cuò)、修復(fù)、復(fù)盤(pán)、接受監(jiān)督，態(tài)度那就一個(gè)誠(chéng)懇。

圖源：微博

在小雷嗶嗶（id：xiaoleibbb ）看來(lái)，哩布哩布這次翻車，給整個(gè)AI應(yīng)用行業(yè)提了個(gè)醒。

平臺(tái)的內(nèi)容安全是底線。AI平臺(tái)是這樣，其他的內(nèi)容平臺(tái)也是這樣。

央視點(diǎn)名AI漏洞只是開(kāi)始，后續(xù)監(jiān)管肯定會(huì)有動(dòng)作。

還有網(wǎng)友看到這則新聞后吐槽說(shuō)：要是別的AI也有這個(gè)風(fēng)險(xiǎn)，我就不讓我家小孩繼續(xù)用AI了。

說(shuō)到最后，這次哩布哩布AI因涉黃生成漏洞被央視點(diǎn)名這事，剛好把這些漏洞，灰產(chǎn)暴露在我們面前。

平臺(tái)不能總等著媒體曝光了再重視，平時(shí)就該做好日常的審查工作。

各位對(duì)AI生成內(nèi)容涉黃這個(gè)情況有什么看法呢，歡迎評(píng)論區(qū)留言討論。