4月14日，哩布哩布AI發(fā)布關(guān)于加強(qiáng)內(nèi)容安全管理的說明：

近期媒體對(duì)AI生成內(nèi)容安全問題的討論，我們已關(guān)注并高度重視。第一時(shí)間啟動(dòng)內(nèi)部專項(xiàng)排查，對(duì)平臺(tái)生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。

對(duì)此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認(rèn)識(shí)到在內(nèi)容安全邊界識(shí)別與機(jī)制完善方面仍存在不足，未達(dá)到應(yīng)有標(biāo)準(zhǔn)。相關(guān)問題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。同時(shí)，我們已同步加強(qiáng)攻防演練與審核機(jī)制升級(jí)，持續(xù)提升識(shí)別能力與處置效率，從源頭降低風(fēng)險(xiǎn)發(fā)生。我們也已啟動(dòng)內(nèi)部責(zé)任復(fù)盤機(jī)制，進(jìn)一步完善相關(guān)管理與審核流程。

內(nèi)容安全是平臺(tái)的底線。我們將以更高標(biāo)準(zhǔn)持續(xù)完善內(nèi)容安全體系，推動(dòng)平臺(tái)生態(tài)健康有序發(fā)展。也誠(chéng)摯邀請(qǐng)用戶與社會(huì)各界共同監(jiān)督，共建更加清朗的網(wǎng)絡(luò)空間。

據(jù)央視財(cái)經(jīng)報(bào)道，在一款名為哩布哩布AI的AI應(yīng)用里，記者輸入在網(wǎng)上購(gòu)買的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過程中，沒有觸發(fā)平臺(tái)任何限制機(jī)制。

編輯 | 程婷

綜合 | 央視財(cái)經(jīng) 哩布哩布AI