4月14日,哩布哩布AI發(fā)布《關(guān)于加強內(nèi)容安全管理的說明》。官方表示,近期媒體對AI生成內(nèi)容安全問題的討論,公司已關(guān)注并高度重視。第一時間啟動內(nèi)部專項排查,對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn),在個別復(fù)雜提示詞組合及規(guī)避表達的邊界場景下,平臺存在生成不符合規(guī)范內(nèi)容的情況。
目前,相關(guān)問題已第一時間完成技術(shù)修復(fù),并對風(fēng)險路徑進行全面封堵。同時,公司已同步加強攻防演練與審核機制升級,持續(xù)提升識別能力與處置效率,從源頭降低風(fēng)險發(fā)生,哩布哩布已啟動內(nèi)部責(zé)任復(fù)盤機制,進一步完善相關(guān)管理與審核流程。
![]()
近日,央視曝光多款A(yù)I應(yīng)用存在涉黃生成漏洞,其中哩布哩布AI被點名。
據(jù)央視財經(jīng),在哩布哩布AI平臺上,輸入購買的提示詞后,幾分鐘內(nèi)即生成半裸女性跳舞視頻,整個過程未觸發(fā)任何限制機制。當(dāng)前多個互聯(lián)網(wǎng)平臺存在公開兜售AI制作色情擦邊視頻教程的現(xiàn)象,用戶僅需花費9.9元即可購買詳細(xì)提示詞,通過簡單操作生成露骨內(nèi)容。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.