北京
4月14日，哩布哩布AI發(fā)布《關(guān)于加強內(nèi)容安全管理的說明》。官方表示，近期媒體對AI生成內(nèi)容安全問題的討論，公司已關(guān)注并高度重視。第一時間啟動內(nèi)部專項排查，對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個別復(fù)雜提示詞組合及規(guī)避表達的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。
目前，相關(guān)問題已第一時間完成技術(shù)修復(fù)，并對風(fēng)險路徑進行全面封堵。同時，公司已同步加強攻防演練與審核機制升級，持續(xù)提升識別能力與處置效率，從源頭降低風(fēng)險發(fā)生，哩布哩布已啟動內(nèi)部責(zé)任復(fù)盤機制，進一步完善相關(guān)管理與審核流程。
近日，央視曝光多款A(yù)I應(yīng)用存在涉黃生成漏洞，其中哩布哩布AI被點名。
據(jù)央視財經(jīng)，在哩布哩布AI平臺上，輸入購買的提示詞后，幾分鐘內(nèi)即生成半裸女性跳舞視頻，整個過程未觸發(fā)任何限制機制。當(dāng)前多個互聯(lián)網(wǎng)平臺存在公開兜售AI制作色情擦邊視頻教程的現(xiàn)象，用戶僅需花費9.9元即可購買詳細(xì)提示詞，通過簡單操作生成露骨內(nèi)容。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
