北京
4月14日，近日，央視曝光多款AI應用存在涉黃生成漏洞，其中哩布哩布AI應用被點名。
今日，哩布哩布AI應用發(fā)布關于加強內(nèi)容安全管理的說明。
官方表示，針對近期熱議的AI生成內(nèi)容安全問題，我方高度重視并立即開展專項自查，經(jīng)查發(fā)現(xiàn)在部分復雜提示詞及規(guī)避表達的邊界場景中，存在違規(guī)內(nèi)容生成的問題，對此我們深表歉意。
目前已完成技術(shù)修復、全面封堵風險路徑，同步升級審核機制、強化攻防演練，并啟動內(nèi)部責任復盤，補齊內(nèi)容安全管控短板。后續(xù)將嚴守安全底線，持續(xù)完善內(nèi)容安全體系，主動接受各界監(jiān)督，保障平臺生態(tài)健康合規(guī)發(fā)展。
原文如下：
近期媒體對AI生成內(nèi)容安全問題的討論，我們已關注并高度重視。第一時間啟動內(nèi)部專項排查，對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個別復雜提示詞組合及規(guī)避表達的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。
對此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認識到在內(nèi)容安全邊界識別與機制完善方面仍存在不足，未達到應有標準。相關問題已第一時間完成技術(shù)修復，并對風險路徑進行全面封堵。同時，我們已同步加強攻防演練與審核機制升級，持續(xù)提升識別能力與處置效率，從源頭降低風險發(fā)生。我們也已啟動內(nèi)部責任復盤機制，進一步完善相關管理與審核流程。
內(nèi)容安全是平臺的底線。我們將以更高標準持續(xù)完善內(nèi)容安全體系，推動平臺生態(tài)健康有序發(fā)展。也誠摯邀請用戶與社會各界共同監(jiān)督，共建更加清朗的網(wǎng)絡空間。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
