4月14日,近日,央視曝光多款AI應用存在涉黃生成漏洞,其中哩布哩布AI應用被點名。
今日,哩布哩布AI應用發(fā)布關于加強內(nèi)容安全管理的說明。
官方表示,針對近期熱議的AI生成內(nèi)容安全問題,我方高度重視并立即開展專項自查,經(jīng)查發(fā)現(xiàn)在部分復雜提示詞及規(guī)避表達的邊界場景中,存在違規(guī)內(nèi)容生成的問題,對此我們深表歉意。
目前已完成技術(shù)修復、全面封堵風險路徑,同步升級審核機制、強化攻防演練,并啟動內(nèi)部責任復盤,補齊內(nèi)容安全管控短板。后續(xù)將嚴守安全底線,持續(xù)完善內(nèi)容安全體系,主動接受各界監(jiān)督,保障平臺生態(tài)健康合規(guī)發(fā)展。
![]()
原文如下:
近期媒體對AI生成內(nèi)容安全問題的討論,我們已關注并高度重視。第一時間啟動內(nèi)部專項排查,對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn),在個別復雜提示詞組合及規(guī)避表達的邊界場景下,平臺存在生成不符合規(guī)范內(nèi)容的情況。
對此,我們深表歉意。本次問題也為我們敲響了警鐘,使我們清醒認識到在內(nèi)容安全邊界識別與機制完善方面仍存在不足,未達到應有標準。相關問題已第一時間完成技術(shù)修復,并對風險路徑進行全面封堵。同時,我們已同步加強攻防演練與審核機制升級,持續(xù)提升識別能力與處置效率,從源頭降低風險發(fā)生。我們也已啟動內(nèi)部責任復盤機制,進一步完善相關管理與審核流程。
內(nèi)容安全是平臺的底線。我們將以更高標準持續(xù)完善內(nèi)容安全體系,推動平臺生態(tài)健康有序發(fā)展。也誠摯邀請用戶與社會各界共同監(jiān)督,共建更加清朗的網(wǎng)絡空間。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.