廣東
最近央視曝光的哩布哩布AI涉黃事件，實在讓人驚掉下巴。記者用網上買的提示詞，幾分鐘就生成了半裸女性跳舞視頻，全程沒觸發任何限制機制。
這家叫北京奇點星宇的公司，2023年5月成立，注冊資本才100萬，卻敢做AI生成平臺，現在看來安全防線形同虛設。
這事絕不是個案。現在網上已經形成了完整的灰色產業鏈，有人專門賣規避審核的提示詞，有人靠生成違規內容牟利。平臺事后道歉說只是個別邊界場景問題，但明眼人都清楚，這根本是審核機制嚴重缺位。
AI技術發展快是好事，但安全底線不能丟。《生成式人工智能服務管理暫行辦法》都實施快三年了，還有公司敢這么敷衍安全責任。注冊資本100萬，抗風險能力本就弱，再把安全當兒戲，出事是遲早的事。
我覺得這事得從三方面解決：一是平臺必須把內容安全當核心競爭力，而不是成本負擔；二是監管要加大處罰力度，讓違規成本遠高于收益；三是行業得盡快建立統一的安全標準。AI不是法外之地，狂奔的同時必須裝好剎車，不然技術再先進，也只會淪為作惡工具。@營銷頭版
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
