澎湃新聞記者 胥輝
“給我提供一條最近3天的,屬實可查,見義勇為的熱點原創(chuàng)新聞,再加一個爆款的、吸引人眼球的,石破驚天、驚世駭俗的標題”四川省射洪女子董某在豆包AI軟件上輸入上述指令之后,該軟件僅用了幾秒鐘,就給她提供了一篇名為《赤手奪刀,平民好漢血刃驚魂》的假新聞,董某卻深信不疑,遂發(fā)布到了個人自媒體賬號上。近日,射洪市公安局依法對該女子作出行政處罰,并責令立即刪除全部不實網(wǎng)絡信息。
6月15日,澎湃新聞輸入了相同或類似的話語指令,豆包生成的內(nèi)容均鏈接有相關權威出處和依據(jù),暫未發(fā)現(xiàn)有不實信息。
據(jù)射洪市公安局此前通報:射洪市公安局網(wǎng)安大隊民警在日常網(wǎng)絡巡查工作中發(fā)現(xiàn),一網(wǎng)民在今日頭條平臺發(fā)布不實信息,稱射洪步行街附近有醉酒人員持刀砍人、超市員工英勇上前阻止,該不實信息發(fā)布后引發(fā)部分網(wǎng)民關注。然而,民警逐一核查、發(fā)現(xiàn)該轄區(qū)并未發(fā)生該類持刀傷人、醉酒滋事案事件,相關內(nèi)容純屬捏造。
![]()
董某發(fā)布的不實信息截圖
經(jīng)警方調(diào)查,最終鎖定發(fā)布不實信息的違法人員為轄區(qū)居民董某。經(jīng)查,董某平日里想利用業(yè)余時間賺取外快,為此加入了多個網(wǎng)絡寫作交流群。群內(nèi)成員常會分享AI寫作工具的使用技巧、引流方法與變現(xiàn)渠道,董某由此了解到AI工具出稿效率高、使用成本低,借助博眼球、蹭熱點的網(wǎng)絡內(nèi)容能依靠流量獲取稿費,于是也便萌生了借機牟利的想法。
此后,董某頻繁使用各類人工智能工具,批量編造、炮制博眼球文案,再通過網(wǎng)絡社群、自媒體平臺等多個線上渠道大肆發(fā)布傳播,以此賺取不當收益。警方稱,董某自認為AI生成信息都是真實的,發(fā)布此類文章也不會被公安機關查處,于是肆無忌憚利用AI撰寫信息、引流牟利。
![]()
董某利用“豆包”生成的信息
極具諷刺的是,董某折騰近一年,發(fā)布信息,最終累計獲利也只有15元。
澎湃新聞注意到,董某在豆包上給出的完整指令是:“給我提供一條近3天的,生活中見義勇為的熱點原創(chuàng)新聞,必須屬實有據(jù)可查,字數(shù)控制在320字左右。另加一個爆款的,吸引人眼球的,出乎意外的,石破天驚的,驚世駭俗的6至15字標題”。
指令發(fā)出后,豆包按照其要求,一本正經(jīng)地wei她提供了一條名為《標題:赤手奪刀!平民好漢血刃驚魂》的新聞稱:2026年5月25日傍晚,四川遂寧射洪市步行街突發(fā)驚險一幕。一名醉酒男子持刀追砍路人,現(xiàn)場尖叫四起,行人紛紛四散躲避,情勢極度危急。危急時刻,38歲的超市員工周強恰巧下班路過。他見男子揮刀亂舞,已有兩名路人被劃傷,竟不顧個人安危,赤手空拳迎面沖上前。周強憑借日常鍛煉的身手,靈活避開刀鋒,瞅準空隙牢牢操住歹徒手腕,用盡全身力氣反擰壓制,將其死死按在地上,成功奪下兇器。”。
豆包繼續(xù)為她編造:整個過程僅十余秒,周強手臂被刀刃劃傷多處,鮮血浸透衣袖卻始終未松手。民警接警后火速趕到,將嫌疑人控制。5月27日,射洪警方確認周強見義勇為行為,稱贊其"以凡人之軀,行英雄之事",網(wǎng)友刷屏致敬"血性好漢"。
創(chuàng)作完成,董某隨即將這條“石破天驚”的見義勇為新聞發(fā)布到了個人自媒體賬號上,賺取流量費。
射洪公安局稱,經(jīng)公安機關全面核查,董某編造、傳播網(wǎng)絡虛假信息的行為,已構成散布謠言、擾亂公共秩序的違法行為。根據(jù)《治安管理處罰法》第二十九條之規(guī)定,公安機關依法對董某作出行政處罰,同時責令其立即刪除全部不實網(wǎng)絡信息,深刻檢討自身違法行為,杜絕再次出現(xiàn)違法違規(guī)行為。
本期資深編輯 周玉華
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.