AI的應(yīng)用是便捷，不是變?yōu)E。

今天你用AI了嗎？年初DeepSeek的爆火，為生成式AI的廣泛應(yīng)用徹底拉開了序幕。而這種應(yīng)用，在帶來便捷的同時，也衍生出了新的問題，比如，虛假信息遍布，且難以分辨真假；水軍信息充斥，且避無可避。那么，為什么會出現(xiàn)這種現(xiàn)象？企業(yè)該如何應(yīng)對？作為沖浪的我們，該如何識別信息？

首先，我們先來看看AI應(yīng)用的錯誤“示范”。

近期的電視劇《利劍玫瑰》大家看了嗎？前幾天，話題# 與# 先后登上微博熱搜榜，而此前，也就是8月7日下午，豆瓣電影發(fā)布了《關(guān)于處理水軍養(yǎng)號》的公告，公告稱，發(fā)現(xiàn)有一批賬號存在明顯的養(yǎng)號行為，發(fā)布了大量垃圾內(nèi)容，其中一些垃圾內(nèi)容疑似使用AI生成。

此外，還有香港大學(xué)一男學(xué)生用AI制作女同學(xué)色情照（知微事見影響力指數(shù)64.9）；央視曝光假非遺傳承人是AI生成（影響力指數(shù)65.8）。短劇《特朗普愛上在白宮當(dāng)保潔的我》，被證實(shí)是這部劇壓根不存在，關(guān)于該劇的視頻均是AI生成的畫面，以及美國某檔綜藝節(jié)目里的畫面。但該話題卻帶來了“潑天的流量”，原發(fā)文章閱讀量10W+，多家主流媒體跟進(jìn)報道。

為什么會出現(xiàn)這種現(xiàn)象？

1. 為了起號/養(yǎng)號。借助AI工具，內(nèi)容生產(chǎn)的成本約等于零，批量生成文字、圖片、短視頻不是夢。今年3月，《解放日報》就曾發(fā)布調(diào)查報道稱，單條發(fā)布的成本低至1厘，一人可操控6000部手機(jī)，應(yīng)對熱點(diǎn)新聞，48小時炮制并發(fā)布4000多條有害信息……這是“AI水軍”的戰(zhàn)績。

2. 為了流量。以明星、名人或知名企業(yè)為主角杜撰信息，博取關(guān)注產(chǎn)生流量獲利。蔚來工作人員曾向媒體表示，企業(yè)曾見過疑似AI改寫同一內(nèi)容、相同配圖大量水軍賬號分發(fā)，來抹黑企業(yè)的情況。

3. 為了競爭。不管是為自己的愛豆，還是為了自己的雇主，好評和拉踩都變得相當(dāng)輕松且有效。因此，不止《利劍玫瑰》，很多影視劇綜都遇到過類似情況。

如何整治？

今年以來，央級媒體對AI濫用現(xiàn)象給予了高頻率關(guān)注。5月和本月，央視與新華社先后報道了AI造假起號和AI起號亂象調(diào)查。不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進(jìn)而變現(xiàn)。

監(jiān)管層面，今年4月，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開展重點(diǎn)整治；7月24日起，中央網(wǎng)信辦在全國范圍內(nèi)又啟動了為期2個月的“清朗·整治‘自媒體’發(fā)布不實(shí)信息”專項(xiàng)行動。同時，多家互聯(lián)網(wǎng)平臺也發(fā)布了專項(xiàng)治理公告，重點(diǎn)整治AI批量造假、AI起號引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號等違規(guī)行為。

• 專家建議：對AI技術(shù)濫用的治理，需要多方共同打擊違規(guī)行為。技術(shù)提供者強(qiáng)化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺提高對深度偽造內(nèi)容的檢測精度，進(jìn)一步完善相關(guān)規(guī)則，監(jiān)管部門應(yīng)督促平臺履行治理責(zé)任，建立違規(guī)賬號“黑名單”，對高頻、反復(fù)觸犯平臺規(guī)則的賬號主體加大處罰力度。

企業(yè)、明星、名人該如何應(yīng)對？

面對高強(qiáng)度、碎片化的負(fù)面攻擊，除了加強(qiáng)輿情監(jiān)測外，還可以：

01

及時辟謠

發(fā)現(xiàn)AI生成的虛假內(nèi)容，企業(yè)要在第一時間發(fā)布真實(shí)、準(zhǔn)確的信息進(jìn)行澄清。

02

法律維權(quán)

依據(jù)《生成式人工智能服務(wù)管理辦法》《人工智能生成合成內(nèi)容標(biāo)識辦法》等，采取法律手段維護(hù)自身權(quán)益。

03

增強(qiáng)自身公信力

不管是明星、名人，還是企業(yè)，都需要建立良好的形象，使自身具備良好的口碑，從而產(chǎn)生一定的公信力，以降低AI生成的虛假內(nèi)容對個人和企業(yè)聲譽(yù)的影響。

沖浪的我們?nèi)绾巫R別相關(guān)信息？

作為接收信息的我們，也需要具備一定的甄別能力，不做有心之人的“情緒助力器”：

01

看來源

判斷信息發(fā)布者是否為可靠的、經(jīng)過平臺認(rèn)證的權(quán)威機(jī)構(gòu)、媒體或個人。

02

看標(biāo)識

部分網(wǎng)絡(luò)平臺已經(jīng)開始對AI生成內(nèi)容進(jìn)行標(biāo)識，大家可以在瀏覽內(nèi)容時要注意查看是否有相關(guān)標(biāo)識。

03

可驗(yàn)證

不僅憑單一信息就做出判斷，可通過多個渠道對信息進(jìn)行核實(shí)，如：權(quán)威機(jī)構(gòu)、媒體等。

結(jié)語

生成式AI工具的使用，在提升效率的同時，也放大了企業(yè)和個人的聲譽(yù)風(fēng)險。未來，在高頻率的輿論監(jiān)督下，從監(jiān)管到技術(shù)發(fā)展，網(wǎng)絡(luò)環(huán)境會愈發(fā)清朗。在此之前，遇到情緒煽動性較強(qiáng)的內(nèi)容時，我們可以先冷卻24小時，看看事態(tài)發(fā)展，驗(yàn)證下真實(shí)性，再決定是否分享。

如需各行業(yè)相關(guān)分析報告或咨詢服務(wù)，請掃碼添加“知小微”，也歡迎加入營銷、公關(guān)專屬社群進(jìn)行交流。

封面圖源：@電視劇利劍玫瑰官微

知微輿論場

知微事見

知微危機(jī)案例庫