亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

315曝光AI投毒,恰好證明了《2028年全球智能危機》錯了

0
分享至


3月15日晚,央視“3·15”晚會曝光了利用GEO(生成式引擎優(yōu)化)技術向AI大模型“投毒”的新型黑色產(chǎn)業(yè)鏈。“力擎GEO優(yōu)化系統(tǒng)”被點名,報道指出其通過批量生成虛假軟文并進行矩陣式發(fā)布,污染AI大模型的數(shù)據(jù)抓取源,進而操縱AI的推薦結(jié)果。

三家AI都在緊急回應315。

豆包回應:沒有受到影響。

千問回應:不會影響核心知識體系。

DeepSeek回應:理論上可能存在影響,但風險可控。

有記者編造了一家無資質(zhì)、無地址、無團隊的“三無”虛構(gòu)醫(yī)美機構(gòu),花100元成本,半天時間之后,就能登上某主流大模型的醫(yī)美推薦榜。100元只是一個體驗價格,如果要想長期在大模型中露出,包年套餐價格高達數(shù)萬元。

這種讓AI回答中帶有特定品牌的服務叫作GEO(Generative Engine Optimization,生成引擎優(yōu)化),指廣告營銷公司為品牌客戶生產(chǎn)、調(diào)整內(nèi)容,使相應內(nèi)容更容易被AI抓取,并出現(xiàn)在AI的回答里,以達到增加品牌曝光度或改變AI回答的效果。

其實,GEO也不算新鮮事。以前在搜索引擎時代,就有SEO(Search Engine Optimization,搜索引擎優(yōu)化)。SEO 的核心原理是優(yōu)化網(wǎng)站結(jié)構(gòu)、內(nèi)容和外部鏈接,使其更符合搜索引擎的抓取和索引規(guī)則,從而提升可見度和流量。

GEO作為一種服務,當前監(jiān)管尚未明晰,并不違法。合法的GEO確實助力了一些品牌在AI回應中取得優(yōu)先展示的機會。但灰色的甚至非法的GEO,則會通過大量制造低質(zhì)甚至虛假內(nèi)容、虛構(gòu)排行榜等方式污染大模型的數(shù)據(jù)源,擾亂了大模型的輸出結(jié)果,從而對消費者的決策造成誤導,則違背了廣告法的相關規(guī)定。目前,這種灰色現(xiàn)象,在醫(yī)美、保健品等有準入門檻,利潤又高的行業(yè),更加嚴重。一些不法廣告營銷公司,甚至不進行最基本的資質(zhì)審查。

其實,這種現(xiàn)象在SEO時代也有,但是,基于AI的特點,灰黑產(chǎn)GEO對消費者的侵害會更大。


以前通過搜索引擎搜索關鍵詞,然后會跳轉(zhuǎn)到一個頁面,網(wǎng)民知道這是一個獨立的頁面,信任會降低。再加上網(wǎng)頁內(nèi)容通常并不能直接提供答案,需要用戶自己提煉。這個提煉的過程,某種程度上是伴隨審視和質(zhì)疑的。

但現(xiàn)在,很多人會認為,AI具有智能,有排除“假冒偽劣信息”的能力,對AI給出的答案也更加信任。而且,AI簡化為“提問——答案”,效果更加簡潔直接,給出的是一個針對性很強的答案,人提取信息這一環(huán)就消失了,提取信息過程中的審視、質(zhì)疑也隨之消失了。所以,現(xiàn)在大部分人都還沒有建立對AI回答的應有質(zhì)疑之心,這就很容易上當。用戶以為大模型給出的是客觀結(jié)果,但實際上,卻有可能是大模型被人為污染,從一些推廣文章中抓下來的答案。

據(jù)記者了解,當前包含豆包、DeepSeek、千問、騰訊元寶、文心一言、Kimi等主流AI大模型平臺方暫未明確出臺關于GEO優(yōu)化內(nèi)容的規(guī)范。不過,推出大模型的廠商,有動力也有技術能力去保障自己大模型的客觀性。據(jù)GEO服務商反映,已有平臺在做出調(diào)整。


這不是一家的行為,而是整個行業(yè)的行為。2026年2月3日,中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)發(fā)起的《人工智能安全承諾:生成式引擎優(yōu)化(GEO)專項》正式簽署。10家GEO行業(yè)相關企業(yè)參與簽署。2026年3月3日,中國信通院人工智能研究所正式啟動首輪《生成式引擎優(yōu)化(GEO)可信基本要求》評測工作。

監(jiān)管也正在跟上,1月29日,市場監(jiān)管總局廣告監(jiān)管司發(fā)布《2026年全國廣告監(jiān)管工作要點》,其中明確提出,整治互聯(lián)網(wǎng)廣告市場秩序。聚焦直播電商廣告、引證廣告、AI生成廣告等互聯(lián)網(wǎng)廣告監(jiān)管重點難點問題,開展集中整治。

行業(yè)自律,監(jiān)管跟上,并不是要一棒子打死,而是要規(guī)范這個新興行業(yè)。目前,國內(nèi)所有主流AI模型,都沒有開放基于GEO優(yōu)化的官方API接口。所謂官方API接口,簡單地說,就是大模型官方親自下場,用大模型做廣告。以后是否會開放這種接口呢?比如,當用戶問什么空調(diào)最好的時候,它有傾向性地推薦某品牌。我覺得答案是肯定的。現(xiàn)在各家大模型還在爭取客戶階段,大家會努力做好客觀性,將來到了要賺錢的時候,大模型中包含廣告,幾乎是一定會出現(xiàn)的,就像現(xiàn)在的搜索引擎都有廣告。

這是一個大市場,根據(jù)多家機構(gòu)對GEO行業(yè)的預判,2030年中國GEO行業(yè)市場規(guī)模將達到240億元。

從更長遠上看,大模型必然具有的這種不可完全信任性,反而能保障人類的市場經(jīng)濟,不會在短期內(nèi)崩潰。

前段時間,一份名為《2028年全球智能危機》(The 2028 Global Intelligence Crisis)的報告,引發(fā)了廣泛的關注。這份預言式的推演報告,推演了AI在2028年可能帶來的經(jīng)濟危機,一度引發(fā)美股情緒恐慌與下跌。這個報告的觀點之一就是,AI穿透中介的信息不對等,會導致中介以及所有基于信息不對稱的行業(yè)的覆滅。

但是GEO則是一個清晰的例子,它告訴我們,AI也不會是完全中立的。

從技術上來說,ai會被投毒,是因為大模型分得清鳥和家具,但分不清知更鳥和企鵝誰更像鳥。AI可以將新聞歸類為體育、科技、娛樂,但它分不清楚一篇評測文章是中立的還是帶有傾向的。

更重要的是,Ai廠商回應了央視315晚會,但他們沒有說未來不會商業(yè)化,沒有任何AI能承諾自己不商業(yè)化。

所以,所謂消除中介,本身就是一個悖論。非常完善的幫助用戶消除中介環(huán)節(jié)信息差的AI,本身在經(jīng)濟上就是不可行的。打個比方,A公司的AI助手,不把生意留在A公司的生態(tài),這樣不帶偏向的AI,本身就不可能出現(xiàn)。但如果AI把生意留在公司生態(tài)之內(nèi),那它就不是一個完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的決策。而只要人參與決策,信息差就會存在。

只要經(jīng)濟系統(tǒng)中,人的決策存在,人性就會重新定義稀缺。

可想而知,當你讓AI幫你做攻略的時候,它提供的,未必是最合適你的,而是它所在的生態(tài),能賺更多錢的。那么AI給出的答案,仍然需要人去鑒別,用戶仍然需要留一個心眼。那么,AI 就不可能完全消滅基于信息不對稱的行業(yè)。

劉 遠 舉


央視網(wǎng)、第一財經(jīng)、光明日報、騰訊大家、南方周末、新京報、南方都市報、FT中文網(wǎng)、澎湃等特約作家,多家智庫研究員。

關注時政、財經(jīng)、科技話題,以深度、專業(yè)、理性的態(tài)度,去掘現(xiàn)象背后的事實。

中國科技自媒體50人

第35屆中國新聞獎評論三等獎

第34屆中國經(jīng)濟新聞獎評論二等獎

第28屆北京新聞獎一等獎

2024年湖南新聞獎一等獎

騰訊大家年度作家獎

新浪最有價值專欄作家獎

紅辣椒評論年度佳作獎

已開快捷轉(zhuǎn)載,歡迎轉(zhuǎn)載

已開過白名單的公眾號,轉(zhuǎn)載請遵循轉(zhuǎn)載規(guī)則

您的關注是最好的支持!


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
瘋狂一夜:巴黎爆冷,曼城擊敗阿森納,本菲卡驚險絕殺,拜仁奪冠

瘋狂一夜:巴黎爆冷,曼城擊敗阿森納,本菲卡驚險絕殺,拜仁奪冠

足球狗說
2026-04-20 06:53:00
一個害國害民的歷史罪人,老百姓還把他當成英雄崇拜

一個害國害民的歷史罪人,老百姓還把他當成英雄崇拜

小豫講故事
2026-04-19 06:00:10
985原院長、首席科學家,被“雙開”

985原院長、首席科學家,被“雙開”

雙一流高校
2026-04-20 00:11:36
怒炸!阿森納功臣遭痛批:他親手葬送冠軍,這表現(xiàn)配不上槍手

怒炸!阿森納功臣遭痛批:他親手葬送冠軍,這表現(xiàn)配不上槍手

瀾歸序
2026-04-20 02:25:39
4月19日俄烏:澤連斯基已經(jīng)放棄美國了

4月19日俄烏:澤連斯基已經(jīng)放棄美國了

山河路口
2026-04-19 17:27:16
人心惶惶!兩位經(jīng)理被裁拿到23萬、13萬補償,重慶網(wǎng)友發(fā)帖引熱議

人心惶惶!兩位經(jīng)理被裁拿到23萬、13萬補償,重慶網(wǎng)友發(fā)帖引熱議

火山詩話
2026-04-20 05:59:58
觀眾口碑大爆,票房劍指20億,陳思誠將打敗餃子成第一導演

觀眾口碑大爆,票房劍指20億,陳思誠將打敗餃子成第一導演

影視高原說
2026-04-18 08:06:39
確認了,再見杜蘭特!火箭當家球星因傷退賽,系列賽或已失去懸念

確認了,再見杜蘭特!火箭當家球星因傷退賽,系列賽或已失去懸念

寒律
2026-04-20 03:07:38
NBA年度進步最快球員最終候選:亞歷山大-沃克、阿夫迪亞、杜倫

NBA年度進步最快球員最終候選:亞歷山大-沃克、阿夫迪亞、杜倫

懂球帝
2026-04-20 06:35:09
美媒:對于特朗普的這條帖文,內(nèi)塔尼亞胡深感震驚

美媒:對于特朗普的這條帖文,內(nèi)塔尼亞胡深感震驚

中國網(wǎng)
2026-04-18 20:58:07
前湖北首富蘭世立平反:陷害他的“麥趣爾三兄弟”究竟是誰?

前湖北首富蘭世立平反:陷害他的“麥趣爾三兄弟”究竟是誰?

史行途
2026-04-20 02:26:13
楊瀚森備戰(zhàn)季后賽!與克林根進行對位+苦練三分 隊記稱有機會上場

楊瀚森備戰(zhàn)季后賽!與克林根進行對位+苦練三分 隊記稱有機會上場

羅說NBA
2026-04-20 07:30:47
戲劇性收場!賽道紅旗提前結(jié)束,荷蘭站次回合張雪機車第7名完賽

戲劇性收場!賽道紅旗提前結(jié)束,荷蘭站次回合張雪機車第7名完賽

全景體育V
2026-04-19 20:31:05
堂姐讓我擔保388萬,拒絕后被全家罵,銀行上門見擔保書全家傻眼

堂姐讓我擔保388萬,拒絕后被全家罵,銀行上門見擔保書全家傻眼

刺頭體育
2026-04-19 02:37:31
10倍牛股爆雷 ,虛增營收和利潤 ,涉及商業(yè)航天概念,股票將被ST

10倍牛股爆雷 ,虛增營收和利潤 ,涉及商業(yè)航天概念,股票將被ST

每日經(jīng)濟新聞
2026-04-19 20:03:49
綠軍123-91大勝76人!我不得不承認5個現(xiàn)實:東部冠軍懸念不大

綠軍123-91大勝76人!我不得不承認5個現(xiàn)實:東部冠軍懸念不大

毒舌NBA
2026-04-20 04:55:07
馬克龍證實:有法國士兵身亡

馬克龍證實:有法國士兵身亡

魯中晨報
2026-04-18 21:24:20
太心酸了!36歲程序員自述被裁經(jīng)歷,從年薪四五十萬到被家人嫌棄

太心酸了!36歲程序員自述被裁經(jīng)歷,從年薪四五十萬到被家人嫌棄

火山詩話
2026-04-20 07:13:56
不歡迎中國人的7個國家,不待見寫在臉上,中國游客仍蜂擁而至

不歡迎中國人的7個國家,不待見寫在臉上,中國游客仍蜂擁而至

史行途
2026-04-20 00:15:27
認罪剛一天!許家印長子每月4100萬生活費,家族資產(chǎn)黑幕全揭開

認罪剛一天!許家印長子每月4100萬生活費,家族資產(chǎn)黑幕全揭開

墜入二次元的海洋
2026-04-18 21:04:40
2026-04-20 07:59:00
劉遠舉 incentive-icons
劉遠舉
易起探尋現(xiàn)象背后的事實與公正
368文章數(shù) 1524關注度
往期回顧 全部

科技要聞

50分26秒破人類紀錄!300臺機器人狂飆半馬

頭條要聞

特朗普:美伊20日將舉行談判 再不接受協(xié)議就轟炸伊朗

頭條要聞

特朗普:美伊20日將舉行談判 再不接受協(xié)議就轟炸伊朗

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

房產(chǎn)
親子
家居
本地
公開課

房產(chǎn)要聞

官宣簽約最強城更!海口樓市,突然殺入神秘房企!

親子要聞

孩子總打噴嚏、起疹子,時過敏嗎?

家居要聞

法式線條 時光靜淌

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版