凝聚行業(yè)共識(shí)推動(dòng)生成式AI時(shí)代內(nèi)容生態(tài)規(guī)范發(fā)展

大灣區(qū)經(jīng)濟(jì)網(wǎng)北京消息4月16日下午，“共筑可信生態(tài) 共創(chuàng)智能未來(lái)——AI內(nèi)容生態(tài)與負(fù)責(zé)任GEO治理研討會(huì)”在北京舉行。會(huì)議由中國(guó)新聞技術(shù)工作者聯(lián)合會(huì)、中國(guó)經(jīng)濟(jì)傳媒協(xié)會(huì)聯(lián)合主辦，每日經(jīng)濟(jì)新聞、每經(jīng)科技、每經(jīng)AI智庫(kù)與中國(guó)新聞技術(shù)工作者聯(lián)合會(huì)AIGC與數(shù)智傳播專(zhuān)委會(huì)共同發(fā)起，旨在凝聚行業(yè)共識(shí)、規(guī)范技術(shù)應(yīng)用，推動(dòng)AI時(shí)代內(nèi)容與營(yíng)銷(xiāo)生態(tài)的健康可持續(xù)發(fā)展。

現(xiàn)場(chǎng)嘉賓見(jiàn)證倡議首發(fā)、聯(lián)盟啟動(dòng)及團(tuán)體標(biāo)準(zhǔn)立項(xiàng)。圖源 新華社

當(dāng)前，國(guó)內(nèi)生成式AI用戶規(guī)模已突破6億，約每?jī)蓚€(gè)網(wǎng)民中就有一人通過(guò)AI獲取信息、作出決策。信息獲取方式正經(jīng)歷深刻變革，從搜索時(shí)代向生成時(shí)代加速演進(jìn)。與此同時(shí)，“AI投毒”現(xiàn)象時(shí)有發(fā)生，大模型在專(zhuān)業(yè)領(lǐng)域的“幻覺(jué)”難以消除，信源質(zhì)量參差不齊。在財(cái)經(jīng)、金融等高風(fēng)險(xiǎn)領(lǐng)域，這些問(wèn)題尤為突出。

會(huì)上，工業(yè)和信息化部工業(yè)文化發(fā)展中心AI應(yīng)用工作組相關(guān)領(lǐng)導(dǎo)、中國(guó)新聞技術(shù)工作者聯(lián)合會(huì)理事長(zhǎng)羅毅、中國(guó)經(jīng)濟(jì)傳媒協(xié)會(huì)會(huì)長(zhǎng)趙健、成都傳媒集團(tuán)相關(guān)分管領(lǐng)導(dǎo)出席并致辭。來(lái)自學(xué)術(shù)界、傳媒界、產(chǎn)業(yè)界及企業(yè)界的嘉賓匯聚一堂，共同參與并見(jiàn)證系列重磅舉措發(fā)布。

會(huì)議期間，《負(fù)責(zé)任GEO治理倡議》正式首發(fā)，這是全行業(yè)首次針對(duì)生成式引擎優(yōu)化的高規(guī)格、跨領(lǐng)域自律行動(dòng)。倡議圍繞透明性、可追溯性、公平性等原則，劃定GEO應(yīng)用的行為邊界，明確內(nèi)容應(yīng)成為AI能夠讀懂的知識(shí)，而非操縱AI回答的工具。與此同時(shí)，“財(cái)經(jīng)優(yōu)質(zhì)語(yǔ)料及可信信源共建聯(lián)盟”正式啟動(dòng)，聯(lián)合媒體集團(tuán)、研究機(jī)構(gòu)、金融企業(yè)、行業(yè)協(xié)會(huì)等多方力量，推動(dòng)財(cái)經(jīng)信息源規(guī)范化建設(shè)。《人工智能大模型財(cái)經(jīng)信息源分級(jí)與采信規(guī)范》團(tuán)體標(biāo)準(zhǔn)草案也正式立項(xiàng)研制，直擊當(dāng)前大模型在財(cái)經(jīng)信息處理中信源混雜、可信度難以評(píng)估、引用邏輯不透明等痛點(diǎn)。

在主題演講環(huán)節(jié)，中國(guó)信息通信研究院人工智能研究所安全治理部副主任呼娜英圍繞“生成式AI內(nèi)容生態(tài)與安全治理”發(fā)表演講。她指出，GEO時(shí)代數(shù)據(jù)污染已不僅是簡(jiǎn)單的訓(xùn)練數(shù)據(jù)質(zhì)量問(wèn)題，而是更深層次的信源治理問(wèn)題。如果基礎(chǔ)數(shù)據(jù)被污染，生成式AI輸出的內(nèi)容就可能偏離事實(shí)，進(jìn)而污染整個(gè)新質(zhì)生產(chǎn)力發(fā)展的土壤。呼娜英強(qiáng)調(diào)，GEO的可信健康發(fā)展需要技術(shù)與制度雙輪驅(qū)動(dòng)：一方面要加快建立數(shù)據(jù)源分類(lèi)標(biāo)準(zhǔn)、優(yōu)化要求及評(píng)估技術(shù)體系；另一方面建議探索備案制度、名單制度等管理手段，構(gòu)建惡意數(shù)據(jù)污染的掃描、發(fā)現(xiàn)與追溯機(jī)制。她呼吁品牌企業(yè)、服務(wù)商、內(nèi)容平臺(tái)、生成式AI廠商以及終端用戶五方力量共同承擔(dān)責(zé)任，協(xié)同構(gòu)建長(zhǎng)效內(nèi)容認(rèn)知壁壘。

中國(guó)人民大學(xué)新聞學(xué)院教授、現(xiàn)代廣告研究中心主任王菲從學(xué)術(shù)角度解析GEO對(duì)品牌傳播邏輯的深層沖擊；中央財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)融合創(chuàng)新發(fā)展中心主任陳端聚焦金融信息AI污染對(duì)資本市場(chǎng)的影響；易觀智慧研究院院長(zhǎng)李智探討品牌如何在AI時(shí)代重構(gòu)競(jìng)爭(zhēng)力。

當(dāng)天下午還舉行了以“AI浪潮下的傳播新變局與品牌新基建”為主題的圓桌研討。中國(guó)經(jīng)濟(jì)傳媒協(xié)會(huì)名譽(yù)副會(huì)長(zhǎng)劉燦國(guó)、國(guó)家廣告研究院品牌實(shí)驗(yàn)室副主任陳妮、沙利文中國(guó)主管合伙人王晨暉、知乎營(yíng)銷(xiāo)研究院負(fù)責(zé)人桑田、騰訊研究院研究員張鴻茹等嘉賓，圍繞“從流量到認(rèn)知的轉(zhuǎn)變”“品牌如何被AI引用”等議題展開(kāi)深入交流。

與會(huì)嘉賓普遍認(rèn)為，在智能時(shí)代，AI開(kāi)始替人類(lèi)作判斷、作推薦、作決策，其答案已不只是技術(shù)輸出，更深刻影響著經(jīng)濟(jì)秩序、信息公平與社會(huì)信任。讓真實(shí)、專(zhuān)業(yè)、可驗(yàn)證的內(nèi)容在AI世界中脫穎而出，是行業(yè)共同面臨的時(shí)代課題。

來(lái)源：大灣區(qū)經(jīng)濟(jì)網(wǎng)