“人類注定會(huì)越來越依賴AI，哪怕它依舊改不掉產(chǎn)生幻覺的毛病。”

?作者 | 石鴉

?編輯 | 騰宇

當(dāng)AI告訴你，“努力就能成功”是一種常識(shí)，你的第一反應(yīng)是什么？

詹姆斯·馬爾登（James Muldoon）會(huì)告訴你：別傻了，那只是加利福尼亞白人男性的價(jià)值觀。

（圖/詹姆斯·馬爾登）

這是牛津互聯(lián)網(wǎng)研究院研究員，同時(shí)也是社會(huì)學(xué)家的馬爾登，在走訪了6大洲，采訪了200多位AI從業(yè)者后得出的結(jié)論。但人類注定會(huì)越來越依賴AI，哪怕它依舊改不掉產(chǎn)生幻覺的毛病。

而AI制造的最大的幻覺便是：AI只是個(gè)觀察者，沒有情緒，沒有立場，只是在處理信息，只是在給出客觀的答案。

真是如此嗎？要知道，那些看上去輕巧、流暢、幾乎不知疲倦的回答，壓根不可能憑空發(fā)生。AI吃電、吃水，更會(huì)“吃人”。

從采集、清洗、標(biāo)注，到訓(xùn)練、部署、維護(hù)，AI每變聰明一點(diǎn)，都是靠無數(shù)人類，拿著人類自己生產(chǎn)的，充斥著特定種族氣質(zhì)的“AI養(yǎng)料”，一口一口喂出來的。

因此，馬爾登真正關(guān)心的，也從來不是公眾喜聞樂見的末日式的問題——AI明天會(huì)不會(huì)覺醒、會(huì)不會(huì)統(tǒng)治世界、會(huì)不會(huì)毀滅人類。他更想追問，到底是誰在給AI定三觀？誰在靠它賺錢？誰又在為它買單、付出代價(jià)？為什么算法不僅沒消除偏見，反而把舊有的歧視、偏見、不平等，包裝得更冷靜和體面，再重新塞給人類？

《投喂AI：人工智能產(chǎn)業(yè)的全球底層工人紀(jì)實(shí)》

作者: [英]詹姆斯·馬爾登 （James Muldoon） / [英]卡勒姆·坎特 （Callum Cant） / [英]馬克·格雷厄姆

出版社: 中信出版社

出版年: 2025-10-1

這正是馬爾登在《投喂AI》一書的寫作中重點(diǎn)關(guān)注的話題。基于他的研究領(lǐng)域和這本書，我們聊了聊關(guān)于AI的種種話題。

AI時(shí)代，

普通人注定離真相越來越遠(yuǎn)

《新周刊》：當(dāng)AI說“這是常識(shí)”的時(shí)候，這個(gè)常識(shí)到底是誰的常識(shí)？

馬爾登：它說的往往不是全人類的常識(shí)，而是由美國主導(dǎo)的、英語互聯(lián)網(wǎng)中產(chǎn)精英圈層的常識(shí)。誰提供數(shù)據(jù)，誰設(shè)計(jì)模型，誰就能定義AI的世界觀。

先說數(shù)據(jù)，目前我們使用的數(shù)據(jù)集，在很大程度上是由西方的受眾和消費(fèi)者構(gòu)建的，其設(shè)計(jì)的主導(dǎo)者大多來自美國，以至于模型的設(shè)計(jì)方式甚至在無意識(shí)中都在推崇一種西方、現(xiàn)代中期的理性世界觀。

再看模型。模型怎么訓(xùn)練，什么回答算好，什么內(nèi)容過于敏感需要屏蔽，什么價(jià)值被默認(rèn)為“正常”“安全”“理性”，這些都是開發(fā)團(tuán)隊(duì)定的。而今天最強(qiáng)的一批基礎(chǔ)模型，主要還是美國科技公司在做，所以它們天然更容易帶著美國科技行業(yè)那套世界觀。

《新周刊》：這會(huì)導(dǎo)致什么結(jié)果？

馬爾登：這些價(jià)值觀會(huì)強(qiáng)化我們從廣播、電視到互聯(lián)網(wǎng)等所有技術(shù)媒介中看到的等級制度和不平等現(xiàn)象。因此，當(dāng)我們在AI中重現(xiàn)這種情況時(shí)，實(shí)際上是在加倍強(qiáng)化原本就存在的不平等現(xiàn)象。

當(dāng)然，現(xiàn)在很多模型也在加入中文、阿拉伯語、印地語、西語等更多語料，所以它們不是純粹的“加州白男”的腦子。但在主流閉源模型里，它們的底色仍然非常接近美國主導(dǎo)的英語世界主流認(rèn)知。

《新周刊》:所以在AI時(shí)代，以往文化中的種種偏見，注定會(huì)被加深？

馬爾登:我不反對“用 AI減少偏見”這個(gè)想法。理論上它確實(shí)可能成為一個(gè)很有用的工具，前提是你得主動(dòng)去找，主動(dòng)去問，主動(dòng)去對照。問題在于，大多數(shù)人并不會(huì)這樣去用AI，大家的日常使用更像是被動(dòng)接收，而不是主動(dòng)探索。

現(xiàn)實(shí)里AI最主要的用途，不是用來訓(xùn)練公眾的批判性思維，而是被組織用來做推薦系統(tǒng)，去提高用戶在平臺(tái)上的停留時(shí)間和互動(dòng)量。你要提升互動(dòng)量，最有效的方法往往不是給人更準(zhǔn)確、更全面的信息，而是給人更極化、更刺激、更容易讓人憤怒的內(nèi)容。憤怒會(huì)讓人停不下來，會(huì)讓人不斷刷新，不斷爭吵，不斷繼續(xù)看。它很讓人上癮，也很有對抗性，正適合平臺(tái)的商業(yè)目標(biāo)。

當(dāng)然，我并不否認(rèn)新技術(shù)對人也有解放的一面，它讓更多人更容易去追問、去核對、去反駁，至少讓一部分人，降低了“查證”這件事的門檻。以前你需要會(huì)搜索、會(huì)翻譯、會(huì)讀長文，甚至可能需要一些別的路徑，現(xiàn)在更多人可以直接追問信息的原始出處、對照不同版本，把結(jié)論拆開再看一遍。從這個(gè)意義上說，它確實(shí)讓求證和批判性思考變得更“民主”了。

《新周刊》:這一輪AI競爭，說到底是不是“有錢人的游戲”？

馬爾登:很大程度上，是。

這一輪AI迭代浪潮和過去幾輪互聯(lián)網(wǎng)創(chuàng)新浪潮最大的不同在于，它不是先靠一個(gè)好產(chǎn)品起家，而是先看你有沒有足夠多的錢、算力和基礎(chǔ)設(shè)施。

想做一個(gè)真正有競爭力的基礎(chǔ)模型，成本非常高。不是幾個(gè)人寫代碼、做個(gè)App、拉一批用戶就能成。你得先有芯片，有服務(wù)器，有訓(xùn)練數(shù)據(jù)，還要能承擔(dān)一次次試錯(cuò)的成本。真正往上走，花的往往都是幾千萬、幾億美元，甚至更多。很多時(shí)候，你還沒見到用戶，錢已經(jīng)先燒掉了。所以現(xiàn)在你會(huì)看到一個(gè)很現(xiàn)實(shí)的局面：表面上是AI初創(chuàng)公司在競爭，背后拼的還是大公司的資源。

《新周刊》:那么，當(dāng)大平臺(tái)控制信息的記錄、存儲(chǔ)和共享方式時(shí)，真相是否變得更容易被改寫？

馬爾登:在我寫《平臺(tái)社會(huì)主義》（Platform Socialism）時(shí)就一直在強(qiáng)調(diào)，平臺(tái)早就不是中立的“工具”了，它們更像我們數(shù)字生活的基礎(chǔ)設(shè)施，但卻被少數(shù)公司當(dāng)成私產(chǎn)來運(yùn)營，連規(guī)則本身都由這些公司說了算。一旦它們控制了哪些內(nèi)容能被留下、能被檢索、能被傳播，所謂“真相”就很容易變成一種數(shù)據(jù)庫操作: 不用造假，改一下排序權(quán)重，降一下可見度，關(guān)掉某些接口，或者把一段歷史從推薦和搜索里慢慢擦掉，公眾記憶就會(huì)跟著被改寫。更現(xiàn)實(shí)的是，這種控制還會(huì)延伸到數(shù)據(jù)的占有和提取，它們甚至能通過掌控關(guān)鍵基礎(chǔ)設(shè)施來獲取更大范圍的數(shù)據(jù)來源。

《新周刊》:如何理解“AI不會(huì)讓真相更容易消失，但讓假裝真相的東西更容易流行”這個(gè)觀點(diǎn)？

馬爾登:AI最嚇人的地方也不只是“能造假”，更是它讓“編排事實(shí)”這件事工業(yè)化了，速度更快、成本更低，風(fēng)格還更像人，連你自己都分不清自己是在聽分析，還是在被牽著鼻子走。更麻煩的是，信息本來就不是按“真不真”來分發(fā)的，而是按“你會(huì)不會(huì)停下來”來分發(fā)的，AI一旦接上算法，信息繭房就更容易被制造了。AI讓你以為自己在看世界，其實(shí)你在看的是一個(gè)為你定制的版本。

最后的結(jié)果可能很荒誕：不是謊言戰(zhàn)勝了真相，而是“太像真的東西”淹沒了真相，于是 AI 可能會(huì)使人們對信息的辨別更加有難度。

《新周刊》:那普通人還有更便捷的方式來保護(hù)自己嗎？

馬爾登:養(yǎng)成一個(gè)習(xí)慣——看到新信息先慢一點(diǎn)，先保持懷疑。你不需要一上來就去做很復(fù)雜的核查，先問幾個(gè)很基礎(chǔ)的問題就行：這是誰做的內(nèi)容？他可能想達(dá)到什么效果？他為什么要用這種方式講？然后再補(bǔ)一點(diǎn)基本常識(shí)，知道媒體和平臺(tái)是怎么運(yùn)作的，尤其是推薦算法是怎么做的。很多時(shí)候你以為自己在“看新聞”，其實(shí)你是在看平臺(tái)挑出來的、最容易讓你停留和產(chǎn)生情緒波動(dòng)的東西。

比如同一件事，你看看不同國家的報(bào)道、不同立場的評論，慢慢你會(huì)發(fā)現(xiàn)他們用的詞不一樣，關(guān)注的重點(diǎn)也不一樣。這樣做不是為了找到一個(gè)完全中立的版本，因?yàn)槟欠N版本通常不存在。這更像是在訓(xùn)練自己——識(shí)別哪些是事實(shí)，哪些是解釋，哪些是立場，哪些是在動(dòng)員你站隊(duì)。普通人能做的自我保護(hù)，大部分就靠這些很樸素的步驟，長期堅(jiān)持下來你會(huì)發(fā)現(xiàn)這比任何“萬能工具”更可靠。

中國AI更“I”，美國AI更“E”？

《新周刊》:如果把語言模型比作人，有人覺得美國的大模型更E，中國的大模型更I，你覺得呢？

馬爾登：差不多。我與一些中國同事就中國的數(shù)據(jù)標(biāo)注和人工智能開展調(diào)研之后發(fā)現(xiàn)，中國的項(xiàng)目往往比美國的項(xiàng)目更具獨(dú)立性。美國的供應(yīng)鏈在一定程度上更加全球化，因?yàn)樗鼈兩婕案嗟耐獍袊鴥A向于將數(shù)據(jù)留在國內(nèi)，最終形成了一種相對獨(dú)立的情況。

《新周刊》:“AI競賽不像奧運(yùn)會(huì)設(shè)金、銀、銅牌。這場比賽只有金牌和銀牌，這兩塊獎(jiǎng)牌屬于中美兩國”，你認(rèn)可這個(gè)觀點(diǎn)嗎？

馬爾登：如果只看資本、頂尖公司、研究能力和人才密度，美國和中國確實(shí)還是（在這場競賽中）最靠前的兩個(gè)國家。但我不太認(rèn)同“金牌銀牌”這種說法，因?yàn)樗岩粓龊軓?fù)雜的博弈，又理解成了二元敘事。美國和中國都在爭奪技術(shù)領(lǐng)先，也都在把別的國家、企業(yè)、供應(yīng)鏈、科研網(wǎng)絡(luò)拉進(jìn)來，形成各自的技術(shù)陣營。AI不只是“誰更聰明”的問題，它同時(shí)牽扯經(jīng)濟(jì)競爭、軍事實(shí)力、產(chǎn)業(yè)控制力和地緣政治影響力，所以你很難用金銀牌這種單線邏輯講清楚全局。

另外，還有一個(gè)常被忽略的點(diǎn): 即便同樣在做 AI，美國和中國對“為什么要做、要用來做什么”這件事的理解也不一樣。因?yàn)閮蓢趯ψ约涸谑澜缟系奈恢谩⒄谏鐣?huì)和產(chǎn)業(yè)里應(yīng)該扮演的角色等問題上的判斷有所不同，這些基本判斷不同，最后會(huì)體現(xiàn)在AI的發(fā)展路徑、治理方式和優(yōu)先級上。總之，領(lǐng)先者確實(shí)是這兩個(gè)國家，但你要理解，這是一盤棋，不是一場百米賽跑。

《新周刊》：在這盤AI棋局里，你如何判斷一個(gè)國家贏面最大？

馬爾登：在AI競爭里，資源當(dāng)然重要，但真正拉開差距的，未必是誰手里東西更多，而是誰更會(huì)用手里的東西。過去很多人會(huì)把這場競爭理解得很簡單，覺得只要有更多芯片和更多數(shù)據(jù)，就一定能做出更強(qiáng)的模型。

美國現(xiàn)在對中國做的很多限制，也正是基于這種判斷，比如限制最先進(jìn)芯片和相關(guān)技術(shù)的出口。但是DeepSeek告訴我們，芯片并不是贏得AI競賽的主要因素，這其中還涉及模型如何訓(xùn)練，中國或許在這方面更有優(yōu)勢。

《新周刊》：具體是哪些優(yōu)勢？

馬爾登：中國的企業(yè)雖然會(huì)在某些方面有不少限制，但它們同時(shí)也能拿到大量資金支持，也有比較明確的政策扶持。因?yàn)樵谥袊珹I不只是一個(gè)商業(yè)賽道，它還被放在更高的戰(zhàn)略位置上。這樣一來，人才、資本、基礎(chǔ)設(shè)施和產(chǎn)業(yè)資源，就更容易往這個(gè)方向集中。

此外，中國人口眾多，也是一個(gè)數(shù)字化程度更高的國家，所以我認(rèn)為有更多的數(shù)據(jù)可供自動(dòng)駕駛、大模型、面部識(shí)別等科技公司利用。

《新周刊》：還有什么更有趣的發(fā)現(xiàn)嗎？

馬爾登：在美國，AI女友非常受歡迎，而在中國，人們更傾向于擁有AI男友。

真正的藝術(shù)家，不會(huì)被AI取代

《新周刊》：有一種觀點(diǎn)認(rèn)為，AI越來越強(qiáng)以后，人類標(biāo)注很快就會(huì)過時(shí)，模型會(huì)自己標(biāo)、自己學(xué)、自己迭代。

馬爾登：我不太認(rèn)同。原因很簡單，模型越復(fù)雜，越需要高質(zhì)量的數(shù)據(jù)和更細(xì)致的人工反饋。很多工作不是機(jī)器能不能生成結(jié)果的問題，而是需要生成什么樣的結(jié)果，以及誰來對這個(gè)結(jié)果負(fù)責(zé)。

所以未來5年，我不覺得數(shù)據(jù)標(biāo)注員會(huì)消失，更可能發(fā)生的是任務(wù)變化，而不是崗位消失。他們可能不再只是做最基礎(chǔ)的標(biāo)記，而是會(huì)更多地參與篩選、糾錯(cuò)、質(zhì)檢，以及更復(fù)雜的訓(xùn)練支持。

《新周刊》：你曾說過，如果10年后重寫這本書，你最希望過時(shí)的內(nèi)容，就是“數(shù)據(jù)標(biāo)注員”這部分，為什么？

馬爾登：我最擔(dān)心的是，這份工作會(huì)繼續(xù)存在，但卻是以一種很不體面的方式存在。尤其是內(nèi)容審核。世界上仍有很多數(shù)據(jù)標(biāo)注員每天都在替平臺(tái)看最惡心、最暴力、最不該反復(fù)看的內(nèi)容，替互聯(lián)網(wǎng)做清潔，但他們得到的報(bào)酬、保障和尊重，往往遠(yuǎn)遠(yuǎn)不夠。

《新周刊》：我們聊回AI帶來的風(fēng)險(xiǎn)吧，你認(rèn)為哪些對AI普遍的擔(dān)憂實(shí)際上是不必要的，哪些又是必要的呢？

馬爾登：大概在2023年的時(shí)候，大家都在擔(dān)心AI會(huì)變得具有超人般的智能并接管世界。當(dāng)時(shí)大家都在談?wù)撨@種反烏托邦的想象情景，事實(shí)證明這只是人們抱有的一種離奇的、基于猜測的怪異恐懼，而這種恐懼并沒有真正基于當(dāng)時(shí)AI的發(fā)展現(xiàn)實(shí)。畢竟，當(dāng)時(shí)它甚至連一些單詞都拼寫不對。語言模型沒有意識(shí)，它們沒有感知能力。

而我在書中提出的一系列問題要緊迫得多。我就給你列舉前三項(xiàng)：

第一，是AI基礎(chǔ)設(shè)施對環(huán)境的影響。它消耗多少電力、多少水資源，以及創(chuàng)建數(shù)據(jù)中心、超大規(guī)模數(shù)據(jù)中心、計(jì)算機(jī)芯片和AI芯片需要開采多少關(guān)鍵礦物和采用哪些新的開采方式。

第二，是供應(yīng)鏈的類型以及投入其中的隱性人力勞動(dòng)，也就是創(chuàng)建AI、訓(xùn)練模型以及基本上本書所涵蓋的所有內(nèi)容所需的數(shù)百萬人力。

第三，我認(rèn)為我們應(yīng)該關(guān)注的主要問題是，在獲取知識(shí)、資源，和在網(wǎng)絡(luò)等方面存在的各種全球不平等現(xiàn)象，而AI似乎只會(huì)強(qiáng)化和凸顯這些不平等。實(shí)際上，所有極其富有、極其有權(quán)勢和享有特權(quán)的人，都在尋求進(jìn)一步增強(qiáng)權(quán)力、獲取更多特權(quán)，并將AI作為實(shí)現(xiàn)這一目標(biāo)的工具。實(shí)際上，這就是AI的工作方式。

所以我不太擔(dān)心AI會(huì)突然像電影里那樣覺醒，我更擔(dān)心的是，它在沒有引起足夠警惕的情況下，已經(jīng)開始幫最有權(quán)力的人把優(yōu)勢變得更穩(wěn)固了。

（圖/《投喂AI：人工智能產(chǎn)業(yè)的全球底層工人紀(jì)實(shí)》)

《新周刊》：那你認(rèn)為AI會(huì)在多久之內(nèi)取代學(xué)者和創(chuàng)作者？

馬爾登：這不會(huì)發(fā)生的。雖然AI真正擅長的是對現(xiàn)有知識(shí)進(jìn)行總結(jié)，當(dāng)它必須執(zhí)行這類任務(wù)時(shí)，我給它打9分（滿分10分）。我總能100%確定學(xué)生是否在使用AI，因?yàn)锳I在表達(dá)觀點(diǎn)和總結(jié)思想的方式時(shí)，都有相似的語氣和自信程度。

但AI仍然存在不足的地方，它無法提出真正新穎、有趣的對世界的見解。這些見解本應(yīng)反映人類體驗(yàn)的基本方面以及它在當(dāng)今的變化，但AI沒有體驗(yàn)，只有數(shù)據(jù)，它并不生活在現(xiàn)實(shí)世界中。因此，它無法從全面、具身、存在主義的視角理解作為人類真正重要的是什么。

《新周刊》：如果有了世界模型，會(huì)不會(huì)不一樣？

馬爾登：它當(dāng)然會(huì)讓AI變得更強(qiáng)，尤其是在理解物理環(huán)境、預(yù)測變化、處理復(fù)雜任務(wù)這類事情上，能力會(huì)往前走一大步。但AI本質(zhì)上還是在根據(jù)已有數(shù)據(jù)去總結(jié)模式、做預(yù)測、反復(fù)試錯(cuò)。

它可以越來越擅長模擬這個(gè)世界的運(yùn)行方式，但這不等于它真的擁有了人的那種理解能力。人的理解里有經(jīng)驗(yàn)、有情境、有目的感，也知道自己為什么要這么做。而AI就算能把環(huán)境建模得再像，對事物模擬得再像，它也只是在算概率、對答案。它能猜出你想聽什么，但它根本不知道自己在說什么。

《新周刊》：但事實(shí)是，現(xiàn)在很多AI生成的畫作，甚至是網(wǎng)絡(luò)小說，普通讀者已經(jīng)分不清它們與人類作品的區(qū)別了，我們強(qiáng)調(diào)“人的主體性”是否只是一種自我安慰？

馬爾登：沒錯(cuò)，在技術(shù)層面，AI的擬態(tài)已經(jīng)達(dá)到了巔峰。但藝術(shù)遠(yuǎn)不止于畫一張“漂亮的畫”或講一個(gè)“通順的故事”。

藝術(shù)的靈魂在于“意圖性”。當(dāng)一個(gè)藝術(shù)家落筆時(shí)，他是在試圖對世界說些什么，那背后是個(gè)體的生命史、價(jià)值觀和對時(shí)代的抵抗。如果AI畫了一座房子，僅僅是因?yàn)樗臄?shù)據(jù)集中有成千上萬座類似的房子，那么這種美就是空洞的，它廉價(jià)化了藝術(shù)的體驗(yàn)。

《新周刊》：你允許你的學(xué)生用AI寫論文嗎？

馬爾登：這由不得我允不允許。對于學(xué)生自己來說，這要看你寫論文的目的是什么。 如果你寫論文只是為了交差，那AI當(dāng)然可以很快幫你拼出一篇東西。

但如果你寫論文是為了學(xué)習(xí)，那完全交給AI，其實(shí)就是在騙自己。因?yàn)閷懻撐淖钪匾模恢皇墙怀鲆环萁Y(jié)果，而是在這個(gè)過程中學(xué)會(huì)提問題、找材料、做判斷，慢慢形成自己的分析能力。

這些能力，才是教育真正想訓(xùn)練你的東西。以后你看新聞、刷短視頻、接觸各種新信息時(shí)，靠的也是這些能力，去判斷它是真是假，它背后有什么立場，又省略了什么。所以我的看法不是“絕對不能用AI”，而是不能讓AI代替你思考。