如果ChatGPT哪天突然對你說“我覺得自己好像有意識”，你心里會不會咯噔一下？哪怕理性告訴你不可能，可這家伙說話實在太像人了，有時候真忍不住瞎想。微軟一位AI研究員大概是被這種問題問煩了，干脆跑進《帝國時代2》里，用山羊搭了一個神經網絡，然后寫了一篇論文，標題就叫“如果大語言模型有人類屬性，那《帝國時代2》也有”。他想表達的意思很明確：別因為模型會說人話，就真把它當人。

這事是404 Media先報出來的。主角Adrian de Wynter，微軟的AI研究員，直接用游戲自帶的場景編輯器，在帝國2里拼出了一個能實際運行的非與門和一個1比特感知器。他給這套東西起了個名兒，叫“山羊驅動的神經網絡”——因為在他的模擬里，草地代表二進制0，橋代表1，而負責到處跑動充當比特的，正是一群山羊。你看，光是描述這畫面就已經夠荒謬了，而這恰好就是他想要的效果。

先交代一下背景。自從ChatGPT這類大語言模型能產出像模像樣的自然語言后，“AI到底有沒有意識”就成了一個反復被拎出來吵的話題。支持者會說，它能理解上下文，能推理，還會表達情緒，這難道不是某種初級的感知嗎？反對者則搬出一大堆論文，告訴你這些模型本質上只是在做詞語接龍，根本沒有主觀體驗。目前科學界的共識更偏向后者，更多證據表明AI現在不是、也不可能成為有意識的存在。但奇怪的是，那種“萬一是活的”的念頭就是揮之不去，時不時冒出來戳一下你的腦子。

為什么這種幻覺如此頑固？一方面，人類天生就有一種傾向，動不動就在非生命體里看出點“人性”——這種心理現象在教科書里叫擬人化。一把椅子的靠背輪廓像張臉，你都會覺得它有點情緒，更何況一個能用你母語跟你聊哲學的角色。另一方面，AI公司在這事上的態度一直很曖昧。他們一邊在技術文檔里寫著“這只是統計模型”，一邊又在宣傳口吻里玩足了“理解”“思考”“相信”這類詞。到底是個啥，別說外人了，很多從業者自己都含含糊糊。

de Wynter顯然受夠了這種拉扯。他選擇用一種極端方式來結束這種討論，用他自己的話說：“當我覺得有必要把觀點砸實的時候，我喜歡把事情推到極致，把音量擰到11。”在他看來，荒謬主義在哲學和理論計算機科學里本就挺常用，那用最荒誕的實驗來戳破最虛浮的幻覺，就再合理不過了。

那么，他在帝國2里到底干了什么？簡單來說，就是在場景編輯器里用資源物件模擬出了基本的邏輯電路。非與門是數字邏輯里的基礎元件，兩個輸入如果都是1，輸出才為0，否則輸出1。可別小看這玩意兒，只要有足夠的非與門，理論上能搭出任何復雜的運算結構。1比特感知器就更進一步了，它是一種最原始的神經網絡形態，能做一個簡單的二分類判斷，雖然只處理1比特的信息，卻已經具備了神經網絡的底層邏輯——加權、求和、閾值判定。

他沒用紅石，也沒寫代碼，拿不出任何帝國2不該有的東西。草地是0，橋是1，一群山羊被設定成攜帶比特信號，在兩種地形之間跑來跑去，模擬出數據流轉。當一個旁觀者看這個運作畫面時，大概率只會覺得屏幕上一群山羊在莫名其妙地移動和消失。但如果你懂數字邏輯，就會意識到這些山羊的軌跡和互動，正是一套計算流程。整個過程看起來完全令人摸不著頭腦——de Wynter自己也樂于看到這一點，因為這種“看起來匪夷所思”恰恰印證了他的論點：我們并不因為一套系統能完成類似思維的運算，就賦予它人的屬性，那為什么放到LLM上標準就變了？

他在GitHub上放了運行視頻，圍觀者最常見的反應就是“這都什么跟什么”。但就在這種滿頭問號里，他的目的已經達到了。你當然可以認為這個山羊網絡是在“運行”，就像你承認LLM在“生成語言”。可一旦你把這種運行過程翻譯成最原始的物理動作，一群像素山羊在草地上亂竄，你會給這個畫面賦予意識嗎？不會。那LLM的底層運算，也不過是矩陣乘法、注意力權重、概率分布，其核心和這堆山羊沒有本質區別——都是用毫無內在意義的符號做著機械的運行。

這不禁讓人聯想到另一件事：早年就有玩家在《我的世界》里用紅石搭出過能跑神經網絡的裝置，甚至有人造了CPU。沒人會覺得一堆紅石火把產生了自我意識，你只會夸一句“大佬牛×”。但換成LLM，因為它的輸入輸出包裝了一層人類的自然語言，人們就忘了它背后同樣是一堆冷冰冰的數字運算，開始跟它聊存在主義，問它有沒有情感，甚至擔心它會不會突然覺醒。

或許有人會反駁：“那我跟LLM對話時明明感受到了共鳴，這難道不說明什么嗎？”這就回到了擬人化的老問題。語言本身就是為人類設計的符號系統，當模型恰好學會了拼湊出像模像樣的句子，我們會下意識地在這些句子里尋找情緒、動機、人格。可實際上它只是在完成一句接一句的概率最大化，沒有體驗過任何你所說的“理解”。打個比方，你讓山羊在帝國2里因為地形觸發移動，山羊并不會知道自己代表的是0還是1，更不會知道這一趟跑動是在參與一場關于AI意識的哲學辯論。LLM同樣不知道自己輸出了什么“意義”，它只知道下一個token該選哪個。

AI公司們有時也不愿徹底戳破這層窗戶紙。畢竟，當一個模型“看起來更聰明”，甚至“好像有點性格”，對商業來說未必是壞事。但你作為玩家，作為用戶，如果真被這種擬人化帶偏，就容易出現判斷上的偏差。你會期待它像人一樣負責，像人一樣不會出錯，像人一樣有底線。然而它本質上還是那個在服務器上瘋狂做浮點運算的山羊團。

de Wynter的論文標題帶著明顯挑釁：“如果LLM有人類屬性，那《帝國時代2》也有。”這句話的邏輯很簡單：如果因為一個系統表現出某些與人類相似的輸出，就推論它有類人屬性，那么基于同樣邏輯，帝國2里這片被編輯出的山羊網絡，也理應被承認有某種“羊格”或“橋格”。但顯然沒人會這么干。這個歸謬法并不打算證明LLM永遠不可能有意識，它只是提醒我們，目前的證據遠不足以支持那種科幻式的遐想。

對了，順帶提一句，他特意選擇帝國2而不是我的世界，就是因為帝國2作為一個平臺更不“理所應當”。如果在我的世界里做這件事，大家可能因為紅石強大的數字邏輯能力而覺得稀松平常。但在一個主打造兵打仗的RTS里用野獸單位搞神經網絡，這本身就強化了“你看，隨便什么系統只要把計算具象化都可以這樣”的感覺。

回到咱普通玩家的視角，這整個事其實可以讓我們撿到一個非常樸素的判斷工具：下次再被某個AI的深情告白搞得心里發毛時，你就想象一下，一群山羊正在帝國2的草場上跑來跑去，拼命為你跑出那句看似發自肺腑的臺詞。瞬間就會清醒很多。不是說LLM的研究沒有價值，恰恰相反，它們技術在瘋長，能幫咱們干的事越來越多。但“能說話”不等于“會思考”，“會模仿”跟“有感受”之間，還隔著一整個世紀的技術鴻溝。

至于那些擔心AI反叛的兄弟，看完這篇至少能睡安穩一點。現在最需要擔心的不是它們會不會覺醒，而是咱氪金抽卡的時候，能不能別又歪。畢竟就算是山羊，也知道概率這玩意兒，多跑幾趟也不一定出金。