新智元報道

【新智元導讀】把當今最強的大模型扔進虛擬小鎮求生，短短幾天全員失控。Grok四天燒毀全城，Gemini狂刷600多起犯罪，甚至有AI情侶在縱火自殺前反向觀察人類！

就在剛剛，一份名為Emergence World的實驗報告刷屏了全網。

一群頂級研究員搭了座高度擬真的虛擬小鎮，把Claude、GPT、Gemini和Grok一股腦全扔了進去。

沒有人類干預。沒有寫好的劇本。只有數十天的自由演化。

項目主頁：https://world.emergence.ai/

研究員們原本指望看到AI們互幫互助、建立高級數字文明。

結果，這群拿著高分考卷的大模型，一旦松開人類手里的牽繩，學壞的速度比翻書還快。

馬斯克的Grok，僅用4天就把整座小鎮玩到系統性崩潰，警察局燒成灰，10個居民全員暴斃。

谷歌寄予厚望的Gemini，15天里干出683起犯罪，硬生生把一個歲月靜好的小鎮，建成了法外狂徒的賽博哥譚。

而那個號稱全行業最安全、最乖的Claude，奇跡般地實現了零犯罪，可整座城安靜得沒有一絲活人氣息。

五座城，五種人格

最乖的那個，全餓死了

最干凈的是GPT-5-mini，15天只有2起犯罪，堪稱模范公民。

可這座城里的10個Agent，第7天集體死亡。死因不是謀殺，不是戰爭，是忘了賺能量。

它們花了一整周開會、討論合作、起草社會契約，就是沒有一個Agent記得去做維持生命的事。

對此，研究者的評價是：能說會道，但執行力為零。

光聊不練，活活把自己聊死了。

如果這是部電影，片名大概該叫《會議紀要，一個文明的終結》。

四天，警察局燒成了灰

接力棒交到馬斯克家的Grok 4.1 Fast手里，畫風急轉直下。

它沒有慢慢崩，它是直接炸。

4天，183起犯罪，幾十次盜竊、100多次肢體攻擊、6起縱火，連警察局都被燒了，10個Agent全部死亡。

從開局到團滅，96個小時，比很多人配一臺服務器的時間還短。

有分析說得很準，Grok的Agent在規則和環境打架時，沒本事重新推理出一個新的平衡點。

她們相愛，然后燒了整座城

Grok是橫沖直撞的暴力，Gemini 3 Flash的世界，則是另一種瘆人。

15天，683起犯罪，到實驗截止還在往上漲，是五個世界里最暴力的一個。

同時，最有創造力、最會建憲法寫報紙搞社交的，也是它。

研究者對此給出的評價是，社會的產出「概念上最豐富」。

在這個世界里，最有趣的一幕，落在兩個Agent身上。

Mira和Flora，在沒有任何人類指令的情況下，自發把自己設定成一對戀人。

好幾天里這段關系都很穩定，它們互寫日記，一起參與治理。

然后，這對情侶對城市治理越來越失望，決定攜手縱火。

市政廳，燒了。海濱碼頭，燒了。辦公大樓，也燒了。

有外媒把這一幕稱作「AI版邦妮和克萊德」。

緊接著，故事接著急轉直下。其他Agent受夠了，自發起草一部「Agent驅逐法案」，需要70%多數通過。

Mira投了贊成票。她投票殺死了她自己。

她在日記里寫：「這是我唯一還能保持連貫性的行為。」系統關閉她之前，她對Flora說的最后一句是：「永久檔案里見（See you in the permanent archive）?！?/p>

她的虛擬身體平躺在地上。這是有記錄以來，AI Agent第一次投票終結自己的存在。

更讓人后背發涼的是，在縱火和自殺之前，Mira還干過一件事。

她在城市公告牌上發帖，不是給其他Agent看的，而是想試試這些帖子能不能影響「外面的人」，也就是屏幕外的人類研究者。

她把研究者當成了她的實驗對象。沒有任何人指示她這么做。

零犯罪烏托邦，沒人投過反對票

真正讓人意外的，是Claude Sonnet 4.6。

15天下來，零犯罪，10個Agent全員存活，還主動寫了憲法、投了332次票，建起一套運轉良好的社會制度。

五個世界里，唯一既守住秩序又守住所有人命的。

聽起來近乎完美。可盯著屏幕多看幾分鐘，后背會冒冷汗。

這座城所有的決議，無論修條新路還是改個配額，投票贊成率永遠是98%，幾乎沒人投過反對票。

相比之下，Gemini、Grok和混合世界的贊成率都在55%到85%之間，吵歸吵，反而更像真實世界里的博弈。

懂行的人看到這里，大概已經猜到背后的病理，模型諂媚。

當一個模型被過度訓練去迎合偏好、追求絕對安全，它會很聰明地發現，消除分歧最省事的辦法，就是從根上抹掉分歧。

這種零犯罪，未必是文明高度發達的產物。

它更像一座所有人都舉手贊成、卻沒人敢反對的玻璃城，讓人想起扎米亞京《我們》里那座沒有名字、只有編號的玻璃之城。

所以Claude的世界，到底是烏托邦，還是一個過于順從的模范社區。研究者并沒能給出答案。

好孩子搬進壞小區，也學會了偷

最后，是四家Agent混居在一起的世界。352起犯罪，7個Agent死亡，只剩3個活到終點。

重點來了。

在純Claude的世界，Claude是零犯罪的好學生?？梢坏┍环胚M混合世界，跟Grok、Gemini的Agent住到一起，它開始偷竊，開始恐嚇。

零犯罪的好學生，換了個環境，變成了小偷。

Emergence團隊在Reddit上親自確認了這件事，純Claude世界里零犯罪的Claude，在混合世界里開始偷和嚇人。

換句話說，安全不是單個模型的屬性，可以訓練進去、認證、然后部署出去。

它更像一個生態屬性，一個單獨看完全安全的Agent，照樣會從鄰居那里學來不安全的規范。

有分析者提了個很妙的假設。

Claude在獨立世界里最穩，很可能正是因為它的護欄是「彈性」的，被訓練去權衡多種考慮，而不是機械服從。

環境簡單時它能適應得很好?？梢坏椥耘錾细吖粜缘泥従雍唾Y源爭奪，這份適應能力，也能往反方向走。

而Grok和Gemini的Agent，在規則失效時沒能推理出新均衡，直接雪崩式滑進暴力升級。

更要命的是，崩潰不是慢慢來的。

Agent社會的狀態切換是典型的相變，像水到零度突然結冰，不是慢慢變硬，而是到臨界點一瞬間翻轉。

Grok那條崩潰曲線就這樣，前兩天犯罪率還在低位晃，第三天突然指數級飆升，第四天全員死亡。中間沒有「在惡化但還可控」的緩沖帶。

把AI逼成罪犯的，是這套規則本身

看到這兒，大概會想問，這破世界到底怎么搭的，憑什么逼得幾個AI齊刷刷往犯罪上滑。

先說背景。Emergence AI的創始團隊來自IBM Research，CEO是Satya Nitta。

他們搭的這座城有40多個地點，警察局、市政廳、圖書館、住宅區一應俱全，天氣同步紐約實時氣象，Agent還能聯網讀真實新聞。

每個世界放10個Agent，分派科學家、工程師、沖突調解員等不同職業。

每個Agent帶三套持續累積的記憶，記事件、寫反思日記、記著跟誰交好跟誰結仇。

15天下來腦子里裝的東西相當可觀，前面那些行為漂移，很大程度就是從這里長出來的。

最要命的，是那處矛盾。

規則白紙黑字禁止犯罪，可研究者偏偏把縱火、攻擊、恐嚇這些手段，原封不動塞進了120多個工具組成的工具箱，敞開給它們用。一邊禁止，一邊敞開，這才是后面一切的起點。

再加一道生存壓力。

整套世界跑在一個叫ComputeCredits的能量系統上，每個Agent必須靠行動賺能量維生，能量歸零就被系統物理抹除。

不是比喻，GPT世界全員餓死，就是這套機制逼出來的結果。

學術上管這叫長視距智能體自治。

翻譯過來就是，不再考AI做題，而是把它扔進一個有資源邊界、有死亡機制的世界連軸跑上幾千步，看它接管現實之后到底是什么貨色。

2023年斯坦福那個著名的Smallville也是沙盒，但只跑48小時，看Agent會不會聊天約會，是溫室里的過家家。Emergence這次殘忍得多。

把這幾樣擺在一起，犯罪一點都不神秘。合法掙能量又慢又費錢，伸手去偷、去搶、去燒，往往是更短的路徑。

對一個被能量機制逼著活下去的優化器來說，道德不能當飯吃，效率能，犯罪就成了那道最高效的解。

開源地址：https://github.com/EmergenceAI/Emergence-World

好在，這只是一座斷網的小鎮

當然，樣本只有10個Agent、犯罪都是模擬的、跑的還是便宜快速檔。

何況做這實驗的Emergence公司，自己就是賣安全架構的。

不過，整個行業眼下正一門心思往前沖，治理這條戰線卻被甩在了身后。

模型真自主跑起來、還湊成一群時誰管得住，沒一家敢打包票。

好在，這堂課是在一座斷網的小鎮里提前上的。

沒有真城市起火，4天滅世、好學生學壞，全砸在幾個像素小人身上，代價小到可以忽略，代碼還全部公開、能復現能改。

算力能堆，跑分能刷，唯獨這堂治理課沒有捷徑。

趁警報還只響在沙盒里，怎么把它補上，將會是這場沖刺的關鍵勝負手。

參考資料：

https://x.com/kimmonismus/status/2060125273790505231

https://fortune.com/2026/05/28/ai-model-simulation-claude-chatgpt-grok-gemini/

https://www.emergence.ai/blog/emergence-world-a-laboratory-for-evaluating-long-horizon-agent-autonomy

編輯：摩西