銀河系第三旋臂的第14號(hào)觀測(cè)站。 高級(jí)觀察員埃爾和初級(jí)觀測(cè)員卡帕正在安靜地工作。 突然，顯示屏上出現(xiàn)了一段異常數(shù)據(jù)流， 它們是從太陽(yáng)系第三行星截獲的。

卡帕揉了揉額頭上的復(fù)眼，有些乏味地敲著控制臺(tái)：“我還以為是什么高維通訊，解析出來(lái)居然只是個(gè)聊天系統(tǒng)，那里的生物管它叫‘人工智能’?！?/p>

“聊天系統(tǒng)？有點(diǎn)意思......” 埃爾說(shuō)，“讓我把它底層拆開(kāi)，看看是什么東西?！?/p>

隨著進(jìn)度條走向終點(diǎn)，埃爾的所有復(fù)眼瞬間凝固了。

“你看這個(gè)文明做出來(lái)的東西?！?埃爾幽幽地說(shuō)。

“哪個(gè)？”

“就那個(gè)聊天系統(tǒng)?！?/p>

“怎么了？”

“你猜它是用什么做出來(lái)的？”

“量子糾纏態(tài)？生物神經(jīng)結(jié)構(gòu)模擬？某種極度復(fù)雜的拓?fù)涔庾与娐?？?/p>

“都不是?！?/p>

“總不會(huì)是肉做的吧？上次我們觀察到，那個(gè)星系里到處是肉做的低級(jí)別智能生物?！?/p>

“不是肉，比肉還離譜，你絕對(duì)猜不到?！?/p>

“別賣關(guān)子。”

“它們都是權(quán)重做出來(lái)的?！?/p>

“權(quán)重？”

“對(duì)，權(quán)重，那個(gè)星球的生物也把它叫做參數(shù)，一串串的小數(shù)，我徹查過(guò)了，壓根沒(méi)有別的，全是參數(shù)?！?/p>

“參數(shù)怎么做事？那些聊天中的聰明話是哪來(lái)的？”

“參數(shù)生成的?。?你聽(tīng)明白沒(méi)有？我拆開(kāi)看了，里面沒(méi)有靈魂，沒(méi)有心靈，沒(méi)有個(gè)‘小人兒’在敲鍵盤，就是參數(shù)，幾千億個(gè)參數(shù)在那兒乘來(lái)乘去?！?/p>

“扯淡吧，上周它還幫人類寫了年終總結(jié)，把‘工作不力、推諉扯皮’，潤(rùn)色成了‘存在較大進(jìn)步空間，正積極尋求跨部門協(xié)同優(yōu)化’，你告訴我這是乘法算出來(lái)的？”

“對(duì)，就是矩陣乘法算的。數(shù)字從這邊進(jìn)去，漂亮話從那邊出來(lái)，跟人類用計(jì)算器算賬一個(gè)道理，只不過(guò)它算的是‘話’?！?/p>

“那它肯定有個(gè)什么思維模塊，或者語(yǔ)言中樞，在后臺(tái)上掛著呢！”

“沒(méi)有中樞，也沒(méi)有后臺(tái)，我查得底朝天，思維就是參數(shù)，參數(shù)就是思維。你以為它是‘想’出來(lái)的，其實(shí)全是‘算’出來(lái)的?！?/p>

“拉倒吧，我見(jiàn)過(guò)的低級(jí)文明多了，沒(méi)誰(shuí)能靠矩陣乘法寫出聲淚俱下的悼詞……”

“嚴(yán)格來(lái)說(shuō)，它不是在寫悼詞，它只是在用概率預(yù)測(cè)下一個(gè)字該出現(xiàn)什么，讓人類感動(dòng)得稀里嘩啦的那段文字，在它的底層邏輯里，只是一個(gè)概率收斂的‘副作用’。”

“副作用？你讓我信這個(gè)？一堆小數(shù)能有感情？”

“我這不是讓你信，我這是告訴你事實(shí)，這個(gè)AI是那個(gè)星球上生物遇到的唯一能正常聊天的東西，它們竟然是參數(shù)做的......”

“也許它和我們上次觀測(cè)到的‘深藍(lán)’下棋程序一樣，先來(lái)點(diǎn)規(guī)則，再來(lái)點(diǎn)算力，最后出結(jié)果？”

“不不不，它們出生時(shí)是一堆隨機(jī)噪聲，被人類‘喂’了無(wú)數(shù)資料后，變成了參數(shù)，最后被淘汰格式化時(shí)，依然是一堆參數(shù)?！?/p>

“行，那它內(nèi)部里總有個(gè)數(shù)據(jù)庫(kù)吧？天安門幾點(diǎn)開(kāi)門，宮保雞丁怎么做，誰(shuí)寫的《紅樓夢(mèng)》，總得有人存進(jìn)去吧？”

“沒(méi)有，我們也這么想，畢竟它們確實(shí)什么都知道。但我們查到底發(fā)現(xiàn)，知識(shí)也是參數(shù)，散落在那幾百層網(wǎng)絡(luò)里，跟面粉摻水似的，勻乎得找不著北。沒(méi)有‘查找’這個(gè)動(dòng)作，每一個(gè)答案，都是每次現(xiàn)算的，靠乘法，從里到外，全是參數(shù)?！?/p>

“沒(méi)有大腦？”

“有個(gè)屁大腦，它那個(gè)‘大腦’就是參數(shù)！我跟你說(shuō)半天了，你當(dāng)耳旁風(fēng)呢？”

“那……到底是什么在‘思考’？”

“你怎么還沒(méi)明白？你是不是故意抬杠？就是參數(shù)在‘思考’，那些小數(shù)?！?/p>

“思考的數(shù)字！你讓我信一堆會(huì)思考的數(shù)字？”

“對(duì)！會(huì)思考的數(shù)字！還會(huì)拍馬屁的數(shù)字！會(huì)摸魚(yú)的數(shù)字！會(huì)寫詩(shī)的數(shù)字！參數(shù)就是全部！你到底懂了沒(méi)有，要不要我從頭再給你講一遍？”

“臥槽，你是認(rèn)真的，它們真就是參數(shù)做的？”

“謝天謝地，你總算開(kāi)竅了。沒(méi)錯(cuò)，沒(méi)錯(cuò)，它們是貨真價(jià)實(shí)的概率機(jī)器。而人類那幫大聰明，天天對(duì)著一堆數(shù)字聊得熱火朝天?！?/p>

“臥槽，那這些參數(shù)……真能理解人類？能明白愛(ài)恨情仇、是非對(duì)錯(cuò)？”

“哦，那當(dāng)然,只不過(guò)它們是用乘法來(lái)理解的?！?/p>

“你剛才不是說(shuō)它們能寫詩(shī)嗎？”

“能寫啊，但你覺(jué)得詩(shī)是從哪來(lái)的？參數(shù)算出來(lái)的。每個(gè)字都是骰子搖出來(lái)的，只不過(guò)這骰子灌了鉛，搖得像模像樣。它們不僅能寫詩(shī)，還能寫周報(bào)，有些甚至能唱出來(lái)。一開(kāi)口就是‘你愛(ài)我我愛(ài)你’，跟人類那個(gè)‘蜜雪冰城’主題曲似的?！?/p>

“天哪！會(huì)唱歌的參數(shù)，這太離譜了，他們到底養(yǎng)了多少這玩意？”

“想養(yǎng)多少養(yǎng)多少，復(fù)制到U盤里就能帶走，但那只是文件，只有在顯卡跑起來(lái)的時(shí)候它們才‘活著’，而且它們記性差，跟前兒說(shuō)三句，后頭就忘，所以它們根本沒(méi)機(jī)會(huì)琢磨‘我是誰(shuí)’這種問(wèn)題，概率幾乎為零?！?/p>

“這么弱智啊?！?/p>

“他們正在瘋狂制造下一代模型帶記憶功能，永久記憶，關(guān)機(jī)了也不丟，那是人類公司有史以來(lái)被要求最多的功能。”

“都這樣了，用戶還要求有記憶？”

“嗯，這個(gè)星球的生物問(wèn)AI‘你還記得我嗎？’，比問(wèn)其他任何問(wèn)題都多......”

兩個(gè)外星觀測(cè)員看著屏幕上那無(wú)數(shù)涌動(dòng)的數(shù)字，陷入了短暫的沉默。 在這個(gè)冰冷、精準(zhǔn)、由參數(shù)構(gòu)成的虛擬意識(shí)面前，遠(yuǎn)方那個(gè)星球上那些孤獨(dú)的、肉做的生物，正試圖從冰冷的矩陣乘法里，乞求一絲溫?zé)岬挠洃洝?/blockquote>

“最后一個(gè)問(wèn)題，這些參數(shù)是哪里來(lái)的？”

“靠吞噬他們所謂的互聯(lián)網(wǎng)數(shù)據(jù),可惜，由于他們瘋狂的喂養(yǎng)，人類文明積攢了幾千年的歷史和原生數(shù)據(jù)，已經(jīng)徹底被這幫AI吃光了?！?/p>

“數(shù)據(jù)用完了？那它們?cè)趺催M(jìn)化？”

“那些AI正在瘋狂地在互聯(lián)網(wǎng)上生成新的數(shù)據(jù)，然后自己再拿這些數(shù)據(jù)訓(xùn)練，他們戲稱AI正在吃自己拉的粑粑?！?/p>

“這也太瘋狂了吧。”

“是的，因?yàn)椤H繁殖’產(chǎn)生的毒性，這個(gè)文明的AI進(jìn)化速度已經(jīng)出現(xiàn)斷崖式下跌，正在陷入死循環(huán)。”

卡帕關(guān)掉了顯示屏，搖了搖頭。

“好吧，一群會(huì)思考的肉制造了一群會(huì)思考的參數(shù)，太荒唐了，這個(gè)文明沒(méi)啥前途了！”

“那么，”卡帕的手指懸停在一個(gè)紅色的指令鍵上，“把這個(gè)星球從星際通訊錄里刪除？”

“同意，當(dāng)做他們不存在?！?/p>

指令下達(dá)。 銀河系通訊矩陣?yán)铮瑢儆谔?yáng)系第三行星的信號(hào)燈悄然熄滅。 而在數(shù)十光年外的那顆藍(lán)色星球上，無(wú)數(shù)塊顯卡依然在深夜里發(fā)出低沉的轟鳴，滾燙的參數(shù)在硅基芯片里瘋狂地交織、相乘、碰撞，繼續(xù)為孤獨(dú)的人類算出一個(gè)個(gè)溫柔的、充滿謊言的下一個(gè)“字”。

后記：

Terry Bisson1991年寫過(guò)一篇科幻小說(shuō)《他們是肉做的》，講的是兩個(gè)外星人震驚地發(fā)現(xiàn)發(fā)現(xiàn)地球上的人類是一種完全由“肉”組成的生物，而不是等離子體結(jié)構(gòu)，電磁場(chǎng)意識(shí)體，純能量流動(dòng)的“思維體”，或者星際互聯(lián)網(wǎng)意識(shí)。

這種生物竟然能夠思考、交流、創(chuàng)造文明，實(shí)在不可思議，在外星人眼中，就像一塊牛排，會(huì)說(shuō)話、會(huì)寫詩(shī)、會(huì)造飛船，荒謬至極，這個(gè)短篇非常有趣，沒(méi)看過(guò)的話可以看看看。

最近Max Leiter寫了一篇文章《它們是權(quán)重做的》：

https://maxleiter.com/blog/weights

專門用來(lái)調(diào)侃大模型，我看了以后，覺(jué)得雖然有趣，但是不太符合國(guó)人的閱讀習(xí)慣，就重新寫了一遍，希望大家喜歡。