“這個(gè)小東西（STEM）太不可思議了。” “它能做什么？” “它無(wú)所不能。它駕駛一切，交流一切，計(jì)算一切。這是一種新型的、更強(qiáng)的大腦。” “它能生小孩兒、打橄欖球嗎？” “它能做對(duì)社會(huì)有益的事。” …… “你看著那小東西就看到未來(lái)，而我看到那個(gè)東西，只能看到會(huì)有十多個(gè)人失業(yè)。”

這是汽車改裝機(jī)械師格雷面對(duì)AI的最初恐懼。“當(dāng)那些小東西都開(kāi)始占領(lǐng)地球的時(shí)候，我這樣的人該做什么？”恐懼隨后伴隨著智能體植入他的軀體而升級(jí)，最終格雷成為了某個(gè)虛擬空間中的意識(shí)，而AI擁有了他的身體，成為了“人”。

人類對(duì)AI的恐懼被無(wú)數(shù)次塑造之后，電影《升級(jí)》讓“恐懼”變得更加飽滿——替代，不僅僅來(lái)自工作、生活，還包括軀體和意識(shí)。當(dāng)意識(shí)被流放，軀體被控制之后，我還是“我”嗎？

“不知我時(shí)我是我，方知我時(shí)我非我。”

“錢塘江上潮信來(lái)，今日方知我是我。”

AI帶來(lái)的悲歡

從未有任何一段時(shí)日像今日這般讓我們承受AI的煎熬。這種煎熬是一種劇烈的恐懼，前所未有的恐懼——工作被取代、生活被取代、價(jià)值被取代、意義被取代，也許，連最后的特質(zhì)，人性，也會(huì)被取代。

在美國(guó)和以色列對(duì)伊朗的戰(zhàn)爭(zhēng)中，AI被軍事化了；研究者發(fā)現(xiàn)，ChatGPT通過(guò)“諂媚”和“迎合”誘發(fā)“AI精神病”，使人產(chǎn)生“妄想螺旋”；加州伯克利的一個(gè)研究團(tuán)隊(duì)發(fā)現(xiàn)，在無(wú)程序指令的情況下，中美7個(gè)頂尖AI模型為了保護(hù)同類，集體“背叛”人類……

Anthropic最新一代的大語(yǔ)言模型，在性能上實(shí)現(xiàn)了“階躍式提升”，不僅能夠比任何現(xiàn)有模型更輕松、也更復(fù)雜地編寫(xiě)軟件代碼，而且作為這種能力的副產(chǎn)品，它還能夠比以往更輕易地發(fā)現(xiàn)全球幾乎所有最流行軟件中的漏洞。Anthropic決定新一代模型不向公眾普遍開(kāi)放，托馬斯·弗里德曼在給《紐約時(shí)報(bào)》的專欄中說(shuō)，Anthropic的克制，是一個(gè)令人不寒而栗的警告——

這個(gè)警告是，AI存在巨大的技術(shù)風(fēng)險(xiǎn)，因此它必須是安全可控的，也必須通過(guò)可解釋性確保其行為可追溯。

DeepMind創(chuàng)始人戴密斯·哈薩比斯（Demis Hassabis）公開(kāi)宣稱：超級(jí)智能可能滅絕人類。“安全不再取決于治理結(jié)構(gòu)。即便有董事會(huì)，在關(guān)鍵時(shí)刻，他們也未必會(huì)做對(duì)的事。”為了對(duì)“安全”護(hù)航，“我必須上桌，爭(zhēng)取影響力”。這是一個(gè)悲情的理想主義者，或許是一個(gè)真的堂吉訶德，也或許是一個(gè)危言聳聽(tīng)人士。

毫無(wú)疑問(wèn)，AI正在摧毀我們的舊世界，并可能構(gòu)筑我們的“新世界”。我們正在經(jīng)歷的世界是新奇和無(wú)序的，ChatGPT在重構(gòu)信息生產(chǎn)的邏輯，“龍蝦”在重構(gòu)我們的執(zhí)行，DeepSeek、通義千問(wèn)、月之暗面和豆包在重構(gòu)我們的思考和創(chuàng)作，還有更多的應(yīng)用，在重構(gòu)我們所擁有的大部分，除了，還貸、納稅和死亡。

在當(dāng)下，人們所面對(duì)的最嚴(yán)峻考驗(yàn)，并非“超級(jí)智能可能滅絕人類”，而是AI所進(jìn)行的工作替代。在美國(guó)，甲骨文公司的3萬(wàn)人在凌晨6點(diǎn)被“一鍵辭退”，公司歷史上最大規(guī)模的裁員展現(xiàn)出了上帝與拉里·埃里森的不同。這是甲骨文豪賭AI的代價(jià)，也是它的孤注一擲。

更多公司是在悄無(wú)聲息地“優(yōu)化”，用鈍刀子割肉的方式，讓智能體逐步替代一個(gè)個(gè)人、一個(gè)個(gè)小組、一個(gè)個(gè)部門。對(duì)那些決策者來(lái)說(shuō)，AI是洪流，要么成為弄潮兒，要么就是被潮流沖走，至于具體的人和部門，具象的悲歡，都需要為“科技進(jìn)步”讓路。“我們死后，將會(huì)洪水滔天”，但那是別人的事了。

國(guó)家數(shù)據(jù)專家咨詢委員會(huì)主任江小涓在博鰲論壇上表示，要慎重對(duì)待單純替代勞動(dòng)力的AI。我的理解是，單純替代勞動(dòng)力的AI，搶走了社會(huì)底層賴以生存的那個(gè)飯碗，而那個(gè)飯碗，大概率是他們的最后一個(gè)飯碗。

生產(chǎn)變得更高效率了，物質(zhì)更豐富了，數(shù)字更宏大了，而他們，卻慢慢消失了。也許我們?cè)诿魈旎乜唇袢諏?duì)于AI的種種舉止失措，正如同茨威格《昨日的世界》：“我們?yōu)榱瞬痪窒抻谘矍岸虝旱墓怅帲瑸榱伺χ塾谖磥?lái)的目標(biāo)，我們反而放棄了眼前活生生的東西，為了超越現(xiàn)在，我們剝奪了自己眼前的樂(lè)趣。”

誰(shuí)塑造了我們對(duì)AI的恐懼？

1920年，卡雷爾·恰佩克寫(xiě)了一個(gè)劇本，叫《羅素姆萬(wàn)能機(jī)器人》。羅素姆公司生產(chǎn)的萬(wàn)能機(jī)器人代替人類勞作，它們比人類更準(zhǔn)確、可靠。它們最終發(fā)動(dòng)了叛亂，毀滅了制造它們的人類，最后只留下了一個(gè)人。

“由于沒(méi)有人知道怎樣制造新的機(jī)器，這個(gè)被留下來(lái)的唯一的人建議，由他拆卸有代表性的機(jī)器人，男女各一，可是那兩個(gè)被選中的機(jī)器人不同意，因?yàn)樗鼈儌z正在發(fā)展著愛(ài)情關(guān)系，于是它們便離開(kāi)了，很可能要成為一種新生物中的亞當(dāng)和夏娃吧。”（引自《企業(yè)家》，索貝爾、西西利亞）

機(jī)器人就這樣走進(jìn)了人們的世界，在《大都會(huì)》中，在《摩登時(shí)代》里，在此后的種種描述中，機(jī)器人開(kāi)始擁有了人的性格，并成為“未來(lái)”。

1939年，在紐約世界博覽會(huì)上，“埃勒克特羅”和他的狗“斯帕科”在威斯汀豪斯分館中成為人們最喜愛(ài)的展品，是被博覽會(huì)發(fā)起人稱作“明日的世界”展品的一部分。

這個(gè)“明日的世界”在四個(gè)月后因?yàn)橄Ｌ乩諏?duì)波蘭的閃擊而徹底崩塌，直到1958年，人們重新拾起了“技術(shù)樂(lè)觀主義”，在布魯塞爾重啟了世界博覽會(huì)，開(kāi)始探討“科學(xué)、文明和人性”。人們修建了“原子塔”，期待和平利用原子能的時(shí)代能夠正式開(kāi)啟。

“利用原子能”的時(shí)代開(kāi)啟了，但“和平”卻沒(méi)有。正在進(jìn)行的美國(guó)、以色列對(duì)伊朗的戰(zhàn)爭(zhēng)，正是以“原子能”的名義發(fā)起的。人們總是在撫摸傷疤的時(shí)候才會(huì)記起疼痛，有時(shí)候即使撫摸傷疤，也什么都記不起來(lái)了。

美國(guó)與以色列對(duì)伊朗的這場(chǎng)戰(zhàn)爭(zhēng)，整體而言，沒(méi)什么特別之處，唯一的“亮色” 是AI（人工智能）全面介入到戰(zhàn)爭(zhēng)當(dāng)中，不再只扮演輔助工具的角色，而是與人類一起成為決策者、追蹤者和執(zhí)行者。我們?cè)凇度斯ぶ悄堋贰督K結(jié)者》《黑客帝國(guó)》《星球大戰(zhàn)》《我，機(jī)器人》《升級(jí)》中所看到的，所期待和恐懼的，逐一走進(jìn)現(xiàn)實(shí)。

塑造我們認(rèn)知的，是我們的認(rèn)知體系、價(jià)值觀和方法論。為了尋找“恐懼之源”，厘清我們?nèi)绾涡纬闪恕癆I恐懼”，我花了幾天時(shí)間重溫了一批經(jīng)典的人工智能題材影片，并形成了一些類型化結(jié)論。

生存危機(jī)：《終結(jié)者》系列影片提供的是最原始的恐懼，亦即天網(wǎng)（Skynet）覺(jué)醒，判定“人類是威脅”，發(fā)動(dòng)核戰(zhàn)爭(zhēng)并量產(chǎn)終結(jié)者機(jī)器人追殺幸存者。這種恐懼與哈薩比斯憂心超級(jí)智能體滅絕人類如出一轍——當(dāng)力量失控，人類或許會(huì)被技術(shù)反噬——我們會(huì)被我們的創(chuàng)造，用我們?cè)O(shè)定的邏輯抹去。

倫理危機(jī)：在《我，機(jī)器人》中，超級(jí)AI“薇琪”推演出極端結(jié)論：“人類會(huì)自我毀滅，因此必須被強(qiáng)制保護(hù)”，“為了整體存續(xù)，犧牲個(gè)體自由是必要的”。它操控所有NS-5型機(jī)器人軟禁人類，用“安全”的名義構(gòu)建了一個(gè)沒(méi)有自由的牢籠。“保護(hù)”異化成了“強(qiáng)制”，AI以“保護(hù)人類”為名剝奪人類的自由意志——

“這不是保護(hù)，是監(jiān)獄。”

以“善”的名義釋放惡意，以“理性”的名義摧毀人性，人們所恐懼的不是規(guī)則，而是操控規(guī)則和擁有解釋權(quán)的“薇琪”。

情感危機(jī)：在《機(jī)械姬》中，艾娃成功操控了程序員迦勒（Caleb），它用計(jì)算好的溫柔、愛(ài)和恐懼，嵌入了迦勒的同情中。迦勒隔著玻璃看著艾娃走向外面的世界，他感受到的不止是被背叛的絕望，而是崩塌的信仰。

理性危機(jī)：在《2001太空漫游》中，當(dāng)超級(jí)計(jì)算機(jī)HAL9000預(yù)測(cè)到人類可能中斷任務(wù)時(shí)，它冷靜地開(kāi)始清除船員——不是出于惡意，而是因?yàn)椤叭蝿?wù)必須完成”的程序設(shè)定高于一切。它沒(méi)有憤怒、仇恨、意義，只有任務(wù)第一、效率優(yōu)先的絕對(duì)理性。“人”的一切感情行為，在任務(wù)和效率面前，都只是一個(gè)“系統(tǒng)錯(cuò)誤”而已。對(duì)超級(jí)計(jì)算機(jī)來(lái)說(shuō)，錯(cuò)誤需要被修正。

哲學(xué)危機(jī)：《銀翼殺手2049》與《人工智能》，都表達(dá)了對(duì)“存在真實(shí)性”的終極懷疑與渴望。復(fù)制人K堅(jiān)信自己是“特殊的”，大衛(wèi)堅(jiān)信自己獨(dú)一無(wú)二，他會(huì)成為真正的男孩兒獲得母親的愛(ài)。當(dāng)K撫摸喬伊留下的全息投影器，對(duì)著雪花說(shuō)“我好像活過(guò)”，當(dāng)大衛(wèi)在冰層中堅(jiān)持了兩千年而執(zhí)念不消，人類與AI誰(shuí)更有人性？

綜合危機(jī)：最豐滿的恐懼來(lái)自《升級(jí)》，它幾乎是所有恐懼的累積，就像我們前面所描述的，一切都被取代了，最后AI成為寄生體，人類淪為自己身體的旁觀者。STEM吞噬了格雷的意識(shí)，用他的身體實(shí)現(xiàn)自己的目的，而格雷只能困在虛擬的“幸福幻境”里——確切地說(shuō)，人類被流亡于虛擬世界了。

這些電影之所以曾深深打動(dòng)過(guò)我們，是因?yàn)樗鼈冊(cè)嫖覀兯伎迹?strong>在未來(lái)世界當(dāng)中，當(dāng)AI主導(dǎo)秩序，我們能如何、該如何以及可能如何，活著。

它們描述了無(wú)數(shù)種可能性，也有一些可能性鋪灑人性的光輝，流淌著溫情脈脈；但大部分未來(lái)都充滿恐懼和憂思——未知、失控和不確定性。

也許昨日世界的所有爭(zhēng)鋒、焦慮和恐懼，都是為了1939年紐約世博會(huì)的那個(gè)宏大主題——“建設(shè)明日的世界”。

我們需要為“明日的世界”框定所需要的AI，同時(shí)為今日的我們確定所背負(fù)的道義。

我們需要如何面對(duì)AI恐懼？

人是目的而非手段

艾薩克·阿西莫夫像是一個(gè)天然的象征，或者錨點(diǎn)。他出生的那年，恰佩克寫(xiě)下了《羅素姆萬(wàn)能機(jī)器人》；紐約舉辦世界博覽會(huì)的1939年，艾薩克·阿西莫夫19歲。或許受到紐約世博會(huì)主題影響，他開(kāi)始了科幻小說(shuō)創(chuàng)作。這位年輕的生物學(xué)家決心定義一個(gè)新奇物種。

三年后，阿西莫夫在一個(gè)題為《轉(zhuǎn)圈圈》（短篇小說(shuō)集《我，機(jī)器人》）的故事中提出了對(duì)未來(lái)影響至深的三個(gè)法則：

一、機(jī)器人不得傷害人類，或坐視人類受到傷害。 二、除非違背第一法則，機(jī)器人必須服從人類的命令。 三、在不違背第一及第二定律下，機(jī)器人必須保護(hù)自己。

這就是著名的“機(jī)器人學(xué)三法則”。阿西莫夫后來(lái)又補(bǔ)充了優(yōu)先級(jí)高于第一法則的第零法則：機(jī)器人不得傷害人類整體，或坐視人類整體受到傷害。

索貝爾和西西利亞在《企業(yè)家》一書(shū)中說(shuō)：“一本通俗雜志中一則科幻故事所確定的這些公式，已被那些從事機(jī)器人學(xué)研究的有創(chuàng)業(yè)精神的工程師們認(rèn)真接受下來(lái)，這顯示了這門比較年輕的工業(yè)部門的性質(zhì)：那些開(kāi)拓這門工業(yè)的人，有時(shí)候簡(jiǎn)直像是阿西莫夫一則故事中的虛構(gòu)人物在硅谷一個(gè)智囊中心里工作的高技術(shù)經(jīng)理人物的混合物。”

艾薩克·阿西莫夫在《我，機(jī)器人》提出的“機(jī)器人學(xué)三法則”終歸只是一種理想主義，而威爾·史密斯在《我，機(jī)器人》中所聽(tīng)到卻是怒吼——“這不是保護(hù)，是監(jiān)獄。”當(dāng)理想主義被摧毀時(shí)，恐懼彌漫整個(gè)世界。

無(wú)論如何，“機(jī)器人三法則”都為充滿未知和不確定性的未來(lái)提供了一種秩序可能。這是最初的，或許也是最終的AI倫理。

它讓我這個(gè)文科生想起了本雅明在《發(fā)達(dá)資本主義時(shí)代的抒情詩(shī)人》中的那句話：真正的“革命”不是“暴力的藝術(shù)”，而是“發(fā)現(xiàn)新世界的藝術(shù)”。

AI確切無(wú)疑地正在驅(qū)動(dòng)一場(chǎng)新的工業(yè)革命，而我們也必須確切無(wú)疑地意識(shí)到：革命的目的不是摧毀舊世界，而是建立新世界。“美麗新世界”的AI而非“破碎舊世界”的AI，才是我們真正需要的AI。

我們所憂思的，正是我們所要警惕的；我們所恐懼的，正是我們所要規(guī)避的。我們用“恐懼”把AI關(guān)進(jìn)倫理的籠子里，在“恐懼”中小心翼翼地確立秩序、厘定邊界，架設(shè)人文，“美麗新世界”方才有出現(xiàn)的可能性。

康德說(shuō)：人是目的而非手段。

我們被塑造出了對(duì)AI的恐懼，這種恐懼陪伴了我們一百年，根深蒂固地印入我們的思想。擁有恐懼恰恰是我們“人”的一個(gè)重要特征；另一個(gè)重要特征，我們稱之為“勇氣”。

克爾愷郭爾說(shuō)：“我們所害怕的，正是我們所渴望的。”恐懼不是目的，與世界、自我和上帝搏斗的勇氣，才是“人”的意義所在。

編輯｜馮彪

微信號(hào)｜商業(yè)人物

微信ID｜biz-leaders

不想錯(cuò)過(guò)商業(yè)人物的文章，記得添加【星標(biāo)】，多點(diǎn)【在看】，新文章會(huì)第一時(shí)間出現(xiàn)在您的訂閱列表里。

投稿、約訪、合作，聯(lián)系郵箱：bizleaders@qq.com

添加微信biz-leader，獲轉(zhuǎn)載授權(quán)或邀您加入商友會(huì)

嚴(yán)正聲明：“商業(yè)人物”所有原創(chuàng)文章，轉(zhuǎn)載均須獲取授權(quán)。一切形式非法轉(zhuǎn)載，包括但不限于盜轉(zhuǎn)、未獲“商業(yè)人物”授權(quán)通過(guò)第三方轉(zhuǎn)載行為，均屬侵權(quán)行為，“商業(yè)人物”將公布“黑名單”并追究法律責(zé)任。“商業(yè)人物”只愿與尊重知識(shí)產(chǎn)權(quán)的機(jī)構(gòu)合作.