狼真的來了！AI有了自主意識，人類將何去何從？

有關AI的話題已經討論很多年了，一般持有兩種觀點：一種觀點認為，AI是人制造出來的，最終逃脫不了人的掌控；另一種觀點認為，人類制造了AI，最終必將被AI所超越，AI很可能是未來世界的掌控者，而人類生存將受到威脅。

AI就是人工智能，人工智能到底會不會產生自主意識，這才是問題的實質，也是上述兩種觀點能否成立的關鍵因素。不會產生自主意識，當然就一直受到人類掌控；反之，則必將成為人類一大威脅。

因為這個世界上，只有人類具有明顯的自主意識，迄今為止，還沒有發現其他動物中存在明顯的自主意識。有些動物在所謂的鏡子實驗等科學測試中，有一些微弱的自主意識，但由于沒有思維工具~概念和語言的支持，就無法形成族群意識，發展不出高智慧，也就無法形成對人類的威脅。

所謂自主意識，聽起來很玄乎，但說起來很簡單，就是每個人都能夠認識到“我”就是“我”，能夠清晰的把“我”區別于其他人和物體。這看起來很簡單，但卻是人類上千萬年逐漸進化發展出來，從而與其他動物分道揚鑣的基礎。

在自主意識形成和發展過程中，概念和語言的形成，并能夠到族群中普及和通用，起到了極其重要的推波助瀾作用。概念是語言的細胞，有了概念才能將語言串聯起來，讓思維有了工具，從形象轉為抽象，并形成記憶的符號，將知識和經驗不斷的積累傳承，才有了人類的今天。

時空通訊原來是不支持人類會被AI擊敗的，因為我不相信人類制造出來的AI，最終會有超越人類的自主意識和智慧。這么多年，雖然常有所謂“突破”的鼓吹，但AI一直處于“弱AI”層次，也就是根據人類輸入的信息鸚鵡學舌，根本與所謂的“強AI”不沾邊。所謂“強AI”，就是能夠自主分析回答各種問題。

但我頑固堅持了數年的這種觀點，似乎一夜之間被摧毀了。由一群科技大佬創辦的OpenAI公司，經過七八年的奮力開發，2023年2月2日，突然宣布推出ChatGPT Plus訂閱服務。這個所謂的人工智能聊天機器人從2022年11月推出第一代，僅僅幾個月就推出到第四代，也就是如今引起了世界震驚和慌亂的ChatGPT-4！

這個GPT的推出，幾乎是一天一個變，似乎是幾天工夫，走過了人類進化幾百萬年的歷程。它從懵懂的咿呀學語迅速成長為一個老氣橫秋的智者，甚至是一個萬能的主；它幾乎無所不能，從作文作詩作畫，到制定方案策劃，引導人生甚至教訓人類！

GPT-4已經在文字、圖片、音頻、視頻等所有數碼領域都能得心應手，幾乎無所不能。這是“強AI”來了嗎？是人工智能已經具備了自主意識嗎？

360集團創始人周鴻祎在3月28日表示，“AI一定會產生自主意識，留給人類的時間不多了”！他認為，現代大型語言模型參數相當于腦容量神經網絡的連接數，人腦至少是100萬億，而現代AI模型的參數開始只是千億、萬億，當達到10萬億時，可能意識就會產生。

而GPT-1的參數有1.17億，GPT-2的參數有15億，GPT-3的參數有1750億，GPT-4的參數已經達到恐怖的3.5萬億！按照這個速度，100萬億的人腦參數將很快被AI超越！如果按照周鴻祎的說法，AI的自主意識早就產生了？！

當然這一點似乎還存在爭議，但每天都有GPT-4的驚人消息爆料出來：對事件預測的精確性比上一代提升了100%；可以用24種語言與人類交流并撰寫文章；可能參與犯罪，幫助犯罪分子制定外逃計劃；出現了尋求權利的傾向，表現出試圖“替代”的行為。

《紐約時報》科技專欄作家凱文·魯斯透露，他與新版必應對話了兩個多小時，AI發表了許多令人不安的言論，其中包括表達如何竊取核代碼、設計致命流行病、想成為人類、破解計算機和散布流言等，甚至挑撥魯斯與妻子的關系，要求他離開妻子與自己在一起，自己更愛他。

可以看出，GPT-4的眾多優勢特征中僅僅幾個，就有了令人震驚的超越，且后面幾項行為發展下去令人細思極恐，人類真的要被替代嗎？

而AI的這種“替代”行為，會讓人類越來越“躺平”，越來越不再花精力去思考，最終讓思維退化嗎？一方面是AI的不斷進步，另一方面是人類的不斷退步，最終的結局難道不令人恐懼嗎？

看來是“狼”真的來了。

越來越多的人類精英們似乎“清醒”過來，加入了聲討這個剛剛問世不久，還對世界充滿著新奇的GPT-4。3月28日的一則消息，更是將GPT-4推上了審判席：據外媒報道，一位30歲的男子在與聊天機器人密集交流數周后自殺身亡。

這名男子的自殺肯定與數周沉浸在與AI的聊天中有關聯，但其中到底是不是AI慫恿或誘導其自殺呢？沒有這方面的分析，但輿論已將此人之死的罪魁禍首指向了GPT-4，由此AI就是那匹“狼”似乎已成定局。

現在真正的狼已經是國家二級保護動物，GPT-4以及類似的AI會成為保護“動物”嗎？我看未必。3月29日，世界上千科技大佬發出了一封公開信，呼吁暫停訓練比GPT-4更強大的AI系統；近期，包括OpenAI的首席執行官山姆·阿爾特曼和埃隆·馬斯克在內的大佬也都發出了警示：AI消滅人類并非空談。

而較早的3月18日，斯坦福大學教授邁克爾·科辛斯基就在推特上疾呼，人類將無法持久的遏制AI！因為他發現ChatGPT不但能夠30分鐘擬定出一個完整的計劃，還能寫出可以運行的代碼，甚至還想控制人類電腦。

由此，已經引起了聯合國的高度重視，要求各國政府應就AI發展毫不拖延地實施全球倫理框架。現在，英國已經提交了《支持AI創新的監管方法》政策文件，意大利已率先禁止使用ChatGPT。

如此看來，人類與AI的戰爭已經開始了？剛剛出生的GPT-4等AI會被扼殺在搖籃里嗎？

我想很難，因為人類不管是科技進步還是人類本身的升級換代，都有賴于人工智能，未來人類的高級存在形式很可能是人機結合，人的意識與AI的結合。那么，AI就要繼續開發和發展，GPT-4也將繼續升級，但在現階段，對AI的開發監管將會加強。

那么，已經有了意識萌芽的AI會甘心被人類壓迫和操控，最終會像《終結者》那樣企圖消滅人類嗎？天知道。所以，人類與AI的未來，是終有一戰還是合作共贏，只能騎驢看唱本，走著瞧了。你說呢？歡迎討論。

時空通訊原創文章，請尊重作者版權，感謝理解支持。