真相｜造神：人工智能神話的起源和破除

圖片

老正按：在AI神話炙手可熱的當下，對于任何想要看清AI真相，不愿向“AI神明”臣服的人來說，美國計算機科學家埃里克·拉森的《造神：人工智能神話的起源和破除》一書都能提供深刻啟發，助你一臂之力。

今天這篇文章節選自作者為這本書的寫的前言和本書的主要觀點介紹。

在這本書里，你將讀到關于人工智能的神話。人工智能的神話認為人工智能的到來是必然的，這只是時間問題——我們已經踏上了這條道路，它通往人類水平的人工智能，然后通向超級智能。在媒體專家和以埃隆?馬斯克（Elon Musk）為代表的思想領導者，甚至許多所謂的人工智能科學家的宣傳下，人工智能的必然性已經在大眾的討論中根深蒂固，而反對者也常被當作盧德主義者①，至少被認為是用短淺的目光看待科技的未來，或是未做好進入智能機器世界的準備的人。

正如我要在本書中展現的，人工智能關乎智能的核心奧秘，現在還沒有人知道如何解答它。人工智能的支持者們躊躇滿志，要把它已知的局限性減到最小。畢竟，人工智能是一樁大事，在文化領域中的地位也在不斷提升。然而，無論我們承認與否，我們目前對智能本質的了解程度限制了未來人工智能系統的可能性。在此，我們應該坦率地說：所有證據都顯示，人類和機器的智能是完全不同的。人工智能神話的擁躉者們堅持認為，這種差異只是暫時的，終將被更強大的人工智能系統抹去。未來學家雷?庫茲韋爾（RayKurzweil）以及哲學家尼克 ?波斯特洛姆（Nick Bostrom） 等人都是這個神話的大力宣揚者。他們聲稱人類水平的人工智能一定會出現，而且隨著它的出現，人類將被超級智能機器遠遠地甩在后面。

這本書闡述了人工智能神話的兩個重要方面，一個是科學方面，一個是文化方面。在科學方面，這個神話認為，我們只需通過在狹隘的特定領域中取得進步，比如做游戲或圖像認知，就能找到通用智能的突破口。這是個嚴重的錯誤：

在狹義的應用上取得的成功無法拉近我們和通用智能之間的距離。有人推斷，人工智能系統需要通用智能來閱讀報紙，進行基本的對話，或成為家庭喜劇動畫片《杰森一家》里的機器人羅西那樣的伙伴——以我們現在對人工智能的了解，這些都無法被程序化、被學習或被設計。受益于運算速度更快的計算機和海量的數據，人工智能也有了更簡單、更狹隘的版本。我們成功地使用這種人工智能時，并沒有在逐漸進步，而是在摘取低處的果實。而跳躍到通用智能是一件截然不同的事，也沒有人知道從一處通往另一處的道路。通用智能中不存在算法。我們也沒有足夠的理由猜測，通過進一步研究深度學習系統或現在流行的其他任何方式，算法就會出現。它更可能需要重大的科學突破，而我們目前對這種突破一無所知，更別談具體獲得的途徑了。

人工智能的神話不是好事，因為它無休止地談論持續的進展，掩蓋了科學中的奧秘。這個神話倡導人們相信必然的成功，然而對科學真正的敬意會把我們帶回原點。這將帶我們進入人工智能神話的文化層面，即人工智能神話對文化的影響。追尋這個神話對科學不利，也對我們不利。為什么呢？原因之一是，如果我們選擇忽視智能的核心奧秘而不是面對它，我們就很難取得創新。健康的創新文化強調探索未知，而非宣揚現有方法的擴展——尤其當這些方法已經明顯不足以讓我們走得更遠時。人工智能必將成功的神話容易抹殺取得真正進步（無論這種進步中是否包含人工智能）所需的創造性文化。這個神話還鼓動人們聽任機器在各個領域蔓延，在那些領域，真正的發明被邊緣化，取而代之的是鼓吹未來主義的言論，而這些言論往往來自既得利益者。

誰應該讀這本書？當然是所有既對人工智能感到興奮不已又想知道它為何總是離我們有十幾年到二十幾年之遙的人。如果你認為人工智能發展為超級智能是必然的，又不知道那天到來時該做些什么，那你也應該讀這本書。我無法確定人工智能是否會在某一天主宰世界，但我會給出理由，讓你大大降低對這個情景的預期。總而言之，如果你只是對社會上圍繞人工智能鋪天蓋地的宣傳感到好奇而又心存疑惑，那你就應該讀這本書。我將解釋人工智能神話的起源，我們對于真正達到人類水平的人工智能的前景的已知和未知，以及我們為什么要更加深刻地理解我們目前所知的、唯一真正的智能——我們自身的智能。

圖片

關于本書

在第一部分“簡化的世界”中，我將解釋人工智能文化如何簡化與人有關的想法，擴展與科技有關的想法。這一想法始于“人工智能之父”艾倫?圖靈（Alan Turing）的觀點，其中包含的“簡化”易于理解但并不成功，我稱之為“智能的錯誤”。1965年，英國數學家1.J.古德（I.J.Good）則提出了“超級智能機器”的概念。他認為，一旦一臺機器的智能水平遠超人類的智能水平，“智能爆炸”就是可預見的結果。

在圖靈和古德兩人之間，人工智能的現代神話逐漸形成。它的發展把我們帶人了一個被我稱為技術媚俗的時代。這種對深層思想的膚淺模仿，隔絕了智能，也削弱了文化。“媚俗”左右我們的思考和感受；“媚俗” 為提供者帶來利益，使消費者蒙受損失：“媚俗”使我們落入一個膚淺的世界。

在第二部分“推理的問題”里，我認為只有一種推理的形式——思考——對人類水平的人工智能有用。然而，關于推理，我們完全不知道如何規劃和設計。推理的問題之所以成為人工智能的爭論焦點，是因為它和智能直接相關，無論人類智能還是機器智能。我們所擁有的不同類型的推理的知識源于亞里士多德和其他古希臘人，并在邏輯和數學的領域里發展起來。我們通常用形式化的符號系統來描述推理，就像計算機程序的運行一樣。因此，通過探究推理，我們將對設計智能的課題有一個清晰的認識。推理有三種形式：經典人工智能探索過的演繹推理、現代人工智能探索過的歸納推理、有助通用智能的發展卻少有人研究的溯因推理。三種形式的推理互不相同，且無法互相轉化，因此如果用來構建人工智能系統的推理形式無法支撐通用智能，那么實現通用人工智能（Artificial General Inteligence,AGI）也將遙遙無期。

在第三部分“神話的未來”里，我認為，人工智能的神話會顛覆科學。把“神話”當真，導致的糟糕后果將侵蝕人類智能和創新文化——而創新文化正是我們了解自己未來所必需的突破口。數據科學（人工智能在“大數據”中的應用）充其量只是人類智能的假體，如果使用得當，它能幫助我們應對現代“數據洪流”；如果用來代替人類智能，它很可能吞噬掉大量的投入，卻無法得到我們想要的結果。我特別解釋了在一些近期的科學研究中，人工智能的神話如何對神經科學的研究產生負面影響—我們正在為這個神話付出高昂的代價。為了人類自身的美好前景，既然我們沒有充足的科學理由接受這個神話，那么我們就有足夠的理由拒絕它，所以我們需要從根本上重新思考有關人工智能的討論。

圖片

目錄

第一部分：簡化的世界

第一章 智能的錯誤
第二章 圖靈在布萊切利園
第三章 超級智能的錯誤
第四章 奇點、過去和現在
第五章 自然語言理解
第六章 技術媚俗
第七章 簡化與謎團

第二部分：推理的問題

第八章 別計算，要分析
第九章 皮爾士的謎題和困惑
第十章 演繹和歸納的問題
第十一章 機器學習和大數據

第十二章 溯因推理
第十三章 推理與語言
第十四章 推理與語言

第三部分：神話的未來

第十五章 神話和英雄
第十六章 人工智能神話入侵神經科學
第十七章人類智能的新皮層理論
第十八章 科學的終結？

注｜①在19世紀初英國工業革命期間，受機械化沖擊而仇視、破壞機器，進而反對工業革命的人被稱為盧德主義者，后引申為仇視一切新奇的發明及科技進步的人。——譯者注