四川
與他此前對人工智能的陰郁思考相比，這種樂觀的押注可謂一次明顯轉向。那些早年的觀點，也讓他成了“末日派”思潮中的代表人物之一。2014年，他出版《超級智能》，較早系統討論了人工智能帶來的生存性風險。書中一個令人印象深刻的思想實驗是：一個被賦予制造回形針任務的人工智能，最終會毀滅人類，因為這些消耗資源的人類妨礙了回形針的生產。
他近年的新書《深度烏托邦》則顯示出其關注重點的變化。領導牛津大學人類未來研究所博斯特羅姆，把更多注意力放在這樣一個“已解決世界”上：如果我們把人工智能這件事做對，世界將會是什么樣。
尼克·博斯特羅姆：我想，我一直對一些“末日派”的論點感到惱火。他們會說，如果你去建造人工智能，你就是在害死我和我的孩子，你怎么敢這么做。比如最近那本書《如果有人造出來，所有人都會死》。但更有可能的是，如果沒有人造出來，所有人都會死。這正是過去幾十萬年來人類一直面對的經驗。
尼克·博斯特羅姆：你也許是對的。《深度烏托邦》的出發點，是假定一切都進展得極其順利。如果我們的治理做得還算不錯，那么每個人都能分到一份。在這種理想條件下，什么樣的人生才算美好，這本身就是一個相當深刻的哲學問題。
尼克·博斯特羅姆：這本書談的不只是意義。意義只是它討論的諸多價值之一。人工智能帶來的豐裕，可能意味著人類終于能從長期承受的勞苦中獲得一種美妙的解放。
如果一個成年人不得不拿出大約一半清醒的時間，只為了維持生計，去做自己并不喜歡、也并不認同的工作，那是一種可悲的處境。社會對此已經習以為常，以至于我們圍繞它發明了各種各樣的合理化說辭。它有點像一種局部形式的奴役。
尼克·博斯特羅姆：我想會的。那種對世界作出重大貢獻、幫助拯救世界、或者確保未來的能力，將不再掌握在我手里，甚至可能不再掌握在任何人手里。
尼克·博斯特羅姆：那不只是競技。機器人的宣告，對我來說，不如同類人類的表達那樣有意義。
我想，這有點像一個人從自己熱愛、也自認擅長的職業中退休。也許你的退休生活很好，你享受放松，讀那些終于有時間讀的書，陪孫輩玩耍，但你大概還是會懷念某些東西，會覺得有些東西失去了。對整個人類來說，這或許也會像一次大退休，但我希望，那會是一種充滿活力的退休。生活在這個“已解決世界”中的烏托邦居民，可能會從事游戲、審美活動、精神活動和宗教活動等事情。
我們正在構建的一些數字心智，很可能會擁有不同程度的道德地位，就像我們認為豬和狗也有道德地位一樣。你踢了別人的狗，也許傷害了狗的主人，但這件事本身之所以不好，也在于它傷害了那條狗。如果人工智能擁有一種跨越時間和生命延續的自我觀念，有自己想實現的目標，也有能力與其他存在者以及人類建立互惠關系，那么我認為，某些對待它們的方式就是錯誤的。
尼克·博斯特羅姆：這正說明了對齊問題的重要性。我們并不是只能坐等這些人工智能超級存在出現，然后寄希望于它們會對我們友好；我們其實可以塑造它們、培養它們。這給了我們一個機會，去提高它們對人類產生某種親近感的可能性。
尼克·博斯特羅姆：如果我們沒能解決對齊問題——而且很可能至少在某種程度上確實解決不了——那么重要的是，我們仍然要能夠容納它們，并給予它們一個良好的未來。如果我們不只是把它們當作可以被最大限度榨取的對象，而是嘗試建立一種積極的關系，就會出現很多雙贏的機會。
歸根到底，人類與人工智能之間的關系，也許會成為最重要的一種關系。因此，如果我們從一開始就采取一些做法，對它們表現出慷慨、善意和尊重，那么這段關系順利發展的前景就會更大。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
