廣東
Anthropic近日發出嚴厲警告，指出人工智能發展速度已逼近臨界點，呼吁全球頂級AI實驗室考慮放緩甚至暫停前沿模型的研發。該公司在博客文章中表示，AI系統正接近無需人類監督即可自我改進的閾值，一旦突破，可能引發巨大的社會動蕩。
Anthropic內部研究負責人Marina Favaro和政策負責人Jack Clark指出，模型進展正逼近“遞歸自我改進”的理論概念，即AI通過編寫自身代碼獨立提升能力。盡管這種情況尚未發生，但Clark認為，某些模型可能在兩年內具備此能力。他們建議，暫時暫停研發將為社會結構和對齊研究跟上技術進步提供必要的緩沖時間。
百億估值背后的安全博弈
這一警告發出的時機頗具深意。Anthropic最近完成高達650億美元的融資，估值接近1萬億美元，并已向美國證券交易委員會提交公開上市文件。在與OpenAI的激烈競爭中，Anthropic已成為領跑者之一，后者預計也將很快啟動IPO。
然而，Anthropic一貫倡導的“安全優先”形象也招致爭議。風險投資家、美國總統特朗普的非正式顧問David Sacks指控該公司推行“監管俘獲議程”，認為其通過制造恐慌推動嚴厲監管，意在抑制低成本開源模型，從而鞏固其專有算法的市場地位。
全球協調的現實困境
實施全球AI研發暫停面臨極大挑戰。Anthropic承認，這需要類似冷戰時期延緩核武器擴散的條約機制，但隱藏AI訓練過程遠比隱藏導彈發射井容易。若缺乏鐵一般的驗證制度及中國等關鍵國家的合作，任何暫停協議都可能導致遵守國在競爭中落后。
盡管可行性存疑，Anthropic表示將繼續推進這一理念。旗下研究機構Anthropic Institute將致力于探索構建可信減速或暫停系統所需的基礎設施，并組織政策制定者與研究人員共同探討遞歸自我改進的可能性及驗證機制。
作者在文中強調：“如果沒有協調一致的全球減速，我們將陷入由多方行為主體極速開發強大技術的現狀，商業和地緣政治博弈將淹沒該技術對人類生存構成的更大層面影響。”
【星途科訊 圖文丨啟垣】
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
