北京
Anthropic與OpenAI兩大巨頭同周預警AI危！
6月5日消息，Anthropic發布長篇技術文章《當AI自我構建》，援引大量內部數據論證一個核心判斷：AI系統正逼近無需人類干預就能自主改進的臨界點，即遞歸自我改進，這一情況可能在未來兩年內發生，甚至更早。
Anthropic內部數據顯示：截至2026年5月，Anthropic代碼庫中超過80%的新增代碼由Claude生成，工程師人均代碼產出是2024年的8倍。在最開放的編程任務上，Claude成功率達76%，六個月前僅26%。研究層面，Claude Mythos Preview在代碼優化任務中將基準代碼加速52倍，而熟練人類研究員四到八小時只能做到4倍。在自主提出實驗方案方面，Claude曾在約800小時算力內將一項AI安全研究任務的人類-基準差距縮小97%，消耗算力成本約18000美元，而兩名人類研究員一周僅縮小23%。
Anthropic據此推演三種未來：AI增速放緩進入平臺期；AI研發持續復利式加速但人類仍掌方向盤；AI實現完全遞歸自我改進、自主迭代下一代模型。公司認為第二種情景“最可能發生”，第三種最危險。
Anthropic正式呼吁建立可核查、可驗證的全球機制協調暫停前沿AI研發，并表示若機制建立，公司“預計將選擇減速或暫停，前提是其他前沿開發者也以可核實方式同步行動”。公司同時明確拒絕單方面停擺，稱那只會讓最不謹慎者迎頭趕上。
Anthropic剛完成650億美元H輪融資、秘密遞交IPO申請，年化收入從140億飆至470億美元，估值達9650億美元。其內部模型Mythos Preview仍在全速迭代。
就在Anthropic發文前三天，OpenAI也發布了類似預警。OpenAI在文件中表示，“我們還在當今的系統中看到了遞歸自我改進的早期跡象：AI的發展本身被AI加速了。”OpenAI預計這將加劇開發商和國家之間的競爭壓力，并帶來現有機構難以應對的治理挑戰。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
