河南
經歷過去小半年的爆發(fā)式增長后，Claude Code開發(fā)商Anthropic終于登頂“最值錢AI創(chuàng)業(yè)公司”的寶座。
不過，公司在昨日發(fā)布的報告中指出，最新AI模型已開始顯現脫離人類控制跡象，全球各大企業(yè)應考慮放緩乃至暫停開發(fā)先進AI系統。
該公司認為，全球各大公司放緩前沿AI開發(fā)“很可能是好事”，但如果只有一家公司停下來的話，競爭對手就會加速前進。
“這個世界應有減緩或暫時停止前沿AI開發(fā)的選項，以便社會制度建設和對齊研究能跟上技術進步的腳步”。
Anthropic認為，美國、中國等全球主要AI公司應達成共識，并發(fā)布一套所有參與方都能驗證的規(guī)則：“如果沒有全球協調機制，企業(yè)和政府將在競爭和地緣政治壓力下，對安全問題作出艱難決策”。
此外，Anthropic還將上述觀點描述為“核武器不擴散條約”，但AI相比核武器更難監(jiān)管，因為訓練AI相比發(fā)射導彈更容易隱藏，而且各大公司會在利益誘惑下繼續(xù)偷偷開發(fā)先進AI。
Anthropic表示，將在未來幾個月召集政府官員、科學家、倡導組織及競爭對手，共同探討這種全球協調機制如何運作。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
