新智元報道

【新智元導讀】AI大神Karpathy重注！一家叫Engram公司出山，13個人團隊，要讓AI永久記住你。

13人公司，成立8個月，估值干到了6億美金！

就在今天，一家名為Engram的AI初創公司結束隱身、正式亮相，一口氣拿下了9800萬美元融資。

這13個人，到底在做一件什么樣的事，值這么多錢？

答案只有兩個字：記憶！

最關鍵的是，僅用1%-10%的Token，Engram便能讓大模型做到過目不忘。

而且，每一次對話，它都能實現不斷自我改進。

投資人Karpathy第一時間送上了祝賀。

成立8個月，要讓AI「永不失憶」

Engram這個詞，本身就來自神經科學，指的是記憶在大腦中留下的「痕跡」。

一家做AI記憶的公司，名字就叫「記憶痕跡」，野心寫在臉上。

團隊將致力于解決的核心痛點，生動地概括為——「天才陌生人」（genius stranger）。

今天的AI，智商爆表，記性卻爛得嚇人。

它能處理海量信息、攻克復雜難題，但在面對具體業務時，認知水平甚至不如一名剛入職的實習生。

于是，荒謬的一幕反復上演：它不得不一遍遍重讀相同的文檔，一次次重新學習業務背景；

每面對一個新問題，都要把整個組織的知識庫從頭到尾「重新發現」一遍。

這不光蠢，還燒錢。隨著上下文越來越大，模型越貴、越容易犯迷糊。

不卷大模型，專卷「記憶」

Engram的打法，跟其他實驗室完全不在一個維度。

它的思路是，從一個強大的預訓練模型起步，把訓練算力死死砸在「上下文」上。

聽起來很美，技術上憑什么落地？

答案就藏在CTO Sabri Eyuboglu 手里的王牌——Cartridges技術里。

這是近兩年「把一大堆文檔壓成可復用記憶」的代表性方法之一，由斯坦福團隊打造，背后的導師正是機器學習大牛、Engram聯合創始人Chris Ré。

再來看一組具體的數字，就可以理解背后真相了——

當AI閱讀一份7萬字、約400KB的法律合同時，它在內部生成的記憶體積，會瞬間暴漲到100GB以上。

足足比原始文件大了25萬倍，這正是AI變得又慢又貴的罪魁禍首。

Cartridges的思路，堪稱暴力美學——

與其每次臨時把整篇文檔塞進上下文窗口，不如提前花一大筆算力，離線把它「學」成一個小小的記憶模塊。

團隊管這個過程叫「self-study」：讓模型先圍繞語料自己生成大量合成對話，再把這些「學習痕跡」蒸餾進一個緊湊的緩存里。

最終，內存占用降到原來的約1/40，解碼吞吐量飆升25倍以上。

更妙的是Engram的架構哲學：它把模型的「推理層」和「記憶層」徹底拆開。

推理負責思考，記憶負責「認得你」。

這樣一來，AI就能在幾秒到幾小時內，實時吸收個人偏好、對話歷史和新到的數據，而不用從頭重訓一遍。

一支「全明星」團隊

Engram這支隊，來頭一個比一個大。

去年10月，Engram孵化于斯坦福AI實驗室，CEO是以色列研究者Dan Biderman。

他曾獲得了哥倫比亞大學計算神經科學博士學位，后來進了Stanford AI實驗室做博士后。

更有意思的，是Biderman癡迷「記憶」的起點。

小時候，他總想著各種辦法，去幫已經失憶的祖母，重新記起關于他和兄弟姐妹的那些小事。

這支13人的隊伍，成員來自斯坦福、伯克利、康奈爾。

第一名員工，是創始人的妻子Dr. Natalie Biderman，同樣是一位斯坦福的記憶研究者。

據Biderman透露，團隊里不少人，是拒絕了Anthropic和谷歌的橄欖枝，才選擇跳上這條小船。

在如今這個搶人搶到刺刀見紅的AI圈，這份「棄明投暗」，含金量還在上升。

AI可以記住你了

說到底，Engram押的是AI范式的下一次轉向。

過去幾年，全行業信仰「Scaling Law」：模型越大、數據越多、越聰明。

但Engram提出了一條新的Scaling軸：把算力砸在「學習和內化個人的數據」上。

模型越用越懂你，越用越聰明。

學習的對象,從公開互聯網，變成了「你」和「世界本身」。學習的頻率，從每天，逼近每一刻。

這正是通往ASI路上，最關鍵的兩塊拼圖之一：讓智能不再靜止，而是持續生長。

Engram只有13個人，但它想做的，是給AI裝上一段永不褪色的記憶。

而記憶，恰恰是智能開始真正理解世界的起點。

參考資料：

https://x.com/EngramLab/status/2069465879696576844?s=20

編輯：桃子