北京
周三凌晨，一位產(chǎn)品經(jīng)理在公司內(nèi)部論壇扔了一貼：“給車載語音助手調(diào)了三個(gè)月的70B模型，一跑就燙手，空調(diào)指令還經(jīng)常聽錯(cuò)。我們到底需要一個(gè)大詩(shī)人還是聽話筒？”帖子下迅速蓋起高樓，幾位創(chuàng)業(yè)者也倒出類似苦水。過去提到AI，所有人都盯著參數(shù)規(guī)?！賰|、千億，仿佛不用科學(xué)記數(shù)法都不好意思開口。但這套敘事正在悄悄崩解，只是談?wù)撍娜诉€不夠多。
更大就是更好——這是流行了好幾年的唯一旋律。更大的模型，更長(zhǎng)的上下文，更高的基準(zhǔn)分?jǐn)?shù)，更大的頭條。你要是不訓(xùn)練一個(gè)參數(shù)量得靠科學(xué)記數(shù)法的東西，就好像根本沒上桌。從大廠到新銳團(tuán)隊(duì)，全在同一個(gè)排行榜上狂奔，默認(rèn)模型越大越聰明，數(shù)據(jù)越多越保險(xiǎn)。
但反過來看，多數(shù)產(chǎn)品其實(shí)根本用不上那份“聰明”。你給汽車儀表盤做語音助手，需要的是一個(gè)能寫量子力學(xué)十四行詩(shī)的模型嗎？不需要。你只需要它能可靠聽懂“空調(diào)調(diào)低”，并且不把電池一口氣榨干。這種需求錯(cuò)配一直在那兒赤裸裸地晾著，只是被沖榜的熱情遮住了。最近工具鏈終于追上了這個(gè)明擺著的道理：訓(xùn)練一個(gè)小家伙，把它訓(xùn)精，只盯著一件事做。機(jī)會(huì)這才真正打開。
戳破窗戶紙的不是什么花哨的新架構(gòu)，而是一個(gè)樸實(shí)的發(fā)現(xiàn)。好幾家實(shí)驗(yàn)室已經(jīng)證實(shí)：用幾十億個(gè)精挑細(xì)選的高質(zhì)量token喂出來的模型，完全可以跟那些用隨便從網(wǎng)上扒拉數(shù)據(jù)訓(xùn)練、參數(shù)大好幾倍的模型正面過招。這有點(diǎn)像兩個(gè)學(xué)生，一個(gè)把好教材吃透，另一個(gè)把整個(gè)互聯(lián)網(wǎng)草草翻一遍，后者的卷面反而未必更強(qiáng)。每個(gè)工程師遲早都要被這個(gè)教訓(xùn)上一課——往問題里堆資源，不如先把問題本身弄明白。
小而專的模型正在幾塊地方悄悄接管。手機(jī)上的本地助手首當(dāng)其沖。現(xiàn)在的手機(jī)已經(jīng)自帶能跑幾十億參數(shù)模型的AI芯片，不需聯(lián)網(wǎng)就能直接推理。這意味著在地鐵隧道里、航班上，或者任何信號(hào)糟糕的角落，語音助手照樣能工作。過去大家默認(rèn)智能活在云端，手機(jī)只是扇窗，可現(xiàn)在手機(jī)本體就在安安靜靜做著真正的推理，你甚至不會(huì)特意注意到。再比如一切受強(qiáng)監(jiān)管的領(lǐng)域。醫(yī)院、律所、任何處理敏感數(shù)據(jù)的地方，把數(shù)據(jù)扔給第三方API本身就是個(gè)大麻煩。如果能用自己掌控的硬件在本地跑一個(gè)小模型，麻煩就繞開了：數(shù)據(jù)從未離開建筑，合規(guī)的頭痛也一并消失。設(shè)想一家診所在自有服務(wù)器上運(yùn)行專精模型，患者數(shù)據(jù)哪里都沒去，監(jiān)管問起來也用不著多余的解釋。
當(dāng)模型不再需要處處當(dāng)“全才”，只需在信號(hào)盲區(qū)里聽得懂一句話，或在隱私鐵幕內(nèi)跑得轉(zhuǎn)一份病歷，它的價(jià)值反而更扎實(shí)。那股一味堆大參數(shù)的熱鬧正在退潮，產(chǎn)品本身的需求，終于重新浮到了對(duì)話框的最上面。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
