文:董指導(dǎo)
題圖由文心4.5 Turbo生成
本期要點(diǎn)
#AI#AI 應(yīng)用#百度智能云
AI開發(fā)者是最興奮的一群人,因?yàn)樗麄兛吹搅艘粋€(gè)萬億空間的機(jī)遇;AI開發(fā)者是最焦慮的一群人,因?yàn)榇竽P鸵呀?jīng)過去兩年,投資人、用戶們的耐心似乎快要消退,但爆款應(yīng)用卻仍未出現(xiàn)。
這不禁令人思考:通往AI應(yīng)用世界的大門,如何打開?如何更快邁入AI應(yīng)用的世界?
01開發(fā)之旅,如闖三關(guān)
東市買駿馬,西市買鞍韉,南市買轡頭,北市買長鞭。《木蘭辭》的作者用“互文”的表達(dá)方式,講述了出征前置辦裝備的繁忙與辛苦。
這也是應(yīng)用開發(fā)者“出征”的寫照。可以說,AI應(yīng)用開發(fā)是一場充滿挑戰(zhàn)的旅程,“關(guān)關(guān)難過、關(guān)關(guān)得過”。
起點(diǎn)是產(chǎn)品設(shè)計(jì)。在商業(yè)創(chuàng)業(yè)史里,到處是空有一身技術(shù)、但卻做出失敗產(chǎn)品的案例。好產(chǎn)品,要能更好地切入用戶需求。因此,場景選擇就格外重要。
場景選擇,如果不能識(shí)別行業(yè)痛點(diǎn)、不具備行業(yè)know-how,卒;如果不了解大模型,不知道能力邊界在哪里、能解決哪些、解決不了哪些,卒。
產(chǎn)品設(shè)計(jì)關(guān)闖過去之后,就是應(yīng)用開發(fā):
選不對模型,卒;
提示詞工程完成度差,卒;
數(shù)據(jù)質(zhì)量不高、可用性差,卒;
邏輯編排不佳,卒。
而且,應(yīng)用開發(fā)就像練武功一樣,雖然招式看起來相同,但有的人能發(fā)揮得驚天動(dòng)地,有的人卻像放了一個(gè)屁。差異就在于,作為內(nèi)功的工程化能力。不少人以為AI應(yīng)用,尤其Agent開發(fā),就是套層皮就好了,實(shí)際并非如此。一年半載的功夫,還是要下的。
應(yīng)用開發(fā)關(guān)闖過去、產(chǎn)品上線后,并不意味著萬事大吉。還要承接成本的壓力。前段時(shí)間,OpenAI首席執(zhí)行官 Sam Altman就在抱怨,用戶對ChatGPT 說「請」和「謝謝」等禮貌用語,對Token的消耗,就讓 OpenAI 增加了數(shù)百萬美元成本。
用戶怎么做,是難以控制的。但毫無疑問,推理階段,如果控制不好算力成本,或者沒有穩(wěn)定的算力支持,那也是一個(gè)大煩惱。
產(chǎn)品設(shè)計(jì)、應(yīng)用開發(fā)、上線運(yùn)營,三大關(guān)卡又嵌套著多個(gè)小關(guān),一路坎坷。而且,由于用戶需求不斷疊加、產(chǎn)品技術(shù)不斷更新,開發(fā)旅程,也是一輪又一輪。
如何讓開發(fā)之路,越來越好走?
02系統(tǒng)方案, 應(yīng)運(yùn)而生
系統(tǒng)化,越來越成為商業(yè)發(fā)展的主旋律。
比如在芯片領(lǐng)域,最初的集成電路是多個(gè)獨(dú)立芯片互相配合運(yùn)行,但自1990s以來,SoC(系統(tǒng)級芯片)技術(shù),發(fā)展迅猛、成為主流。
SoC 將多種功能模塊集成于單個(gè)芯片上,融合了處理器核心、圖形處理器、內(nèi)存控制器、各類接口以及存儲(chǔ)器等組件。一款芯片,就是一個(gè)系統(tǒng)。
與傳統(tǒng)集成電路相比,SoC 具備諸多優(yōu)勢。比如,性能上,可以避免芯片間信號(hào)傳輸?shù)难舆t,提升運(yùn)算速度;物理層面,體積大幅縮小,功耗顯著降低、也更適合做小型消費(fèi)電子的開發(fā)使用;研發(fā)角度看,SoC 采用 IP 核復(fù)用技術(shù),極大縮短了研發(fā)周期。
系統(tǒng)級的變化,讓芯片研發(fā)更加便捷,下游使用芯片的成本降低了、效果提升了、意愿也提高了。
再比如在新能源車領(lǐng)域,域控制技術(shù)的興起,也同樣體現(xiàn)了系統(tǒng)級方案的趨勢。
傳統(tǒng)汽車的電子電氣架構(gòu)較為分散,各個(gè)功能模塊相對獨(dú)立,導(dǎo)致布線復(fù)雜、故障排查困難且升級成本高。
域控制,則將汽車的多個(gè)功能系統(tǒng)進(jìn)行整合,通過少數(shù)幾個(gè)域控制器來集中管理。比如,將車身控制、動(dòng)力系統(tǒng)、信息娛樂等功能分別劃分為不同的域,由相應(yīng)的域控制器進(jìn)行統(tǒng)一調(diào)配。
域控制的方案,不僅簡化了布線,減少了車輛的重量,降低了能耗,還使得汽車的軟件升級更為便捷。通過 OTA(空中下載技術(shù)),車企可以對車輛的部分功能進(jìn)行遠(yuǎn)程更新,提升用戶體驗(yàn),也讓汽車智能化發(fā)展加速。
系統(tǒng)級,一個(gè)通俗理解的角度,就是“一條龍”,把用戶所需要的,都提供了。但又不只是簡單的啥都做,而是通過有機(jī)組合,實(shí)現(xiàn)成本降低、性能提升。
他山之石可以攻玉。要讓AI應(yīng)用開發(fā),更低成本、更高效,也許思路就是“系統(tǒng)級”的全棧方案。
03全棧迭代,創(chuàng)新不止
系統(tǒng)方案,要陪跑開發(fā)全旅程,而不是只走一段路。
支撐AI應(yīng)用開發(fā)的系統(tǒng),最底層是算力。沒算力這個(gè)聲音,應(yīng)用再好的戲也唱不出來。它決定了模型可以發(fā)揮多少性能、以及花費(fèi)多少成本。
然后,要有一個(gè)好的模型平臺(tái)。所謂好,就是說不僅是個(gè)“模型超市”,提供種類豐富、性能優(yōu)秀的多個(gè)模型供開發(fā)調(diào)用;有清晰的評價(jià)和引導(dǎo),方便開發(fā)者選對模型。
也要是個(gè)“模型工廠”,支持開發(fā)者針對特定場景進(jìn)行快速的模型優(yōu)化、甚至定制化開發(fā),最終讓開發(fā)者,可以相信模型、大膽使用模型。
模型支持完備后,還要有各類開發(fā)工具,也要兼容MCP等當(dāng)下最火的開放協(xié)議,以及數(shù)據(jù)管理的相關(guān)工具。把工程化能力,打包升級。
這個(gè)系統(tǒng)級方案,并不只是規(guī)劃,而是已經(jīng)在實(shí)踐了。百度智能云在2024年發(fā)布了全球首個(gè)智能計(jì)算操作系統(tǒng):萬源,它包含了底層的GPU算力平臺(tái)“百度百舸”和“千帆大模型平臺(tái)”。在Create2025百度AI開發(fā)者大會(huì)上,這個(gè)系統(tǒng),再次迎來升級。
在算力層面,百度正式點(diǎn)亮了昆侖芯P800的三萬卡集群,昆侖芯超節(jié)點(diǎn)更是把64張加速卡放到同一個(gè)機(jī)柜,用更快的機(jī)內(nèi)通信替代機(jī)間通信,可以把卡間互聯(lián)帶寬提升8倍,單機(jī)訓(xùn)練性能提升10倍,單卡推理性能提升13倍。
指數(shù)級的算力提升,還不夠。百度智能云通過大規(guī)模分布式推理的PD分離,又實(shí)現(xiàn)了推理吞吐提升20倍,推理速度提升50%以上。為大模型全面應(yīng)用,做足了準(zhǔn)備。
剛剛在全球首個(gè)人形機(jī)器人半程馬拉松中, “天工”機(jī)器人獲得了冠軍,而其背后的公司北京人形機(jī)器人創(chuàng)新中心,在訓(xùn)練和推理階段,采用的算力資源正是百度百舸。
模型服務(wù)層面,千帆平臺(tái)上提供了自研和第三方在內(nèi)的,共計(jì)超過100多個(gè)模型,而且文心大模型也進(jìn)行了升級發(fā)布:文心4.5 Turbo和文心X1 Turbo,X1的價(jià)格僅為DeepSeek-R1的25%,降本顯著。
模型開發(fā)層,也是工具全面,并支持深度思考模型、多模態(tài)模型的定制、精調(diào)。模型蒸餾,也成為許多企業(yè)降低模型成本、提高性能的最佳選擇之一。
在應(yīng)用開發(fā)上,智能體Pro成為亮點(diǎn),從快問快答升級到了深思熟慮,也支持每個(gè)企業(yè)定制開發(fā)。與此同時(shí),百度智能云正式發(fā)布了企業(yè)級MCP服務(wù),也已經(jīng)有超過1000個(gè)MCP Servers供企業(yè)和開發(fā)者選擇。
目前,千帆平臺(tái)的企業(yè)用戶數(shù)量超40萬,千帆平臺(tái)組件數(shù)量超1000個(gè),企業(yè)在千帆平臺(tái)上已開發(fā)出了超100萬個(gè)應(yīng)用。這只是開始,需求還遠(yuǎn)未被滿足,未來應(yīng)用會(huì)更多。
一個(gè)應(yīng)用開發(fā)的背后,就是一個(gè)系統(tǒng)的打造。一個(gè)系統(tǒng)級的基礎(chǔ)設(shè)施,描繪了無數(shù)應(yīng)用的未來。
04展望
常言說,創(chuàng)新來自于千百次試錯(cuò)。但并不是每家企業(yè)都能扛住千百次試錯(cuò),需要勇氣、耐心、以及成本。
百度智能云構(gòu)建的新一代系統(tǒng)級智能基礎(chǔ)設(shè)施,并不是靈丹妙藥,一定可以讓開發(fā)者成功,但確實(shí)可以降低開發(fā)者的試錯(cuò)成本、提高試錯(cuò)意愿,也撫慰開發(fā)者的“焦慮”;它不僅是解決某一個(gè)問題,而是讓企業(yè)擁有創(chuàng)造“創(chuàng)造的能力”。
全棧的便利,讓開發(fā)者面對征途,不必東跑西找,也不會(huì)躊躅不前;而是敢于輕裝上陣,沒有心理包袱、沒有技術(shù)包袱、沒有財(cái)務(wù)包袱,尋找開發(fā)的路,推開應(yīng)用的門,走進(jìn)AI的精彩世界。
---全文完,歡迎交流
理工/金融 復(fù)合背景
暢銷書《英偉達(dá)之道》譯者
百億私募/頭部自媒體 雙重經(jīng)歷
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.