允中 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

AI芯片，正在機(jī)房里猛猛吃灰。

海外高端GPU供不應(yīng)求、又貴又難買(mǎi)；

國(guó)產(chǎn)芯片產(chǎn)能好不容易上來(lái)了，結(jié)果是「能用但不好用」，生態(tài)不全、適配難、推理優(yōu)化門(mén)檻高，大量國(guó)產(chǎn)卡就這么空轉(zhuǎn)著，電費(fèi)照燒，卻產(chǎn)不出一顆能用的Token。

企業(yè)想用AI，偏偏卡在了最不該卡的環(huán)節(jié)，算力。

所有人都在比誰(shuí)的模型參數(shù)更大，但真正決定AI能不能落地的，其實(shí)是另一件沒(méi)那么性感的事：一顆Token，能不能被穩(wěn)定、便宜、規(guī)模化地生產(chǎn)出來(lái)。

死磕這件事的，是一支從中國(guó)超級(jí)計(jì)算體系里走出來(lái)的年輕團(tuán)隊(duì)，是石科技

△AI生成

這家公司成立于2021年，由技術(shù)出身清華，有國(guó)家級(jí)算力中心工程經(jīng)驗(yàn)的核心科研團(tuán)隊(duì)聯(lián)合組建，是國(guó)內(nèi)最早將超算智算并行優(yōu)化的技術(shù)進(jìn)行產(chǎn)業(yè)化的團(tuán)隊(duì)之一。

名字取自“實(shí)事求是，甘為基石”，寄托著創(chuàng)始團(tuán)隊(duì)對(duì)算力基礎(chǔ)設(shè)施地位的深刻認(rèn)知。其創(chuàng)始人兼董事長(zhǎng)閆博文，出生于1993年，畢業(yè)于清華大學(xué)，是清華計(jì)算機(jī)系博士后。

這家公司瞄準(zhǔn)的是通過(guò)自主研發(fā)的并行優(yōu)化技術(shù)，將高性能計(jì)算（HPC）與人工智能計(jì)算深度融合，專(zhuān)治各種異構(gòu)算力資源調(diào)度的“疑難雜癥”。

在他們看來(lái)，現(xiàn)在的AI行業(yè)根本不需要再多一個(gè)算力轉(zhuǎn)租平臺(tái)，要打破國(guó)產(chǎn)算力空轉(zhuǎn)的僵局，必須徹底跳出傳統(tǒng)租賃的淺層模式。

是石科技給出的解法直擊本質(zhì)：

緊扣“Token標(biāo)準(zhǔn)化、國(guó)產(chǎn)化、效率提升”這三件事，直接重構(gòu)算力變現(xiàn)路徑，重磅打造國(guó)產(chǎn)TOKEN調(diào)優(yōu)工廠。

大模型也有了算力“電網(wǎng)”：插上插頭，算力秒變Token產(chǎn)能

是石科技TOKEN工廠的第一層技術(shù)底座，來(lái)自異構(gòu)算力的全域整合與深度國(guó)產(chǎn)化適配。

區(qū)別于行業(yè)常見(jiàn)的單一算力資源模式，是石科技搭建了全域異構(gòu)算力資源池，全面兼容NVIDIA GPU、國(guó)產(chǎn)AI芯片（包括昇騰、昆侖芯、天數(shù)、太初、瀚博半導(dǎo)體等），以及云廠商算力、邊緣算力等多源渠道。

通過(guò)智能調(diào)度與彈性擴(kuò)縮容技術(shù)，實(shí)現(xiàn)算力資源的統(tǒng)一納管、智能分配與動(dòng)態(tài)擴(kuò)容，讓企業(yè)不再受困于“算力采購(gòu)難、資源碎片化”。

△AI生成

打個(gè)比方，這就像一張“全域智能電網(wǎng)”。

過(guò)去每家工廠只能用自己的發(fā)電機(jī)（單一算力），買(mǎi)不到柴油就停產(chǎn)，發(fā)電機(jī)壞了就癱瘓。

是石科技則類(lèi)似于搭建了一張覆蓋全國(guó)的算力網(wǎng)絡(luò)，把各地的風(fēng)電、水電、火電、太陽(yáng)能電（各種算力）全部接入統(tǒng)一電網(wǎng)。

企業(yè)需要用電時(shí)，只需“插上插頭”，電網(wǎng)就會(huì)自動(dòng)調(diào)度、分配與你需求最匹配的電給你，你完全不用關(guān)心電是從哪個(gè)具體的電網(wǎng)節(jié)點(diǎn)送過(guò)來(lái)的。

更關(guān)鍵的是，是石科技團(tuán)隊(duì)完成了主流國(guó)產(chǎn)AI芯片的深度適配與專(zhuān)項(xiàng)優(yōu)化，打通了框架適配、算子兼容、通信優(yōu)化、性能調(diào)優(yōu)全鏈路

△AI生成

在這張電網(wǎng)的“變電與穩(wěn)壓”作用下，原本閑置、難調(diào)通的國(guó)產(chǎn)算力，在這里能被高效轉(zhuǎn)化為穩(wěn)定、可用、低成本的標(biāo)準(zhǔn)化Token推理產(chǎn)能

通過(guò)不斷提升算力利用效率，以及充分利用閑時(shí)的算力，或者根據(jù)客戶(hù)需求定制專(zhuān)屬算力資源，國(guó)產(chǎn)Token就可以真正變成可商用的產(chǎn)能優(yōu)勢(shì)。

對(duì)此，一位長(zhǎng)期從事AI基礎(chǔ)設(shè)施的工程師評(píng)價(jià)說(shuō)：

過(guò)去我們買(mǎi)了國(guó)產(chǎn)卡，總要花幾個(gè)月去調(diào)驅(qū)動(dòng)、改框架、修bug。是石科技把這條路鋪好了。國(guó)產(chǎn)卡不再是“擺設(shè)”，而是真正能跑生產(chǎn)的引擎。

把芯片性能榨干到極限：吞吐暴漲50%，Token成本硬砍40%

如果說(shuō)算力池化是底座，那么推理優(yōu)化就是TOKEN工廠的核心技術(shù)壁壘。

是石科技團(tuán)隊(duì)深耕高性能計(jì)算領(lǐng)域多年，在嚴(yán)格恪守企業(yè)級(jí)SLA服務(wù)標(biāo)準(zhǔn)的前提下，從算子、內(nèi)存、調(diào)度、解碼等全維度進(jìn)行技術(shù)革新。

CUDA Kernel算子級(jí)優(yōu)化、PagedAttention內(nèi)存優(yōu)化、Continuous Batching連續(xù)批處理、混合精度推理……這些技術(shù)被系統(tǒng)性地部署在TOKEN工廠的生產(chǎn)線(xiàn)上。

配合FlashAttention、推測(cè)解碼、KV Cache精細(xì)化管理、模型并行（TP/PP）等前沿加速方案，GPU等國(guó)產(chǎn)芯片的資源利用率大幅提升，Token吞吐總量顯著增加，單位Token生產(chǎn)成本大幅下降。

更重要的是，傳統(tǒng)推理中常見(jiàn)的延遲抖動(dòng)、TTFT與TPOT波動(dòng)等問(wèn)題得到了有效控制——

Token生成變得高效、穩(wěn)定、高品質(zhì)。實(shí)測(cè)數(shù)據(jù)顯示，在同等算力條件下，是石科技的推理優(yōu)化方案可將吞吐量提升30%-50%，單位Token成本降低40%。

△AI生成

治好“宕機(jī)焦慮”：99.9%高可用，把推理做成不斷電流水線(xiàn)

規(guī)模化的Token生產(chǎn)，不能建立在脆弱的單點(diǎn)算力之上。

是石科技構(gòu)建了一套多Provider互補(bǔ)與容災(zāi)體系：

• 資源互補(bǔ)：流量峰值時(shí)自動(dòng)彈性擴(kuò)容；
• 技術(shù)互補(bǔ)：接入特定模型和技術(shù)能力（如超低延遲、多模態(tài)）；
• 區(qū)域互補(bǔ)：跨地域部署，降低延遲，滿(mǎn)足各行業(yè)合規(guī)要求。

自動(dòng)Fallback故障切換機(jī)制，搭配“自有集群承載主要流量、合作伙伴集群兜底容災(zāi)”的流量分配模式，徹底規(guī)避單點(diǎn)算力故障導(dǎo)致的業(yè)務(wù)中斷風(fēng)險(xiǎn)。

△AI生成

99.9%的高可用性服務(wù)保障，讓Token的規(guī)模化生產(chǎn)、調(diào)度、輸出全程穩(wěn)定可控。

想象一下飛機(jī)引擎的“多冗余設(shè)計(jì)”，即便一臺(tái)引擎失效，其他引擎能夠自動(dòng)補(bǔ)位，飛機(jī)照常飛行。

是石科技相當(dāng)于給AI推理服務(wù)裝了三套引擎——包括自己的引擎、合作伙伴的引擎、備用引擎。

哪怕其中一套突然熄火，系統(tǒng)會(huì)在0.1秒內(nèi)自動(dòng)切換到另一套，用戶(hù)完全感知不到。

從技術(shù)上看，這已經(jīng)不是漸進(jìn)式的改良，而是從“算力資源”到“優(yōu)質(zhì)Token產(chǎn)能”的價(jià)值躍遷。

當(dāng)前，國(guó)產(chǎn)AI算力替代進(jìn)程持續(xù)提速。

標(biāo)準(zhǔn)化、可量產(chǎn)、低成本的Token產(chǎn)能，已成為AI產(chǎn)業(yè)落地的核心生產(chǎn)資料。

是石科技的目標(biāo)已經(jīng)明確：

建成中國(guó)最大、技術(shù)最先進(jìn)、服務(wù)最完善的國(guó)產(chǎn)TOKEN調(diào)優(yōu)工廠。

讓千行百業(yè)降低AI落地門(mén)檻，讓國(guó)產(chǎn)算力生態(tài)真正實(shí)現(xiàn)規(guī)模化、高質(zhì)量發(fā)展，推動(dòng)中國(guó)AI產(chǎn)業(yè)邁入工業(yè)化、標(biāo)準(zhǔn)化的全新階段。

當(dāng)行業(yè)還在追逐單一模型的精度時(shí)，是石科技選擇了一條更有挑戰(zhàn)但更具長(zhǎng)期價(jià)值的道路——

做夯實(shí)AI推理底座的工廠，做可進(jìn)化、可復(fù)用、可普惠的Token生產(chǎn)力平臺(tái)。

這條路投入更大、周期更長(zhǎng)、協(xié)調(diào)更復(fù)雜。

但一旦走通，它改變的將不只是某一家企業(yè)的推理成本，而是整個(gè)適合中國(guó)AI產(chǎn)業(yè)高效發(fā)展的國(guó)產(chǎn)算力生態(tài)。