无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

國內(nèi)首個(gè)國產(chǎn)卡訓(xùn)推萬億大模型,開源!

0
分享至


智東西
作者 茄子
編輯 程茜

智東西7月6日?qǐng)?bào)道,美團(tuán)今日宣布開源萬億參數(shù)大模型LongCat-2.0,同步開放針對(duì)國產(chǎn)算力芯片深度優(yōu)化的推理代碼。該模型總參數(shù)達(dá)1.6萬億,平均激活約480億參數(shù),是業(yè)界首個(gè)在五萬卡國產(chǎn)算力集群上完成全流程訓(xùn)練與推理的萬億參數(shù)模型。


▲LongCat-2.0開源(圖源GitHub)

從官方公布的數(shù)據(jù)看,LongCat-2.0具有較強(qiáng)的綜合能力。在考察深層工程能力的SWE-bench Pro種得分59.5,領(lǐng)先Gemini 3.1 Pro(54.2)、GPT-5.5(58.6)及Claude Opus 4.6(57.3);在考察編程語言的SWE-bench Multilingual中得分77.3,與Claude Opus 4.6(77.8)持平;在真實(shí)終端指令交互評(píng)測Terminal-Bench 2.1中得分70.8。


▲LongCat-2.0與各模型的評(píng)分對(duì)比(圖源LongCat)

而在真實(shí)場景任務(wù)方面,LongCat-2.0在搜索智能體評(píng)測RWSearch得分78.8,生產(chǎn)力場景評(píng)測FORTE得分73.2,BrowseComp得分79.9,均達(dá)到或接近前沿閉源模型水平。

據(jù)智東西實(shí)測,LongCat-2.0在長文本輸出方面能夠較好地理解用戶的意思,并且能根據(jù)用戶要求生成可閱讀的長文本。在編程方面,該模型代碼的生成速度較快,但有時(shí)不穩(wěn)定,畫面會(huì)出現(xiàn)問題。

并且,該模型還具有較好的創(chuàng)意能力和3D動(dòng)畫場景生成能力,能在理解用戶的意思并立即作出反應(yīng)。此外,LongCat-2.0還具備較強(qiáng)的邏輯推理能力,在推理題目時(shí)步驟清晰簡明。

LongCat-2.0采用MoE(混合專家)架構(gòu),原生支持100萬token超長上下文輸入。該模型在Agentic Coding(智能體編程)任務(wù)設(shè)計(jì),在代碼理解、生成與執(zhí)行方面進(jìn)行了針對(duì)性強(qiáng)化。

LongCat-2.0有3項(xiàng)創(chuàng)新:一是LongCat稀疏注意力機(jī)制(LSA),將傳統(tǒng)平方級(jí)計(jì)算開銷優(yōu)化為線性級(jí),有效加速百萬級(jí)長上下文的訓(xùn)練與推理;二是在MoE專家之外引入N-gram Embedding作為新的參數(shù)擴(kuò)展路徑。三是在后訓(xùn)練階段,該模型采用多教師在線蒸餾,將專家分為Agent、推理和交互三類,分別聚焦自主執(zhí)行、自適應(yīng)推理和安全對(duì)齊等核心能力。

智東西圍繞真實(shí)任務(wù)執(zhí)行與高難度推理兩個(gè)方向?qū)ongCat-2.0進(jìn)行了實(shí)測。

開源鏈接:
Model Weights:
HuggingFace:
https://huggingface.co/meituan-longcat/LongCat-2.0
Github:
https://github.com/meituan-longcat/LongCat-2.0
ModelScope:
https://www.modelscope.cn/collections/meituan-longcat/LongCat-20

Inference Code:
GPU:
https://github.com/sgl-project/sglang/pull/30042
NPU:
https://github.com/meituan-longcat/SGLang-FluentLLM/tree/npu

API Platform:
https://longcat.chat/platform/product

一、寫長文本網(wǎng)文、解AIME真題、一次生成3D像素世界

在真實(shí)任務(wù)執(zhí)行方面,我們首先測試了該模型的長文本生成與上下文一致性能力,讓模型生成一本種田文小說,并為其構(gòu)建人物設(shè)定、100章大綱及開篇導(dǎo)入,總字?jǐn)?shù)近3萬字。

可以看到,該模型對(duì)任務(wù)的理解并未出現(xiàn)偏差。無論是人物設(shè)定、世界觀,還是主要事件與高潮節(jié)點(diǎn)的把握,都較為準(zhǔn)確到位。正文的導(dǎo)入也比較抓人,開篇直接是主角穿越面臨被賣的場景,迅速進(jìn)入主題,符合網(wǎng)文的撰寫邏輯。


▲LongCat-2.0生成的長文本

接著我們對(duì)該模型在創(chuàng)意與邏輯能力上進(jìn)行了實(shí)測,讓其生成兒童訓(xùn)練游戲。第一次生成訓(xùn)練反應(yīng)力的“點(diǎn)擊消泡泡”游戲時(shí),雖然生成的游戲可以玩,但是在畫面上出現(xiàn)了方塊和問號(hào)的錯(cuò)誤。


▲LongCat-2.0生成的有問題的“消泡泡”游戲

第二次,該模型生成了“數(shù)字華容道”的益智游戲。這次實(shí)測中,其生成代碼的速度較快,且全部代碼一次產(chǎn)出。并且,該游戲操作流暢、畫面清晰,在實(shí)測過程并未出現(xiàn)卡頓或其他錯(cuò)誤情況。


▲LongCat-2.0生成的“數(shù)字華容道”游戲

我們還對(duì)該模型在創(chuàng)建3D場景上的能力進(jìn)行了測試。讓其制作一個(gè)“在公園長椅上玩風(fēng)車的小朋友”的3D像素藝術(shù)作品。該模型的理解能力較好,第一次生成便成功完成了3D像素藝術(shù)場景的搭建,構(gòu)建了天空、樹木、長椅、風(fēng)車、小朋友等完整元素。


▲LongCat-2.0生成的3D動(dòng)畫場景

為了驗(yàn)證其邏輯推理能力,我們選擇了一道AIME 2026真題。題目如下:


▲AIME 2026真題

這道題考察的是對(duì)數(shù)還原、指數(shù)方程、根與系數(shù)關(guān)系以及質(zhì)因數(shù)分解,適合考察模型的推理能力。LongCat-2.0的思考過程在1分鐘以內(nèi),并用四個(gè)步驟就解答了這個(gè)問題,得到了正確結(jié)果441。該模型在這一案例中表現(xiàn)非常穩(wěn)定,說明其在標(biāo)準(zhǔn)數(shù)學(xué)競賽題上的推理鏈路和計(jì)算執(zhí)行較為可靠。


▲LongCat-2.0對(duì)AIME真題的解題步驟

二、數(shù)據(jù)查詢、代碼遷移、游戲開發(fā)、3D演示、小說創(chuàng)作——一個(gè)模型全搞定

在官方內(nèi)測期間,美團(tuán)征集了大量一線用戶任務(wù)需求,LongCat-2.0在多個(gè)實(shí)際場景中展現(xiàn)出完整的閉環(huán)交付能力:

通過LongCat-2.0搭建AI SQL Agent:業(yè)務(wù)人員可以直接用自然語言查詢數(shù)據(jù)。LongCat-2.0可以自動(dòng)完成全鏈路閉環(huán),包括理解問題意圖、規(guī)劃查詢步驟,并將數(shù)據(jù)結(jié)果轉(zhuǎn)化為清晰的業(yè)務(wù)洞察。


▲LongCat-2.0的內(nèi)測(圖源LongCat)

代碼庫遷移:給定舊版插件代碼庫與新SDK文檔,LongCat-2.0能夠自行分析架構(gòu)、梳理邏輯,將整個(gè)插件重構(gòu)為新API實(shí)現(xiàn),保留全部功能、修復(fù)隱患,編譯一次通過。

▲LongCat-2.0的內(nèi)測(圖源LongCat)

完整應(yīng)用開發(fā):在該模型中輸入“兒童AI游戲訓(xùn)練場”創(chuàng)意,模型逐步生成技術(shù)選型、頁面架構(gòu)、游戲邏輯與視覺細(xì)節(jié),從首頁到三個(gè)完整可玩游戲全部代碼一次產(chǎn)出。


▲LongCat-2.0在內(nèi)測中生成的兒童訓(xùn)練游戲(圖源LongCat)

3D交互演示:LongCat-2.0通過一句話描可以生成完整Three.js 3D演示,透明燒瓶、熒光液體、泡沫噴發(fā)、液面下降與堆積效果全部可交互呈現(xiàn),所有代碼封裝在單個(gè)HTML文件中。

AI小說工廠:基于LongCat-2.0構(gòu)建的多Agent寫作流水線,輸入靈感后自動(dòng)完成世界觀構(gòu)建、并行章節(jié)生成、質(zhì)量評(píng)估與回流修訂。依托長上下文能力保障百萬字級(jí)設(shè)定一致性,內(nèi)容可自動(dòng)適配多平臺(tái)發(fā)布,實(shí)現(xiàn)持續(xù)穩(wěn)定的連載輸出。

三、稀疏注意力、N-gram嵌入與多教師蒸餾三項(xiàng)優(yōu)化并行

LongCat-2.0沿用了LongCat-Flash的整體設(shè)計(jì),并圍繞長上下文、代碼與智能體場景做了三項(xiàng)關(guān)鍵優(yōu)化:

面向智能體任務(wù)中動(dòng)輒百萬Token的長輸入場景,LongCat-2.0引入了稀疏注意力機(jī)制(LSA),通過流感知索引、跨層索引和層級(jí)化索引三項(xiàng)策略,有效減少了碎片化訪存和重復(fù)計(jì)算,在模型質(zhì)量不降級(jí)的前提下,讓百萬級(jí)長上下文的訓(xùn)練與推理速度大幅提升。


▲LongCat稀疏注意力設(shè)計(jì)總覽(圖源:LongCat)

LongCat-2.0在MoE專家之外新增了一條參數(shù)擴(kuò)展路徑——N-gram Embedding。之所以做這個(gè)選擇,是因?yàn)槟P偷腗oE稀疏度已接近 97%,繼續(xù)堆專家的收益十分有限。相比之下,將135B參數(shù)投入N-gram Embedding,收益明顯更高。該模塊占總參數(shù)比例控制在10%以內(nèi),在參數(shù)效率與結(jié)構(gòu)穩(wěn)定性之間取得了平衡。


▲N-gram Embedding總覽(圖源:LongCat)

在后訓(xùn)練階段,LongCat-2.0通過多教師在線蒸餾,將專家劃分為Agent、推理和交互三類,各司其職,分別主攻自主執(zhí)行、自適應(yīng)推理和安全對(duì)齊。最終借助MOPD架構(gòu)在國產(chǎn)算力集群上將三類能力無縫融合,使模型同時(shí)具備深度推理能力、自主執(zhí)行能力和精準(zhǔn)交互能力。


▲基于MOPD的多專家后訓(xùn)練架構(gòu)總覽(圖源:LongCat)

結(jié)語:萬億參數(shù)開源背后,Agent模型開始走向真實(shí)生產(chǎn)力

在此之前,國內(nèi)雖已有基于國產(chǎn)芯片開展模型推理、微調(diào)后訓(xùn)練的相關(guān)方案,但LongCat-2.0是國內(nèi)首個(gè)完全依靠國產(chǎn)算力完成訓(xùn)練與推理全流程的萬億參數(shù)模型,峰值訓(xùn)練規(guī)模超過5萬張國產(chǎn)算力卡,是迄今為止國產(chǎn)算力平臺(tái)上規(guī)模最大的訓(xùn)練任務(wù)。

當(dāng)前,大模型競爭正逐漸從參數(shù)規(guī)模轉(zhuǎn)向真實(shí)生產(chǎn)力。未來,Agent執(zhí)行能力、工程能力以及軟硬件協(xié)同優(yōu)化,或許將成為下一階段開源模型競爭的新焦點(diǎn),而LongCat-2.0已經(jīng)率先給出了自己的答案。

來源:美團(tuán)


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
WTT大滿貫落幕!國乒超200萬獎(jiǎng)金分配出爐,孫穎莎72萬,蒯曼40萬

WTT大滿貫落幕!國乒超200萬獎(jiǎng)金分配出爐,孫穎莎72萬,蒯曼40萬

帛河體育
2026-07-06 11:58:48
毀掉一個(gè)孩子最快的方式:就是爺爺奶奶經(jīng)常過問這3件事

毀掉一個(gè)孩子最快的方式:就是爺爺奶奶經(jīng)常過問這3件事

戶外阿毽
2026-07-06 19:28:17
從化療到死亡僅1年,醫(yī)生提醒:這4種癌癥患者或不建議化療!

從化療到死亡僅1年,醫(yī)生提醒:這4種癌癥患者或不建議化療!

芹姐說生活
2026-07-05 23:07:01
1年2574萬美金!聯(lián)盟第5!中投王德羅贊要重返NBA夢開始的地方

1年2574萬美金!聯(lián)盟第5!中投王德羅贊要重返NBA夢開始的地方

世界體育圈
2026-07-06 13:02:46
中醫(yī)鬼才倪海廈:“假如你有錢,就去買好看的衣服穿,買好的車子開,吃要盡量的簡單,好吃的東西吃一點(diǎn)點(diǎn)就可以了,口腹之欲要控制”

中醫(yī)鬼才倪海廈:“假如你有錢,就去買好看的衣服穿,買好的車子開,吃要盡量的簡單,好吃的東西吃一點(diǎn)點(diǎn)就可以了,口腹之欲要控制”

背包旅行
2026-06-24 12:37:13
世界杯梗最多的男人來了!哈蘭德渾身長滿了笑點(diǎn)

世界杯梗最多的男人來了!哈蘭德渾身長滿了笑點(diǎn)

廣告案例精選
2026-07-04 19:18:25
新發(fā)!肯辛頓公開凱特登山多幅照片,威廉罕見感情外露夏洛特落淚

新發(fā)!肯辛頓公開凱特登山多幅照片,威廉罕見感情外露夏洛特落淚

牛鍋巴小釩
2026-07-06 14:58:03
全世界球迷都看呆了!美國前鋒巴洛貢紅牌禁賽被“特赦”:比利時(shí)足協(xié)震驚,特朗普點(diǎn)贊 C羅已因“緩刑”受益

全世界球迷都看呆了!美國前鋒巴洛貢紅牌禁賽被“特赦”:比利時(shí)足協(xié)震驚,特朗普點(diǎn)贊 C羅已因“緩刑”受益

紅星新聞
2026-07-06 08:05:45
全明星賽季的鮑威爾,為何只能拿2年4500萬?

全明星賽季的鮑威爾,為何只能拿2年4500萬?

籃球?qū)嶄?/span>
2026-07-06 17:40:11
90分鐘死里逃生!凱恩強(qiáng)勢追平梅西神跡,單賽季73球打破傳奇紀(jì)錄

90分鐘死里逃生!凱恩強(qiáng)勢追平梅西神跡,單賽季73球打破傳奇紀(jì)錄

萌蘭聊個(gè)球
2026-07-06 11:20:43
巴媒:巴西隊(duì)世界杯出局后就地解散,代表團(tuán)周二返回國內(nèi)

巴媒:巴西隊(duì)世界杯出局后就地解散,代表團(tuán)周二返回國內(nèi)

懂球帝
2026-07-06 12:20:23
身家億萬的全球最貴影后,卻只能看著一生摯愛死在眼前

身家億萬的全球最貴影后,卻只能看著一生摯愛死在眼前

英國那些事兒
2026-07-05 22:59:19
3:0!中國女排淘汰日本,陳曉輝大爆發(fā),攔網(wǎng)狂虐對(duì)手13個(gè)

3:0!中國女排淘汰日本,陳曉輝大爆發(fā),攔網(wǎng)狂虐對(duì)手13個(gè)

跑者排球視角
2026-07-06 20:13:44
世界杯金靴獎(jiǎng)概率:姆巴佩50.9%居首,梅西30.9%次席,哈蘭德第3

世界杯金靴獎(jiǎng)概率:姆巴佩50.9%居首,梅西30.9%次席,哈蘭德第3

畫夕
2026-07-06 16:15:03
隊(duì)報(bào):姆巴佩一直在表明,成為世界杯最佳射手不是其首要目標(biāo)

隊(duì)報(bào):姆巴佩一直在表明,成為世界杯最佳射手不是其首要目標(biāo)

懂球帝
2026-07-06 16:36:10
出生在有錢人家什么感覺 看網(wǎng)友的講述,像是在誤闖天家似的。

出生在有錢人家什么感覺 看網(wǎng)友的講述,像是在誤闖天家似的。

侃神評(píng)故事
2026-07-06 15:40:06
“你會(huì)娶她,睡她,和她約會(huì)?”澳總理“不裝了”:我全都要…

“你會(huì)娶她,睡她,和她約會(huì)?”澳總理“不裝了”:我全都要…

觀察者網(wǎng)
2026-07-06 21:00:27
Netflix出品,這部韓劇后勁太大了

Netflix出品,這部韓劇后勁太大了

來看美劇
2026-07-04 23:53:53
目前的中國股市想要逢低建倉,那就買這兩種股票,賺到盆滿缽滿!

目前的中國股市想要逢低建倉,那就買這兩種股票,賺到盆滿缽滿!

股經(jīng)縱橫談
2026-07-06 18:12:07
大風(fēng)追蹤|給心梗老人一次拔12顆牙種10顆,寶雞渭濱區(qū)衛(wèi)健局市監(jiān)局全面調(diào)查處置,將對(duì)大團(tuán)圓口腔醫(yī)院頂格行政處罰

大風(fēng)追蹤|給心梗老人一次拔12顆牙種10顆,寶雞渭濱區(qū)衛(wèi)健局市監(jiān)局全面調(diào)查處置,將對(duì)大團(tuán)圓口腔醫(yī)院頂格行政處罰

大風(fēng)新聞
2026-07-05 22:08:03
2026-07-07 00:19:00
智東西 incentive-icons
智東西
智東西,AI產(chǎn)業(yè)新媒體,專注報(bào)道人工智能的前沿技術(shù)發(fā)展,和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)變革。
12180文章數(shù) 117121關(guān)注度
往期回顧 全部

科技要聞

你在笑機(jī)器人摔跤,工程師在想怎么不砸死人

頭條要聞

19歲大學(xué)生立遺囑將2000萬財(cái)產(chǎn)留給發(fā)小 原因令人唏噓

頭條要聞

19歲大學(xué)生立遺囑將2000萬財(cái)產(chǎn)留給發(fā)小 原因令人唏噓

體育要聞

世界杯最強(qiáng)17歲,貝林厄姆主動(dòng)和他交換球衣

娛樂要聞

繼床照后,司曉迪再爆鹿晗親密視頻

財(cái)經(jīng)要聞

特朗普,從“霸凌全班”到“克己復(fù)禮”

汽車要聞

重新定義出行美學(xué) 吉利銀河TT首發(fā)亮相/或8月上市

態(tài)度原創(chuàng)

藝術(shù)
時(shí)尚
數(shù)碼
公開課
軍事航空

藝術(shù)要聞

靜謐與光 | 沉默的畫家維爾海姆·哈默修伊

5元一條,偷拍女性已經(jīng)產(chǎn)業(yè)化了

數(shù)碼要聞

蘋果高管詳解Mac mini 在本地AI時(shí)代走紅的原因

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

俄烏沖突再升級(jí) 康斯坦丁諾夫卡成爭奪焦點(diǎn)

無障礙瀏覽 進(jìn)入關(guān)懷版