AI超算竟然做到了重量?jī)H300g,能夠達(dá)到190TOPS算力,且本地能夠運(yùn)行120B的大模型!
初創(chuàng)公司Tiiny AI公司發(fā)布了全球最小的AI超算計(jì)算機(jī) Tinny AI Pocket Lab,整體外觀(guān)小巧玲瓏,說(shuō)其全球最小真的一點(diǎn)也不為過(guò),整體大小就像以前的一個(gè)錄音機(jī)大小一樣,甚至能夠輕松放進(jìn)口袋。
![]()
盡管體積這么小,其硬件配置卻不低,搭載了ARMv9.2 12核CPU以及80GB的LPDDR5X內(nèi)存,整體算力達(dá)到驚人的190TOPS,最牛的是它宣稱(chēng)能夠運(yùn)行1200億參數(shù)的超大模型。
雖然可以處理密集的運(yùn)算,但是該設(shè)備在功耗上卻控制的非常出色,TDP僅為30W,典型系統(tǒng)功耗也才僅僅65W。
它能夠一鍵部署GPT-OSS、Qwen、DeepSeek等大模型,且無(wú)需依賴(lài)云端完全能夠以離線(xiàn)方式進(jìn)行操作,Tinny AI將會(huì)在2026年 CES 上正式發(fā)布該設(shè)備!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.