網易首頁 > 網易號 > 正文 申請入駐

實測,本地大模型控制臺:本地部署、數據集管理、訓練+微調,一站式搞定,Windows 也支持

0
分享至

  Unsltoh 剛剛放出的 Studio 有點東西

  大模型的下載、運行、訓練、導出、數據集處理都串起來到了統一入

  還有個示例:Qwen3.5-4B 搜索了 20 多個網站,引用了其來源,并找到了最佳答案!

  通過 Unsloth Studio 僅用 4GB RAM 本地運行, 4B 模型通過在思考過程中直接執行工具調用+網絡搜索實現

  簡介

  一句話說,Unsloth Studio 是 Unsloth 剛推出的一個本地 Web UI,用來統一做模型運行、數據處理、訓練和導出。

  下圖是官方 README 給出的主界面截圖,整體就是一個很典型的本地 AI 控制臺:

  
Unsloth Studio 主界面

  模型支持:本地運行 GGUF 和 safetensors 格式的模型,支持文本、視覺、TTS、Embedding 等多種模型類型。

  平臺兼容:支持 Windows、Mac、Linux 系統。

  訓練與微調:提供數據集整理與生成、訓練過程可視化、模型對比(Model Arena)功能,并可使用 AI 助手對音頻、視覺、LLM 進行微調,支持導出 GGUF 和 safetensors 模型

  數據工具:提供數據設計、合成數據生成、快速并行數據準備及嵌入微調工具。

  交互界面:聊天界面集成自動修復、工具調用、Python & Bash 代碼執行、網絡搜索、以及圖像與文檔輸入功能。支持 SVG 渲染

  這類產品最怕的一點就是攤子鋪得很大,最后每一塊都只做了個皮毛

  但 Unsloth Studio 現在給我的感覺是,方向對了,而且它抓的幾個點很懂實際用戶:

  你可以直接搜模型、跑模型

  你可以上傳 PDF、CSV、JSON、DOCX 這些文件

  你可以把訓練后的模型繼續導出到 llama.cpp、vLLM、Ollama 這些棧里

  它甚至把 Tool Calling、Web Search、代碼執行也放進了 Studio Chat

  對于“我既想本地跑一下,又想繼續微調一下,再順手導出來接現有系統”的用戶,這套思路很順。

  功能亮點

  我把我覺得最值得關注的幾個點拎出來

  1. 本地跑大模型,入口更統一了

  官方文檔里提到,它支持搜索和運行 GGUF、safetensors 模型,也支持圖片、文檔、音頻、代碼文件上傳。

  把“本地模型桌面化”,風格上很像把本地模型管理、聊天、參數調節整合到了一起:

  
Unsloth Studio 運行模型界面 2. 它把 Tool Calling 和代碼執行也塞進來了

  這一點我挺喜歡

  很多本地 UI 做到聊天就停了,能跑工具、能執行 Bash 和 Python 的并不多。

  Unsloth Studio 在文檔里明確寫了支持代碼執行、Web Search,以及所謂的 self-healing tool calling。

  這個方向一旦成熟,對本地 Agent 會非常有意思

  3. Data Recipes 很像它的隱藏大招

  官方一直在強調 Data Recipes

  簡單理解,就是你把 PDF、CSV、JSON 這些資料丟進去,它幫你轉成可用的數據集,走的是圖節點工作流,底層是 NVIDIA Nemo Data Designer

  如果它后續穩定下來,這個價值其實不小

  因為大量微調項目最麻煩的環節,往往在前面那堆數據整理

  官方截圖如下:

  
Unsloth Studio Data Recipes 4. 訓練過程可視化和導出能力也做進去了

  這兩塊我覺得挺實用:

  Observability:實時看訓練 loss、gradient norm、GPU 使用率

  Export / Save models:導出 GGUF、16-bit safetensors,繼續接 llama.cpp、vLLM、Ollama

  這就很像一個真正圍繞“訓練閉環”做的產品,而不是單純套了一層聊天殼子

  
Unsloth Studio Observability 安裝

  官方現在給的安裝方式非常直接,MacOS、Linux、WSL:

  curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/install.sh | sh

  它做了下面幾件事:

  檢查系統依賴,比如cmakegit

  自動安裝uv

  創建名為unsloth_studio的虛擬環境

  執行uv pip install unsloth --torch-backend=auto

  最后再跑unsloth studio setup

  Windows Powershell

  

  安裝完成后,啟動命令如下:

  

  source unsloth_studio/bin/activate
unsloth studio -H 0.0.0.0 -p 8888

  瀏覽器打開:

  http://localhost:8888

  首次啟動會要求你創建密碼,然后進入一個 onboarding 向導,選擇模型、數據集和一些基礎配置

  



安裝體驗

  這條一鍵命令確實省心,但首裝并不算快

  我這邊日志里,依賴解析就花了大約 2 分鐘,隨后開始下載和安裝torchtransformerspyarrowtokenizersdiffusersunsloth等包。

  你如果看到終端一段時間沒有明顯新輸出,不用太慌,大概率還在后臺繼續拉依賴。

  我這次在本機實測時,一鍵安裝腳本跑了 35 分鐘,進程依然停留在uv pip install unsloth --torch-backend=auto這一步。

  官方文檔里也專門提醒了首裝可能需要 5 到 10 分鐘,原因是后面還會涉及llama.cpp相關構建。

  這一點我很建議大家有點耐心,別看到安靜了就順手Ctrl + C。但如果你本地也卡到半小時以上,我建議你去看一下網絡、鏡像源、磁盤空間,以及uv的下載緩存。

  一個需要注意的小細節

  官方文檔目前有一點口徑差異

  在介紹頁的 3 月 18 日更新說明里,官方寫了 MacOS 和 CPU 已經啟用了 Data Recipes;

  但安裝頁和系統要求頁里,又依然寫著 Mac 和 CPU 當前主要支持 Chat,訓練部分還要再等等。

  所以更穩妥的理解方式是:

  Windows、Linux、WSL 是當前主戰場

  NVIDIA GPU 用戶可以把訓練能力作為重點來看

  Mac 用戶當前先把它當成本地聊天和工作流入口

  適合誰

  如果你屬于下面這幾類用戶,我覺得 Unsloth Studio 很值得盯一下:

  想本地跑模型,又不想一直在命令行里切來切去

  已經在玩 GGUF、Ollama、llama.cpp、vLLM,想找一個統一入口

  想從“跑模型”繼續往“做數據、做訓練、做導出”再走一步

  想研究本地 Agent、Tool Calling、代碼執行這類能力

  如果你只是想要一個極致穩定、只負責聊天的本地工具,那它當前這個 Beta 狀態還需要你多一點耐心。

  總結

  Unsloth Studio 最吸引我的地方,在于它試圖把本地 AI 這條鏈路真正串起來,單點功能反而不是我最看重的部分。

  從聊天,到數據準備,到訓練,到可視化,到導出,這條路徑如果真被它打通,那它就很有機會成為本地 AI 工作臺里的重要玩家。

  制作不易,如果這篇文章覺得對你有用,可否點個關注。給我個三連擊:點贊、轉發和在看。若可以再給我加個,謝謝你看我的文章,我們下篇再見!

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
農民當著眼鏡蛇面剝了3條小蛇:就愛喝蛇酒,次日下田一看后悔了

農民當著眼鏡蛇面剝了3條小蛇:就愛喝蛇酒,次日下田一看后悔了

卡西莫多的故事
2025-10-23 10:48:34
高市早苗走投無路,求中國重啟談判,中國亮劍:賣光日本都不夠賠

高市早苗走投無路,求中國重啟談判,中國亮劍:賣光日本都不夠賠

明天后天大后天
2026-04-25 22:31:45
普京被迫打開金庫,俄羅斯黃金連夜運往中國,中方發話果斷接盤

普京被迫打開金庫,俄羅斯黃金連夜運往中國,中方發話果斷接盤

激情與榮耀并存
2026-04-26 09:37:41
芬蘭空軍學員駕飛機空中畫巨型不雅圖案 遭軍方譴責、網友抨擊

芬蘭空軍學員駕飛機空中畫巨型不雅圖案 遭軍方譴責、網友抨擊

環球趣聞分享
2026-04-24 13:10:17
40多艘現役艦艇集中亮相,我國海軍為何愈發重視軍營開放日活動?

40多艘現役艦艇集中亮相,我國海軍為何愈發重視軍營開放日活動?

上觀新聞
2026-04-25 19:29:10
渾身都是“寄生蟲”的3種魚,賣魚商販都不敢吃,白送也千萬別要

渾身都是“寄生蟲”的3種魚,賣魚商販都不敢吃,白送也千萬別要

哄動一時啊
2026-02-27 23:35:44
張蘭又有大動作!打總監三巴掌,一腳踢滾下車,馬筱梅公司成笑話

張蘭又有大動作!打總監三巴掌,一腳踢滾下車,馬筱梅公司成笑話

悄悄史話
2026-04-26 16:26:47
下架視頻并封號!3人被拘留!警方:沒有一句是實話

下架視頻并封號!3人被拘留!警方:沒有一句是實話

南方都市報
2026-04-26 09:09:00
爺爺是萬里,前男友是李云迪,赴美卻只能擠地下室,名媛萬寶寶的人生究竟有多生猛?

爺爺是萬里,前男友是李云迪,赴美卻只能擠地下室,名媛萬寶寶的人生究竟有多生猛?

史海孤雁
2026-04-24 22:24:12
親手送吳亦凡入獄5年后,都美竹迎噩耗,法院出手或使其飯碗不保

親手送吳亦凡入獄5年后,都美竹迎噩耗,法院出手或使其飯碗不保

老吳教育課堂
2026-04-25 01:00:44
《黑夜告白》開播!觀眾要求下架,理由:故弄玄虛、掛羊頭賣狗肉

《黑夜告白》開播!觀眾要求下架,理由:故弄玄虛、掛羊頭賣狗肉

趣味八卦
2026-04-26 16:30:17
嫂子一聲掀翻籃壇!96黃金一代的愛情、疤痕與永不落幕的江湖

嫂子一聲掀翻籃壇!96黃金一代的愛情、疤痕與永不落幕的江湖

林子說事
2026-04-26 14:28:50
阿斯報:皇馬即將900萬回購尼科-帕斯,已通知科莫和球員本人

阿斯報:皇馬即將900萬回購尼科-帕斯,已通知科莫和球員本人

懂球帝
2026-04-26 14:22:20
溫州一鳴董事長!年薪公布

溫州一鳴董事長!年薪公布

溫曉生
2026-04-25 23:56:01
看球20年最感慨的反差:曾被中超低估的外援,轉頭在拜仁拿下3冠

看球20年最感慨的反差:曾被中超低估的外援,轉頭在拜仁拿下3冠

圣西羅的太陽
2026-04-26 14:25:14
CCTV5直播遼寧男籃VS山東,廣東VS廣州,季后賽門票開賣,真賺錢

CCTV5直播遼寧男籃VS山東,廣東VS廣州,季后賽門票開賣,真賺錢

體育大學僧
2026-04-26 11:07:35
羅馬諾:穆里尼奧已告知身邊人想回皇馬,決定權在弗洛倫蒂諾

羅馬諾:穆里尼奧已告知身邊人想回皇馬,決定權在弗洛倫蒂諾

懂球帝
2026-04-26 18:58:13
扛不住了?俄羅斯終于點頭妥協,與其拖著不如給中國一個順水人情

扛不住了?俄羅斯終于點頭妥協,與其拖著不如給中國一個順水人情

璀璨幻行者
2026-04-25 16:24:35
傳聞故事:15年之期已到,何超瓊與許晉亨的離婚保密協議曝光

傳聞故事:15年之期已到,何超瓊與許晉亨的離婚保密協議曝光

卡西莫多的故事
2026-02-04 09:38:40
香港頂級富二代共進早餐,何超瓊李澤楷坐中間,霍啟剛鄭志雯也在

香港頂級富二代共進早餐,何超瓊李澤楷坐中間,霍啟剛鄭志雯也在

漫婷侃娛樂
2026-03-29 19:37:50
2026-04-26 19:56:49
Ai學習的老章 incentive-icons
Ai學習的老章
Ai學習的老章
3352文章數 11139關注度
往期回顧 全部

科技要聞

漲價浪潮下,DeepSeek推動AI“價格戰”

頭條要聞

特朗普內閣又一女部長落馬:強迫男下屬為其提供性服務

頭條要聞

特朗普內閣又一女部長落馬:強迫男下屬為其提供性服務

體育要聞

森林狼3比1掘金:逆境中殺出了多孫穆?!

娛樂要聞

僅次《指環王》的美劇,有第二季

財經要聞

事關新就業群體,中辦、國辦發文

汽車要聞

預售19.38萬元起 哈弗猛龍PLUS七座版亮相

態度原創

教育
房產
健康
公開課
軍事航空

教育要聞

休學率上漲,驚到很多人!北大六院醫生直言:這背后其實是夫妻關系和家庭關系……

房產要聞

新一輪教育大爆發來了!海口,開始瘋狂建學校!

干細胞如何讓燒燙傷皮膚"再生"?

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

伊朗總統:不會在壓力、威脅下進行談判

無障礙瀏覽 進入關懷版