網易首頁 > 網易號 > 正文 申請入駐

影石:十年全景相機,拍出了一座數據金礦

0
分享至

research

? 一家相機公司的 AI 研究院,比很多大模型公司人還多

?「天空有多遠」和「杯子有多遠」,對算法來說完全是兩個問題

? 全景賽道太小了,不開源只有自己在玩

以上內容,來自我和影石 AI 研究院 Gavin 的對話

做全景相機的影石Insta360,最近把 4 篇頂會論文的核心算法 全部開源

DAP|CVPR 2026

全景深度預測,純視覺,一張圖量距離

AirSim360|CVPR 2026

全景仿真平臺,單日百萬幀,成本 20 塊

DiT360|CVPR 2026

全景文生圖,輸入文字生成 360 度全景圖

DDGS|ICLR 2026

稀疏視角 3D 高斯潑濺重建

影石,年營收近百億,在全景相機領域市占率66%,連續八年全球第一

不為人知的是,他們還有個數百人的 AI 研究院,比許多頭部大模型公司還大


Insta360 全景相機

一家相機公司,攢下了稀缺的空間數據

以下內容,來自我和 Gavin 的對話,在影石,他是研究院總監、董事會成員,這些工作都由他負責統籌和指導

同時,Gavin 是 TPAMI 編委,之前在字節跳動帶視頻生成大模型的數據基建。聊完之后我才明白,論文只是切面,真正有意思的是影石手里的數據

全景數據的空間密碼

我問 Gavin,全景數據和普通照片到底有什么本質區別

他跟我說:很不一樣

用手機拍一張照片,它是一個固定視角的平面投影。畫面邊緣之外的世界對模型來說完全未知。它輸出一個深度值,對不對,誰也不知道,沒有任何物理約束能去校驗它

全景圖完全不同,記錄的是完整的 360 度空間信息。全景圖的最左邊和最右邊在物理上一定是無縫拼接的,每一幀全景數據都自帶一個閉環的數學校驗:模型產出的空間信息如果不滿足這個幾何閉合條件,數據系統本身就會報錯

自校驗能力,普通照片不具備

Gavin 把這個特性總結為:「全景數據,自帶物理閉環的幾何約束

訓練空間 AI 的時候,不需要額外的人工標注,數據本身就在約束模型的行為。對于任何在做具身智能、自動駕駛、空間計算的團隊來說,這種數據天然帶著一層「防幻覺」機制

這就是影石十年全景數據的真正價值。不只是量大,而是每一幀數據都自帶結構化的空間信息和內建的校驗機制

十年的全景數據

影石做了十年全景相機,積累了海量的全景空間數據。光是為 DAP 這個深度預測任務,經過數據清洗和場景平衡后篩出來的有效訓練集,就有 200 萬張。

此前,學術界最大的全景深度數據集就幾萬張

影石從十年前就在持續積累全景空間數據,早在 2020 年就用 3D 全景相機和貝殼找房合作采集室內空間數據

對此,Gavin 表示:在全景空間數據的積累上,影石在全球范圍內應該是最大的

DAP 的訓練數據來源三塊:公開數據集、用自研仿真平臺 AirSim360 生成的 9 萬幀合成戶外數據(覆蓋紐約、舊金山、羅馬等 5 個城市場景)、以及從互聯網采集的 170 萬張真實全景圖。注意,這 170 萬張圖沒有深度標注,靠一套三階段的偽標簽流水線自動生成 ground truth

一張全景圖,算出每個像素的距離。零樣本,全球第一

一張圖量距離,不需要激光雷達。對做空間感知的人來說,硬件成本從幾千塊的 LiDAR 模組降到一顆全景鏡頭。這個成本差異是量級的

不用激光雷達

我去讀了 DAP 的論文,發現了一件有意思的事:影石做深度預測用的是純視覺方案,不用激光雷達。只需要一張全景圖,就能算出每個像素的距離

DAP (Depth Any Panoramas)CVPR 2026

通過這個全景深度預測基礎模型,只需要一張全景圖,就能算出畫面中每個物體的距離,精確到像素。純視覺方案,不用激光雷達。用 200 萬級數據訓練,零樣本深度預測全球第一

為什么走這條路?Gavin 說參考的是特斯拉 FSD 的思路。特斯拉用 Data Scaling Law 證明了:數據夠多的時候,純視覺可以解決絕大部分問題。影石手里有全世界最大的全景數據集,走純視覺在數據量上有天然優勢

局限也有,大面積透明玻璃、純白色墻面,純視覺確實抓瞎。影石的做法是在無人機上配 ToF 傳感器做輔助,動態權重算法在不同場景下調整依賴程度。絕大部分場景純視覺覆蓋,極端情況傳感器兜底

影石最終想做的產品是一臺「完全自主的跟拍攝影師」,或者說:Cameraman

在這個過程中,設備不需要人操控,自己看懂空間、自己避障、自己構圖、自己用電影感的運鏡方式拍攝。這條路線的終局和自動駕駛是同一個邏輯:傳感器只是補充,數據規模才是壁壘

這個判斷對所有在純視覺和多傳感器融合之間做選擇的團隊都有參考價值。核心問題永遠是:有沒有足夠規模的數據,來喂純視覺方案

那 10% 的 Gap

影石做了一個仿真平臺 AirSim360,能在虛幻引擎 5 里原生渲染全景數據,單日產出 100 萬幀,成本 20 塊錢。官方說減少約 90% 的戶外實飛。我問 Gavin,那剩下的 10% 呢?

AirSim360CVPR 2026

這是一個全景無人機仿真平臺,借由虛幻5引擎,在其中搭建城市、山林等虛擬環境,接入真實飛控板做飛行訓練。自動生成深度、語義、實體等多層標注,不需要人工標注

那剩下的 10% 卡在哪?Gavin 說是真實世界里不可預測的物理噪聲。高速運動時的湍流、圖傳信號丟包、鏡頭震動導致的動態虛焦,這些在虛幻引擎里沒法完美建模。只能在真實世界里飛,炸一次機收集一次數據

然后我們聊到了室內和室外的區別,當然,這個話題跟我自己有關。我在同時裝修兩個幾百平的酒吧,正在把它們做成數字孿生,計劃讓具身智能的機器人在虛擬環境里訓練完直接來店里上班。做的過程中發現,室內的全景數據和戶外的完全是兩套處理邏輯

「因為天空的距離是不一樣的」

室外天空是無限遠的,算法設定一個無窮遠就行。但在室內,最遠距離就是天花板和墻壁

「天空有多遠」和「杯子有多遠」在深度幾何約束上完全是兩個概念。這也是很多深度預測模型只能做室內或者只能做室外的原因

對所有做室內具身智能的團隊來說,這是一個繞不開的基礎問題。DAP 在論文里做到了室內外統一的深度預測,但 AirSim360 仿真平臺目前只覆蓋了城市和戶外。Gavin 說內部已經在做室內空間的探索,包括無人機和機器人在多層建筑里自主穿梭的課題

影石現在也在和一些具身智能團隊合作,用定制化的全景設備給機器人當「眼睛」。360 度無死角,不用來回轉頭

做數字孿生還有一個繞不開的問題:怎么從幾張照片,還原出完整的三維空間?

拍的角度越少,重建就越快、成本越低,但質量也越難保證。影石的另一篇論文 DDGS 就在解決這個問題,而全景數據天然的全視角覆蓋,讓「少拍幾張」變得可行

DDGSICLR 2026

通過這項算法,只需要少量不同角度拍攝的照片,就能還原出可以自由旋轉查看的 3D 場景。全景相機一張圖覆蓋 360 度,天然減少了所需的拍攝次數

暖手寶問題

論文做出來了,但要塞進一顆運動相機的芯片,是另一回事。影石做的是消費級硬件,芯片算力和功耗被極度限制

Gavin 舉了個例子,目標追蹤領域效果最好的是 Meta 的 SAM 系列,追蹤什么物體都很準。但想放到影石的相機芯片上,底層硬件根本不支持 SAM 的某些網絡結構和算子

更致命的是散熱。相機體積太小,大模型跑起來發熱控制不住

「總不能把運動相機做成暖手寶」

所以影石的算法團隊做的事情,本質上是把學術界的大模型用裁剪、蒸餾和量化硬塞進消費級芯片。但問題還不止于此:由于全景數據的幾何畸變特性,通用學術模型的適配程度本身就不高,即使能跑進硬件,算法模型也要重新開發。這是為什么必須從底層自研,團隊需要數百人

這個問題不只是影石的。任何想把 AI 做進終端硬件的公司都面對同樣的約束:云端可以堆卡,終端沒這個條件。算力不夠的時候,算法設計本身就要為硬件讓路。影石在這件事上積累的經驗,對所有做端側 AI 的團隊都有參考價值

為什么開源

全景在 AI 領域還是一個很小的分支。影石占了全球 66% 份額,但整個賽道的體量有限。不開源,這個賽道就只有影石一家在玩

Gavin 說把底層技術開源,是希望學術界和工業界先用起來。用起來之后能反哺很多影石自己看不到的應用場景。一個人把蛋糕做不大,但基建鋪好了,別人進來,蛋糕才能變大

創始人劉靖康最近在上海一場黑客松上做了一件有意思的事。影石每年 1024 程序員節有個內部傳統:給最優秀的工程師發純金打造的鍵帽,回車鍵或者空格鍵,大約 30 克純金。這次劉靖康第一次把黃金鍵帽發給了外部的獲勝開發者,希望拿到鍵帽的人把它們拼在一起,拼出一個詞:NO BUG


NO BUG,用純金拼出來的

以及,對在做空間 AI 的開發者來說,影石這次開源的東西中還有一個值得一看:DiT 360,代碼和權重都放在了 GitHub 上

DiT360CVPR 2026

輸入一段文字描述,就能生成一張完整的 360 度全景圖。生成的圖在邊緣能無縫拼接,保持幾何結構的一致性,同時支持對已有全景圖做局部修改和擴展

聊到最后,Gavin 說了他對未來三年的押注:把感知和生成統一到一個全景基座模型里。三年后,設備放飛,完全自主地看懂空間、避障、構圖、拍攝。他管這個叫「完全自主的超級跟拍師」

然后他提到:最近在研究怎么讓無人機在室內自主爬樓梯

我說:我的新酒吧正好有樓梯,到時候留一段給你測試

關于 Gavin

Gavin(亓魯),90 后,2024 年加入影石。長期擔任 NeurIPS、ICML、ICLR、ICCV、CVPR 領域主席,AI 2000 全球人工智能學者,Google Scholar 引用 16000+

最后,感謝 Gavin 和影石研究院團隊的坦誠分享

影石 AI 研究院開源項目

https://github.com/Insta360-Research-Team

DAP 在線 Demo

https://huggingface.co/spaces/Insta360-Research/DAP

DiT360 在線 Demo

https://huggingface.co/spaces/Insta360-Research/DiT360

AirSim360 論文

https://arxiv.org/abs/2512.02009

DAP 論文

https://arxiv.org/abs/2512.16913

DiT360 論文

https://arxiv.org/abs/2510.11712

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
伊朗末代國王長子回應“是否是以色列特工”:我不是,但我是以色列和猶太人的朋友;報道稱其在德國遇襲

伊朗末代國王長子回應“是否是以色列特工”:我不是,但我是以色列和猶太人的朋友;報道稱其在德國遇襲

魯中晨報
2026-04-24 11:48:08
中央下死命令:一個都別想跑!“天網2026”,這種人好日子到頭了

中央下死命令:一個都別想跑!“天網2026”,這種人好日子到頭了

史行途
2026-04-24 19:39:23
庫克公開承認,蘋果最失敗的產品和最成功的產品!

庫克公開承認,蘋果最失敗的產品和最成功的產品!

XCiOS俱樂部
2026-04-24 00:05:15
美媒稱,革命衛隊總司令瓦希迪成為美軍最新打擊目標

美媒稱,革命衛隊總司令瓦希迪成為美軍最新打擊目標

山河路口
2026-04-24 13:23:02
何潤東亮相蘇超后爆火!沒收一分錢出場費,格局不是一般明星能比

何潤東亮相蘇超后爆火!沒收一分錢出場費,格局不是一般明星能比

洲洲影視娛評
2026-04-22 16:13:43
余承東話含金量還在上升!日產3月在華新車銷量增長23% 靠華為拉爆豐田本田

余承東話含金量還在上升!日產3月在華新車銷量增長23% 靠華為拉爆豐田本田

快科技
2026-04-23 11:56:29
福建保安與女車主起沖突,“女司機遭掌摑”最新進展:警方稱雙方均有錯,會依法依規處理;相關人員:該地不允許停車,保安多次勸阻無果

福建保安與女車主起沖突,“女司機遭掌摑”最新進展:警方稱雙方均有錯,會依法依規處理;相關人員:該地不允許停車,保安多次勸阻無果

三湘都市報
2026-04-24 14:48:19
四屆DPOY終證含金量!戈貝爾連續鎖死約基奇,掘金悔不當初!

四屆DPOY終證含金量!戈貝爾連續鎖死約基奇,掘金悔不當初!

田先生籃球
2026-04-24 13:17:56
陜西一高校演出機器人突然擁抱女生 校方:女生沒事,系機器人程序故障

陜西一高校演出機器人突然擁抱女生 校方:女生沒事,系機器人程序故障

上游新聞
2026-04-24 15:30:11
最后時刻簽了,高市將全面梭哈?中日航班已停飛,解放軍準時出海

最后時刻簽了,高市將全面梭哈?中日航班已停飛,解放軍準時出海

孤單是寂寞的毒
2026-04-24 16:45:41
今日最慘股,連續上漲3個月后,今天一次性跌完,股價又創新低!

今日最慘股,連續上漲3個月后,今天一次性跌完,股價又創新低!

丁丁鯉史紀
2026-04-24 17:01:03
歐盟正式批準向烏克蘭提供900億歐元貸款方案

歐盟正式批準向烏克蘭提供900億歐元貸款方案

新京報
2026-04-23 22:14:07
血脂高不高,看頭就知道!血脂高的人,會有4個表現,看看有沒有

血脂高不高,看頭就知道!血脂高的人,會有4個表現,看看有沒有

DrX說
2026-04-24 15:00:03
神奇!利拉德要上演王者歸來?跟腱大傷或對陣馬刺時火線復出!

神奇!利拉德要上演王者歸來?跟腱大傷或對陣馬刺時火線復出!

仰臥撐FTUer
2026-04-24 14:49:34
5月1日起,3萬塊就能把老板送進去,不明財產門檻卻漲到了300萬!

5月1日起,3萬塊就能把老板送進去,不明財產門檻卻漲到了300萬!

今朝牛馬
2026-04-23 23:23:59
何鴻燊最后11年過得是什么樣的日子?說出來可能顛覆很多人的認知

何鴻燊最后11年過得是什么樣的日子?說出來可能顛覆很多人的認知

人生錄
2026-04-22 19:01:34
特朗普沒想到,先等來的不是伊朗參加談判,而是美國遭遇三大挫敗

特朗普沒想到,先等來的不是伊朗參加談判,而是美國遭遇三大挫敗

史智文道
2026-04-23 12:05:56
楊樂樂后悔全職帶娃落淚,在婚姻中不快樂,汪涵:為什么要和我比

楊樂樂后悔全職帶娃落淚,在婚姻中不快樂,汪涵:為什么要和我比

童叔不飆車
2026-04-23 22:38:35
前方大戰一觸即發,特朗普卻改變主意,親手斬掉心腹,終于知錯了

前方大戰一觸即發,特朗普卻改變主意,親手斬掉心腹,終于知錯了

游古史
2026-04-24 21:01:19
洗腦、性侵、亂倫,全球頭號變態復出了

洗腦、性侵、亂倫,全球頭號變態復出了

獨立魚
2026-04-23 22:35:39
2026-04-25 00:03:00
賽博禪心
賽博禪心
拜AI古佛,修賽博禪心
404文章數 50關注度
往期回顧 全部

藝術要聞

停工一年多,南京500米第一高樓終于有動靜了?方案要改!

頭條要聞

航班提前起飛10分鐘 大學生把海航告了

頭條要聞

航班提前起飛10分鐘 大學生把海航告了

體育要聞

上海男籃23連勝+主場全勝 姚明之后最強一季

娛樂要聞

停工16個月!趙露思證實接拍新劇

財經要聞

LG財閥內斗:百億美元商業帝國爭奪戰

科技要聞

DeepSeek V4牽手華為,價格依然"屠夫級"

汽車要聞

零跑Lafa5 Ultra北京車展上市:11.88-12.48萬

態度原創

本地
房產
藝術
親子
家居

本地新聞

云游中國|逛世界風箏都 留學生探秘中國傳統文化

房產要聞

新一輪教育大爆發來了!海口,開始瘋狂建學校!

藝術要聞

停工一年多,南京500米第一高樓終于有動靜了?方案要改!

親子要聞

聽說醫院產檢水很深?

家居要聞

自然肌理 溫潤美學

無障礙瀏覽 進入關懷版