![]()
有一定道理,但也并非完全如此,情況較為復(fù)雜。
一位軟件開(kāi)發(fā)者聲稱(chēng)已對(duì)谷歌DeepMind的SynthID系統(tǒng)進(jìn)行了逆向工程,并展示了如何從生成圖像中剝離AI水印,或?qū)⑵涫謩?dòng)嵌入其他作品。對(duì)此,谷歌方面表示,該說(shuō)法并不屬實(shí)。
這位開(kāi)發(fā)者以用戶(hù)名"Aloshdenny"為網(wǎng)絡(luò)身份,已在GitHub上開(kāi)源了其研究成果,并記錄了整個(gè)過(guò)程。據(jù)其描述,這一切只需要200張由Gemini生成的圖像、一些信號(hào)處理知識(shí),以及"大把閑暇時(shí)光"。
"不需要神經(jīng)網(wǎng)絡(luò),不需要專(zhuān)有訪問(wèn)權(quán)限,"Aloshdenny在Medium上寫(xiě)道,"事實(shí)證明,只要你沒(méi)有工作,把足夠多的'純黑色'AI生成圖像取平均,每一個(gè)非零像素就是水印本身,就這么簡(jiǎn)單。"
SynthID是一套幾乎不可見(jiàn)的水印系統(tǒng),專(zhuān)門(mén)為谷歌AI工具生成的內(nèi)容打上標(biāo)記,在圖像創(chuàng)建之初便將水印嵌入像素層中。該系統(tǒng)在設(shè)計(jì)上具備高度抗刪除性——強(qiáng)行去除水印會(huì)明顯損傷圖像質(zhì)量。目前,SynthID已被廣泛應(yīng)用于谷歌旗下各類(lèi)AI產(chǎn)品,包括Nano Banana和Veo 3等模型的輸出內(nèi)容,甚至YouTube上由AI生成的創(chuàng)作者虛擬克隆內(nèi)容也加載了SynthID水印。
以下是一組對(duì)比圖:左側(cè)為仍保留SynthID水印的圖像,右側(cè)為水印被部分移除、足以欺騙檢測(cè)器后的效果。兩者之間僅有細(xì)微的視覺(jué)差異,說(shuō)明去除過(guò)程對(duì)圖像質(zhì)量的損耗極為有限。
Aloshdenny表示,他認(rèn)為SynthID是"真正優(yōu)秀的工程作品",并坦承在測(cè)試中始終無(wú)法將水印徹底清除,最終只能采用干擾SynthID解碼器讀取水印圖像的方式來(lái)繞過(guò)檢測(cè)。
破解谷歌水印底層機(jī)制的過(guò)程,對(duì)于非開(kāi)發(fā)者而言具有相當(dāng)?shù)募夹g(shù)門(mén)檻。如有興趣,可前往Aloshdenny的Medium頁(yè)面閱讀完整分析(據(jù)稱(chēng)是在特定狀態(tài)下撰寫(xiě)的)。以下是簡(jiǎn)化版說(shuō)明:
第一步,使用Gemini生成200張全黑或純白圖像,增強(qiáng)對(duì)比度與飽和度,再對(duì)飽和度進(jìn)行降噪處理,以此暴露水印圖案。
第二步,對(duì)所有圖案取均值,找出每個(gè)頻率區(qū)間、每個(gè)通道上水印信號(hào)的幅度與相位。
第三步,在目標(biāo)圖像中搜尋這些頻率的蹤跡,并以水印嵌入時(shí)的相同角度,將其部分移除。
"我最多只能做到讓解碼器產(chǎn)生混亂、令其放棄讀取,而不是真正刪除水印——這本身就說(shuō)明它的設(shè)計(jì)有多出色,"Aloshdenny表示,"它并不完美,但它的目標(biāo)也不是做到無(wú)懈可擊,而是將濫用成本提高到讓大多數(shù)人望而卻步的程度。"
筆者尚未親自測(cè)試Aloshdenny這個(gè)針對(duì)谷歌SynthID水印系統(tǒng)的逆向工程項(xiàng)目,因此無(wú)法對(duì)其實(shí)際效果作出保證。就目前情況而言,SynthID似乎并未真正意義上被破解——至少還沒(méi)有到任何人都能下載工具、一鍵去除或偽造谷歌水印以欺騙AI檢測(cè)系統(tǒng)的程度。谷歌方面同樣不認(rèn)可Aloshdenny的相關(guān)聲明。
"聲稱(chēng)該工具可以系統(tǒng)性地去除SynthID水印,這種說(shuō)法是錯(cuò)誤的,"谷歌發(fā)言人Myriam Khan向The Verge表示,"SynthID是一套針對(duì)AI生成內(nèi)容的強(qiáng)健、高效水印工具。"
Q&A
Q1:SynthID是什么?它是如何工作的?
A:SynthID是谷歌DeepMind開(kāi)發(fā)的一套近乎不可見(jiàn)的AI內(nèi)容水印系統(tǒng)。它在圖像生成之初便將水印直接嵌入像素層,設(shè)計(jì)上具備高度抗刪除性——強(qiáng)行去除會(huì)明顯損傷圖像質(zhì)量。目前,SynthID已被廣泛部署于谷歌旗下AI產(chǎn)品,包括Nano Banana、Veo 3等模型的輸出內(nèi)容,以及YouTube上的AI生成虛擬克隆內(nèi)容。
Q2:Aloshdenny是如何嘗試破解SynthID的?
A:Aloshdenny使用Gemini生成了200張純黑或純白圖像,通過(guò)增強(qiáng)對(duì)比度、飽和度并進(jìn)行降噪處理來(lái)暴露水印圖案,再對(duì)圖案取均值找出水印信號(hào)的頻率特征,最終在目標(biāo)圖像中定位并部分移除相關(guān)頻率。整個(gè)過(guò)程不涉及神經(jīng)網(wǎng)絡(luò)或?qū)S性L問(wèn)權(quán)限,僅依賴(lài)信號(hào)處理技術(shù)。
Q3:SynthID有沒(méi)有被徹底破解?
A:目前來(lái)看沒(méi)有。Aloshdenny本人也承認(rèn),其最多只能干擾SynthID解碼器使其放棄讀取,而無(wú)法將水印徹底刪除。谷歌發(fā)言人也明確表示,該工具無(wú)法系統(tǒng)性地去除SynthID水印,SynthID仍是一套針對(duì)AI生成內(nèi)容的強(qiáng)健有效的水印工具。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.