昨天，GPT-image-2正式上線了。

然后，所有的社群、社媒都玩瘋了。

甚至，GPT-image-2生成的梗圖，一度沖上了微博熱搜第一。

就是這張圖，為了防止大家誤會(huì)，我打了巨大的水印。

除了這張圖之外，我又看到了很多很多很多，因?yàn)楦愠橄?，因?yàn)槲覀兲煜ち耍院苋菀妆蛔R(shí)別的GPT-image-2生成的假圖。

還有這種級別的照片。

甚至還有我朋友鮮蝦包，整活生成的微信聊天記錄。

大家玩的確實(shí)很High，但是這一整天，讓我忽然覺得，這個(gè)世界變成了一座巨大的黑暗森林。

昨天早上有一個(gè)特別典型的例子。

就是昨天大概中午12點(diǎn)的時(shí)候，應(yīng)該是OpenAI在配置Codex模型的時(shí)候出了點(diǎn)問題。

導(dǎo)致GPT-5.5被泄露了出來。

如果是以前，那按照我們?nèi)河训牡滦?，幾乎都是?huì)立刻打開Codex，然后去體驗(yàn)，然后回到群里來反饋，說，真的上了真的上了類似的這種話。

但是昨天中午，我看到的卻是讓我非常不尋常的一幕。

然后又確實(shí)是因?yàn)锽UG，所以泄露很快就被OpenAI收回了。

然后群友如果遲了一點(diǎn)去看的話，其實(shí)會(huì)發(fā)現(xiàn)，沒有GPT-5.5，只有5.4了。

群里的氛圍直接是這樣的。

最抽象的是，我把這個(gè)截圖發(fā)了朋友圈，感嘆了一句。

然后，評論區(qū)，是這樣使的。

都說我這兩張群里截圖也是AI生成的。

我把這個(gè)朋友圈發(fā)回到群里，想給大家看看這個(gè)神奇的評論區(qū)。

他們說，我發(fā)到群里的這個(gè)朋友圈截圖，也是AI生成的。

猜疑鏈閉環(huán)了。

這個(gè)世界，終于變成了一個(gè)巨大的黑暗森林。

還有這張圖，猜疑鏈更甚，昨天討論的非常的多，因?yàn)?，已?jīng)沒有人知道到底是真的還是假的了。

甚至我到現(xiàn)在即使拿原圖去豆包實(shí)測過，我也依然沒有辦法100%確實(shí)是真的還是假的。

我知道大家是在玩梗，是覺得好玩，大家本意都是善良的。

但，當(dāng)你們看到這些圖片的時(shí)候，我不知道你們會(huì)不會(huì)像我一樣，冷汗直冒。

還有些更敏感的比如轉(zhuǎn)賬截圖、銀行流水、護(hù)照啥的我就不放了。

放了我這篇文章我感覺都發(fā)不出去了。

我覺得因?yàn)檫@個(gè)模型的發(fā)布，有一個(gè)我們一直賴以生存的東西，悄悄的消亡了。

就是信任。

或者更準(zhǔn)確地說，是我相信我看到的東西是真的這件事本身。

在GPT-image-2之前，我們每天在互聯(lián)網(wǎng)上接收信息的時(shí)候，有一個(gè)默認(rèn)的底層假設(shè)，就是截圖是真的，照片是真的，聊天記錄是真的。

有圖有真相，這句話被流傳了很久很久。

我們不需要花任何精力去懷疑這些東西。

看到一張微博截圖，我們討論的是內(nèi)容本身。

看到一張聊天記錄，我們關(guān)心的是發(fā)生了什么事。

看到一張新聞圖片，我們思考的是新聞本身。

這個(gè)默認(rèn)信任，其實(shí)就是是整個(gè)互聯(lián)網(wǎng)信息生態(tài)運(yùn)轉(zhuǎn)的基石。

很多時(shí)候，我們甚至都都不需要意識(shí)到它的存在，就像魚很多時(shí)候也并不會(huì)意識(shí)到水的存在，我們也不會(huì)意識(shí)到空氣這種東西。

只有，當(dāng)它開始消亡的那一刻。

我并不是說，我們所有人，就會(huì)變得立刻、可以的去懷疑每一張圖本身。

但，那個(gè)懷疑的種子，已經(jīng)種下了。

未來，你看到一張圖，但凡有一點(diǎn)點(diǎn)跟你的感覺不符，或者，觸發(fā)了你的某個(gè)PTSD，你的腦海里必定會(huì)多出一個(gè)聲音，這是不是AI生成的？

這個(gè)聲音可能很小，可能只是一閃而過，可它就像種子一樣，深深的扎根在那里了。

而它，隨著AI的繼續(xù)發(fā)展，也只會(huì)越來越大，不會(huì)越來越小。

這就是黑暗森林。

那種著名的《三體》里面的黑暗森林法則。

宇宙是一座黑暗森林，每個(gè)文明都是帶槍的獵人。

在黑暗森林中，最核心的理論，就是猜疑鏈假設(shè)。

因?yàn)槟銦o法判斷對方是善意和惡意的。

為了保護(hù)自己，你只能先行預(yù)設(shè)對方是惡意的。

就像現(xiàn)在的互聯(lián)網(wǎng)，我也無法判斷信息的背后，那個(gè)源頭的人，是抱有善意還是抱有惡意，我無法判斷，我的最優(yōu)解，就是先默認(rèn)不相信。

因?yàn)椋圃旒俚臇|西變得太容易了。

當(dāng)造假的成本趨近于零的時(shí)候，信任的成本就趨近于無窮大。

這是一個(gè)非常基本的數(shù)學(xué)問題。

2023年初，ChatGPT爆火的時(shí)候，我決定寫下自己的第一篇文章，選擇開始做一個(gè)IP，其實(shí)當(dāng)時(shí)思考了非常多。

那時(shí)候我非常焦慮，因?yàn)槲也恢涝贏I時(shí)代，什么東西是不會(huì)被替代的，我花了很長時(shí)間去想這個(gè)問題。

我最后答案，只有一個(gè)詞。

信任。

今年年初我也對外發(fā)了一下當(dāng)時(shí)的思考。

當(dāng)時(shí)有三條自己認(rèn)為是公理的東西，雖然看著非常民科也很扯淡，但，當(dāng)時(shí)確實(shí)指導(dǎo)了我后續(xù)的一切。

1.在AI加持下信息生產(chǎn)的效率呈指數(shù)級爆發(fā)，而人類消費(fèi)的效率是恒定或線性增長的。二者之間形成了永久性的、不斷擴(kuò)大的結(jié)構(gòu)性失衡。

2.無論信息總量如何爆炸，一個(gè)社會(huì)在特定時(shí)間內(nèi)的總注意力是一個(gè)基本恒定的稀缺資源，一個(gè)領(lǐng)域注意力的增加必然意味著另一個(gè)領(lǐng)域注意力的減少。

3.辨別內(nèi)容由AI還是人類生成的成本，將系統(tǒng)性地高于該內(nèi)容本身帶來的價(jià)值。因此，絕大多數(shù)人將從理性上放棄辨別。

第三條，在23年跟很多朋友交流的時(shí)候，很多人其實(shí)還挺嗤之以鼻的。

"AI生成的東西這么假，我怎么可能看不出來呢。"

可昨天，這一天，在圖片領(lǐng)域，終于到來了。

而且來的方式，比我想象的還要快，還要徹底。

辨別的成本太高了，你花5分鐘去驗(yàn)證一張截圖是不是真的，結(jié)果它可能就是真的，你浪費(fèi)了5分鐘。

也可能是假的，但那又怎樣呢？你每天要看幾百張圖，你不可能每張都花5分鐘去驗(yàn)證。

所以最理性的策略就是，默認(rèn)一切都可能是假的。

或者，默認(rèn)一切都無所謂真假。

所以，當(dāng)年，我自己由這三條公理推導(dǎo)出的結(jié)論，就是：

傳統(tǒng)的信息篩選因失衡而不可能，因不可辨識(shí)而無意義，最終將會(huì)失效。我們?yōu)榱藨?yīng)對有限注意力的挑戰(zhàn)，可能唯一的策略就是，放棄篩選信息，轉(zhuǎn)而篩選信息的源頭。

信任不再附著在信息上。

信任附著在人上。

這就是我當(dāng)年想做IP的原因。

不止是因?yàn)樽鯥P能賺錢，也不止是因?yàn)樽鯥P能出名，而是因?yàn)樵谝粋€(gè)真假難辨的世界里，一個(gè)你長期關(guān)注、長期驗(yàn)證、長期建立了信任關(guān)系的活人，是你在信息洪流中唯一可以抓住的錨。

23年我做這個(gè)公眾號的第一天，給自己定了一條底線。

真誠是唯一的捷徑。

這并不所謂的雞湯。

這是我自己，在黑暗森林里的生存策略，也是為了對抗這個(gè)操蛋的AI時(shí)代，唯一的解法。

但說實(shí)話，今天，此時(shí)此刻，我完全沒有任何我三年前就說對了的得意感，我也完全不想炫耀任何東西。

一點(diǎn)都沒有。

我只有一種深深的不安。

我不知道互聯(lián)網(wǎng)的黑暗森林最終會(huì)演化成什么樣子。

我不知道信任的重建需要多長時(shí)間，需要什么樣的技術(shù)，需要什么樣的共識(shí)。

就像現(xiàn)在最主流的識(shí)別方案就是加AI水印，顯示水印和數(shù)字水印，比如C2PA。

但去除這些太簡單了。

就像C2PA，只能證明有這個(gè)標(biāo)簽的圖是AI的，但不能證明沒有這個(gè)標(biāo)簽的圖就是真的。

所以一張沒有C2PA標(biāo)簽的圖片，你依然無法判斷它是真的照片還是被去過標(biāo)簽的AI圖。

Google有一個(gè)叫SynthID的技術(shù)，思路稍微不太一樣一點(diǎn)，它是直接在圖像的像素層面嵌入不可見的水印，理論上這種水印更難去除，這個(gè)確實(shí)我是目前看到的AI檢測效果最好的方式，但是并不兼容其他家，只有Google自己玩。

而且在類似reddit的論壇里，依然有很多的攻破方式。

坦率的講，目前沒有任何一種技術(shù)手段，能夠可靠地檢測一張圖片是不是AI生成的。

這就是現(xiàn)實(shí)。

就像昨天群友在群里發(fā)的一段話。

那技術(shù)不靠譜的時(shí)候，我們普通人能做什么？

我想了想，能給的建議真的不多，但我覺得每一條都是有用的。

1. 截圖不等于證據(jù)，這個(gè)觀念，需要從今天開始刻進(jìn)腦子里。

2. 傳播任何圖片之前多停三秒鐘。

3. 關(guān)注信息的源頭，而不是信息本身。

最后，如果非要說一句話。

我只能說，在這個(gè)黑暗森林里，做一個(gè)值得被信任的人。

這可能是我們唯一能做的事。

也可能是，最重要的事。

以上，既然看到這里了，如果覺得不錯(cuò)，隨手點(diǎn)個(gè)贊、在看、轉(zhuǎn)發(fā)三連吧，如果想第一時(shí)間收到推送，也可以給我個(gè)星標(biāo)?～謝謝你看我的文章，我們，下次再見。

>/ 作者：卡茲克

>/ 投稿或爆料，請聯(lián)系郵箱：wzglyay@virxact.com