河南
假期和閨女進行了一次長談。
原因是從外邊回來的時候，閨女在車上突然說：我覺得我生錯了時代。
我大吃一驚，現在的時代多好啊，不愁吃不愁穿，我趕緊搬出了爺爺那一代人，說他們的生活辛苦，小時候還經常餓肚子，八幾年的時候白天去工廠干活兒，早上和傍晚還得去地里干活兒，那種辛苦難以想象，后來也熬出來了，從農村搬到了城里......
我又說其實每個時代都有自己的問題，比如我吧，雖然趕上了計算機發展的好時候，但是也遇到了35歲的問題，如果我還在IBM，沒有出來和朋友一起干，2022年就被一鍋端了，大齡找工作那才叫難....
結果她說：我擔心的是等我長大了，AI把人替代了怎么辦？
哈哈，看來她接觸了不少AI相關的宣傳，被那些吹噓的東西給嚇住了。
我說：如果將來AI能替代人干活，那不是一件好事兒嗎？將來苦活累活都讓AI干，讓AI去種地，去工廠干活兒，物質會極大豐富，人類只需要享受就行了。
她說：那如果AI都能進行創造性活動了，我們人類的存在還有意義嗎？
這個問題過于宏大，深刻，我一下子被問住了。
我回答不了，只好說：現在離這種AGI（通用人工智能）還非常遙遠，不用擔心。
她說：你們程序員不是正在被替代嗎？
我說：別聽那些不懂行的瞎說，現在的AI只是一個放大程序員能力的工具而已，你真的以為說幾句話就能開發軟件啊，我告訴你，簡單的小軟件也許有可能，但是復雜的、企業級軟件還得人來主導。
她問道：那什么是復雜軟件？
我想了想，舉了一個例子：之前開發過一個項目，那個項目的需求文檔都得寫幾十頁才能說清楚，這么復雜的系統，AI是不可能獨自完成的。
你不是喜歡畫畫，懂一些繪畫的知識嗎，AI畫的畫你不是一眼就看出來問題了？
還有AI生成的視頻，一股濃濃的AI風，只能說是勉強能看。
現在的AI看起來很火，但是基礎理論還是很多年前的，只是遇到了互聯網數據爆炸，算力也足夠的時代。
更要命的是它是一個黑盒子，我們根本不理解它內部的結構，它不像經典的物理學，有牛頓三定律這樣的東西可以解釋一切。
現在的AI能力發展也有點兒停滯，GPT4出來的時候，真是震撼全球，但是等了兩年，GPT5終于問世，讓人大失所望。
還有非常重要的一點，AI如今只會在數字世界里折騰，對物理世界的理解還差得很遠。你看智能駕駛各個廠商宣傳得很厲害，但都是遲遲都發展不到L3級別，更別說完全的自動駕駛了。
所以啊，我們距離你想象中的機器人還很遠 ，我這輩子是恐怕是實現不了了，你這輩子也懸，不用杞人憂天。
她說：如果AI界出現了一個“牛頓”呢？
這...... 是啊，萬一天縱英才，一個牛頓似的人物橫空出世怎么辦？
我突然想起了前些天朋友說的一句話：AI正在吃自己拉的粑粑。
我把這句話轉述給她，把她逗得哈哈大笑，問我是什么意思。
我說，現在的AI訓練依賴的數據來主要自于互聯網，但是AI火起來以后，大家發現AI生成內容太方便了，開始大量生成垃圾文章，批量洗稿，低質量問答，劣質圖片和視頻.....
這些東西信息密度低，錯誤互相復制，表面通順卻沒有新信息，和之前的書籍（幾十年沉淀）、學術論文、高質量代碼庫、論壇人工生成的精華內容完全沒法相比。
當模型反復用“自己生成的數據”訓練時，信息逐漸丟失，最后變得呆板甚至錯誤累積。
典型的表現就是回答越來越“套路化”，細節錯誤變多（但語氣依然自信），創造力下降，小眾知識逐漸消失.....
這就叫“模型坍塌”，如果人類繼續走這條路，AI可能會越來越差，很可能會停滯不前，AI界的牛頓來了也沒用。
她說：如果大家不用AI創作了，自己寫文章，不就沒事了？
我說：這不可能，一方面是人性使然，大家都喜歡偷懶啊，花2小時認真寫和3分鐘用AI生成一個“還行”的版本，大多數人都會選擇后一個。
更何況互聯網平臺還看重更新頻率、點擊率，只要有個噱頭，那些看起來湊合的文章就大行其道，而深度、原創性、需要花長時間構思寫作的內容自然就吃了大虧，長此以往，劣幣就驅逐良幣了。
我和閨女的談話就到此為止，她滿意地去做自己的事情去了，我其實并沒有完全把她說服，因為現在AI發展確實處于一個巨變的年代，AI技術有自己的缺陷甚至瓶頸，數據有自己的陷阱，人性更是有自己的軟肋。
這一切糾纏在一起，不會一夜之間走向末日，只會緩慢、復雜、甚至有點滑稽地演進，逐漸地改變世界，未來會怎么樣，誰也無法預測啊！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
