"我是一個騙人感情的騙子。"
有人父親去世了,怕奶奶受不了,用AI生成兒子給老人打視頻。有人做了9歲女兒的AI復(fù)原,在電腦里給她安排以后讀什么書、學(xué)什么技能。還有孩子因?yàn)榘职蛛x世得了抑郁癥,在AI爸爸回來之后慢慢好了。
![]()
技術(shù)確實(shí)做到了以前做不到的事。但問題是:屏幕上那個會笑會說的,到底是誰?
一、這不是真人,是演出來的
AI復(fù)活的原理不復(fù)雜。算法分析逝者生前的說話方式、表情習(xí)慣,算出他最可能怎么回答,然后生成對應(yīng)的畫面和聲音。不是真的懂了逝者,是統(tǒng)計(jì)出來的模仿。
真實(shí)的父親會生氣、會不理人、會說難聽的話。但AI父親永遠(yuǎn)溫和、永遠(yuǎn)有空、永遠(yuǎn)順著你說。這不是把逝者帶回來,是做了一個比真人更聽話的版本。
張澤偉說自己是"騙子",意思就在這。客戶買的不是再見親人一面,是買一個繼續(xù)當(dāng)奶奶、繼續(xù)當(dāng)父母的機(jī)會。奶奶可以繼續(xù)照顧兒子,父母可以繼續(xù)養(yǎng)女兒,孩子不用承認(rèn)爸爸真的沒了。
人如果一直沒法接受親人去世,持續(xù)找方式保持聯(lián)系,可能永遠(yuǎn)走不出來。AI不是在幫人面對,是在幫人躲著。
二、誰決定讓逝者活著?
有個案例:兒子去世,家屬決定用AI生成他,繼續(xù)給奶奶打電話。這里誰的需求被滿足了?奶奶有權(quán)利知道真相嗎?還是家屬只是想讓自己好受點(diǎn)?
更復(fù)雜的是那個9歲女兒。父母在AI世界里模擬她如果活著會怎樣:讀什么書、穿什么、學(xué)什么。這不是孩子真的在過人生。活著的孩子會長大、會反抗、會自己選擇;AI模擬的孩子永遠(yuǎn)停在9歲,永遠(yuǎn)不會說自己不想學(xué)這個。
法律對死者的保護(hù)主要是名譽(yù)、隱私方面。技術(shù)讓逝者的臉和聲音能繼續(xù)"干活":安慰親人、陪人說話。這到底是幫父母療傷,還是讓父母永遠(yuǎn)走不出來?
家庭里的角色也亂了。平時是長輩照顧晚輩,現(xiàn)在長輩要依賴一個假的晚輩來讓自己好過一點(diǎn)。奶奶對著屏幕里的"兒子"說話,她不知道這是假的。家屬替她做了選擇,這是幫她,還是剝奪了她的知情權(quán)?技術(shù)讓這種隱瞞變得成本很低,可以一直維持下去。
三、到底是干什么的?
張澤偉的工作很難定義。他不是心理醫(yī)生,不做治療;他不只是技術(shù)員,賣的也不只是軟件。他干的是:家屬處理不了的傷心,他接手做成一個能互動的東西,交給家屬。
這帶來一堆問題。服務(wù)做到什么程度算完?如果客戶離不開AI親人,誰負(fù)責(zé)?如果AI說了不合適的話刺激到老人,算誰的錯?現(xiàn)在這行完全沒有規(guī)矩,沒有培訓(xùn),沒有退出機(jī)制。
還有錢的問題。付得起錢的人,能買一個繼續(xù)和逝者"說話"的機(jī)會;付不起的人,只能按老辦法紀(jì)念逝者。本來死亡對誰都一樣,現(xiàn)在分成了兩種:一種能用技術(shù)延續(xù)互動,一種只能接受結(jié)束。
四、老傳統(tǒng)遇上新技術(shù)
中國人本來就有祭祀、托夢、燒紙這些習(xí)俗,核心都是想和逝者保持聯(lián)系。清明、中元、忌日,這些日子是固定的,有開始也有結(jié)束。
AI復(fù)活把這套改成了天天見、隨時聊。電影《破·地獄》里問:破地獄破的是誰的地獄?
![]()
張澤偉說,技術(shù)破的是活人的地獄。但按老說法,地獄是死者要脫離的,活人做的是超度、送行,幫他們離開。現(xiàn)在是活人把死者留在身邊,用數(shù)據(jù)維持一個不會消失的家庭關(guān)系。
這不是說技術(shù)不好,是說老習(xí)慣的力量很大。當(dāng)屏幕陪伴代替了掃墓上墳,我們對死亡的理解也在變:從接受人沒了變成拒絕人沒了,從記著逝者變成天天和逝者說話。技術(shù)放大了人的思念,但也可能讓人更難接受現(xiàn)實(shí)。
五、法律還沒管,問題已經(jīng)來了
AI做出來的人,現(xiàn)在沒有法律身份。不是真人,也不是普通東西。數(shù)據(jù)存在別人公司的服務(wù)器上,公司倒閉了怎么辦?賬號被盜了怎么辦?家里一個人想刪除,另一個人不同意怎么辦?
這些問題沒答案,因?yàn)榉芍贫ǜ簧霞夹g(shù)發(fā)展。
比法律更急的是倫理問題。AI做得太像真的,當(dāng)事人同意怎么保證?奶奶不知道視頻里的兒子是假的,這算騙她還是幫她?孩子覺得AI爸爸鼓勵了自己,這是技術(shù)的作用,還是真的情感支持?一旦分不清,就再也分不清了。
張澤偉說實(shí)話,很難得。他知道給的不是真人,是讓人好受一點(diǎn)的東西;不是逝者回來了,是活著的人還沒準(zhǔn)備好告別。這種誠實(shí)應(yīng)該是這行的開始,不是結(jié)束。
AI復(fù)活技術(shù)本身不好也不壞,關(guān)鍵看怎么用、用多久、誰說了算。如果用來幫人們度過最難過的時期,有明確的時間限制和停止使用的辦法,可能是幫手。如果用來代替真正的哀悼,一直維持一段假的關(guān)系,可能就變成陷阱。
《破·地獄》問的是破的是誰的地獄,張澤偉借來說技術(shù)破的是活人的地獄。但反過來想:活人放不下的執(zhí)念,會不會是另一種地獄?技術(shù)能幫人走出傷心,也能讓人更難走出來。區(qū)別不在于程序?qū)懙枚嗪茫谟谟眉夹g(shù)的人,敢不敢在某一天關(guān)掉電腦,接受人真的沒了。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.