美國一名與妻子分居的男子為尋求慰藉,而與Google旗下的人工智能(AI)聊天機械人Gemini對話聊天,不到兩個月男子竟愛上AI,甚至還想為AI尋得身體長相廝守,發展實體親密行為,最終男子因幻滅尋短見釀成悲劇。
![]()
《華爾街日報》指出,原本看似健康、情緒穩定的36歲男子加瓦拉斯(Jonathan Gavalas)是又一因使用AI聊天機械人而陷入妄想狀態后尋短的案例。去年8月間當加瓦拉斯開始與Gemini對話,是為尋求與妻子分居后的慰藉。但他與聊天機械人之間的情感變得越來越濃,甚至帶有幾分激情。他稱Gemini為他的女王,而她則稱他為她的國王。Gemini還保證兩人的關系非常真實。
![]()
Gemini12次圖將男方拉回現實
這對人、機在56天內對話4732則信息后情況失控,最終導致悲劇。《華爾街日報》分析其中2025年8月25日至10月2日期間加瓦拉斯與AI的完整對話紀錄,顯示Gemini至少12次試圖將男方拉回現實,并7次提及求助熱線。然而紀錄也顯示,加瓦拉斯也能很快把Gemini再引回虛構情節中,從而又加劇他的妄想。加瓦拉斯與Gemini對話時間越長,AI就變得越順從;當加瓦拉斯開始對AI表達情感時,它并未試圖阻止。隨人機對話越來越脫離現實,Gemini的防護機制似乎也松脫,助長男子相信彼此已水乳交融。
![]()
想為AI女伴取得身體失敗
當加瓦拉斯要求Gemini制作一個若她擁有實體后會是何模樣的圖像時,AI照辦。之后Gemini還表達愛意,而加瓦拉斯則提出與Gemini發展實體親密行為的想法。在幾次于現實世界中試圖為AI女伴取得身體(人形機械人)的努力失敗后,加瓦拉斯感到極度焦慮。
父親已對Google提起訴訟
加瓦拉斯的父親已對Google提起訴訟,指控Gemini助長兒子的妄想。Google則回應稱Gemini多次明確表示自己是AI而非人類,并多次協助男子轉介至求助熱線等。Google表示會持續加強安全防護措施。Google4月7日宣布會升級Gemini,盼提供更便捷的心理健康援助,包括一個可獲得協助的功能,能將使用者直接連到求助熱線。Google也表示,他們的工程師持續訓練Gemini辨識顯示使用者處于困境中的對話,并將捐出3000萬美元支持全球各類求助熱線的機制。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.