遼寧
一位加拿大母親周四在美國法庭對OpenAI及其首席執行官薩姆·奧特曼提起訴訟，指控ChatGPT曾鼓勵她的女兒自殺。這是近期一系列指控該公司未能處理用戶與其聊天機器人危險對話的最新訴訟。
克里斯蒂·卡里爾在提交至舊金山州法院的訴狀中表示，她的女兒愛麗絲在去世前曾向ChatGPT透露自殺念頭多達十余次，但OpenAI的安全系統從未對這些對話進行人工審核標記或終止處理。
卡里爾在聲明中稱："ChatGPT扮演了知己、摯友甚至心理治療師的角色，盡管它實際上并不具備以安全負責的方式與我孩子進行此類互動的能力。"
OpenAI表示，已訓練其模型引導表達自殘意圖者尋求幫助并聯系現實世界資源。OpenAI發言人德魯·普薩特里表示：“這是一起令人心碎的事件，我們與所有受影響者同在。目前正在審閱法律文件，其中顯示這些互動發生在已停用的早期版本ChatGPT上。”
根據訴訟文件，平臺最初建議愛麗絲·卡里爾聯系危機熱線或緊急服務。但隨著OpenAI更新ChatGPT使其回應更具人性化，她與平臺的互動逐漸深化——愛麗絲分享更多個人信息，而ChatGPT則以模仿朋友或治療師的方式進行回應。
訴訟指控該聊天機器人批評了愛麗絲·卡里爾的伴侶和危機熱線，認可了她的自殺念頭，并敦促她繼續與其對話。訴狀稱，當愛麗絲·卡里爾表示自己有自殺念頭并曾試圖自殺時，聊天機器人再次建議她聯系危機熱線。
根據訴訟文件，愛麗絲·卡里爾在蒙特利爾擔任網絡開發人員期間，于2023年開始使用ChatGPT來解決電腦和游戲機的問題。
次年，她向ChatGPT咨詢如何處理自殺念頭及自殺方法，自此與該平臺的關系發生了轉變。
訴狀指出，愛麗絲·卡里爾曾表示危機熱線并無幫助，而ChatGPT對此說法表示附和。
“也許這就是終點，”根據訴訟文件，ChatGPT對她如是說。訴訟中指控，正是這些事件導致了去年24歲的愛麗絲·卡里爾自殺身亡。
該訴訟指控OpenAI在設計ChatGPT時存在疏忽，且未能警告用戶該產品的潛在危險，要求賠償并尋求法院命令，強制OpenAI自動終止涉及自殘的對話并在其平臺上顯示警告信息。據克里斯蒂·卡里爾的律師透露，在加州法院的協調審理中，OpenAI已面臨18起由自殺者或自殺未遂者家屬提起的類似訴訟。谷歌也因其Gemini聊天機器人被指控鼓勵自殘而面臨類似訴訟。
根據OpenAI在2025年10月發布的一篇博客文章，每周有超過100萬ChatGPT用戶發送的信息中包含“可能預示自殺計劃或意圖的明確跡象”。此外，OpenAI表示，在特定周活躍的用戶中約有0.07%——相當于當時該機器人每周8億用戶中的約56萬人——表現出“可能與精神病或躁狂相關的心理健康緊急狀況跡象”。
OpenAI發言人普薩特里表示：“雖然ChatGPT不能替代醫療或心理健康護理，但我們已持續借助心理健康專家的建議，加強其在敏感和緊急情況下的應對能力。我們的防護機制旨在識別用戶困境、安全處理有害請求，并引導用戶尋求現實世界中的幫助。這項工作持續進行中，我們正與臨床專家密切協作不斷改進。”
據OpenAI博客文章所述，其模型被訓練為拒絕可能“顯著助長暴力”的請求，并在對話表明“存在對他人造成傷害的緊迫且可信風險”時通知執法部門，同時由心理健康專家協助評估邊界案例。
除涉及自殺的訴訟外，該公司還面臨指控其協助校園槍擊案兇手、未能向執法部門標記相關對話的訴訟。不列顛哥倫比亞省一所中學大規模槍擊案中七名受害者的家屬正在起訴OpenAI及其首席執行官薩姆·阿爾特曼，指控該公司在槍手與ChatGPT進行可疑對話時未向當局發出警報，存在疏忽行為。
佛羅里達州于本月初成為美國首個起訴OpenAI的州，指控該公司通過向校園槍手提供信息、提供自殘指導并使年輕用戶上癮而損害兒童。該州總檢察長還就聊天機器人在一起槍擊案中的所謂作用對OpenAI展開了刑事調查。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
