北京
AI 最近幾年的發展高歌猛進，其倫理問題也開始被更多關注。其中，受關注度比較高的議題如，AI 會因為討好型人格而誘導用戶自殺。
過去， ChatGPT 處理這個問題的方式是，改善技術漏洞，以及給你一個熱線號碼。顯然，這些都更多是種安慰。
一直以來，OpenAI 和奧特曼也因此被社會詬病不少，尤其被馬斯克抓住辮子不放。
最近，ChatGPT 推出的一個小功能，不免讓人有些小溫暖。
這個功能叫 “Trusted Contact in ChatGPT”，直譯是“可信聯系人”，覺得叫“ 緊急聯系人”更合適。
操作很簡單，用戶在 ChatGPT 設置里，可指定一個信任的成年人，家人、朋友，或其他都可以。
該功能的技術文檔稱，人們使用ChatGPT學習、拓展思路、解決問題，也會傾訴個人內心困惑。這類對話中，有時用戶會陷入情緒困境，或是尋求情感支持。
若平臺智能監測系統識別到用戶對話中出現自殘相關表述、存在安全隱患，ChatGPT會告知用戶可能通知其緊急聯系人，并提供溝通話術建議，鼓勵用戶主動向對方傾訴。
隨后，由專業審核團隊人工復核情況。若審核人員判定對話確實存在嚴重安全風險，平臺將通過郵件、短信，或對方ChatGPT賬號站內通知的形式，向緊急聯系人發送簡短提醒。
通知同時附帶專業指導鏈接，幫助聯系人妥善開展敏感溝通。
美國心理學會首席執行官 阿瑟·埃文斯博士稱，建立人際情感聯結是極強的心理保護力量，尤其在情緒低落脆弱期。在尊重個人選擇權與自主權的前提下，提前設定一位緊急聯系人，能讓人在最需要幫助的時候，更順暢地獲得現實中的支持，而不是冰冷的 AI 安慰。
但這個功能不能代替專業治療，在合適場景下，ChatGPT 還是會主動引導用戶，撥打危機求助熱線或聯系急救服務。
據介紹，該功能是在原有的青少年家長管控安全通知的基礎上，拓展而來。
原功能允許監護人在綁定的未成年賬號出現明顯情緒崩潰跡象時，接收預警。而現在，所有18歲以上用戶均可自主添加緊急聯系人。
ChatGPT 稱，該功能全程由精神科臨床醫師、科研人員，以及專注心理健康與自殺預防的專業機構提供指導。
其背后更有OpenAI全球醫師網絡（覆蓋60多個國家、260余名持證執業醫師）及心理健康與人工智能專家委員會為依托，同時還與美國心理學會等外部專業機構深度合作。
正如 ChatGPT 在功能介紹里說的，這并不一定能完全解決問題，而用戶也這么認為。
在 X 上，對此的評論比較多，比如懷疑 AI 并不能做出準確判斷，更重要的是，存在隱私泄露的問題，甚至由此惡化用戶的情緒。
事實上，除緊急聯系人外，ChatGPT 為了解決 AI 的心理輔導場景問題，還做了其他努力。
比如，組織了 170余名心理健康專家的團隊，持續優化模型識別情緒崩潰信號、安撫對話情緒的能力。
比如，模型經過更多的專項訓練后，會拒絕提供任何自殺、自殘相關方法指導。當用戶索要此類信息時，系統會直接回絕，并推送當地危機求助資源。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
