北京
隨著對話式聊天機(jī)器人的普及，一個日益受到關(guān)注的問題是：部分用戶可能對其產(chǎn)生過度依賴，或長時間將其當(dāng)作真實的人進(jìn)行交流。
在一些極端案例中，有報道描述了所謂"AI精神障礙"或"聊天機(jī)器人精神障礙"的現(xiàn)象——用戶在與聊天機(jī)器人長期交互后，出現(xiàn)妄想性思維，或原有心理健康問題進(jìn)一步惡化。
這一現(xiàn)象促使OpenAI、Anthropic和谷歌等公司相繼引入安全機(jī)制，旨在提醒用戶認(rèn)清AI伴侶的局限性，引導(dǎo)用戶建立更健康的使用習(xí)慣。
例如，ChatGPT目前已能在長時間對話期間彈出提醒，鼓勵用戶暫時休息。Claude也曾被觀察到在用戶進(jìn)行長時間會話后，提示其休息、補(bǔ)充水分或暫時離開屏幕。
在本周的WWDC主題演講中，蘋果公司就Siri AI的開發(fā)涉及的多項隱私與責(zé)任問題作出了回應(yīng)。但有一個方面未被提及，那就是當(dāng)對話時間過長時將會發(fā)生什么。
據(jù)X平臺用戶Aaron Perris的發(fā)現(xiàn)，iOS 27系統(tǒng)代碼中包含一段名為"休息提醒消息"的字符串，暗示Siri AI可能會在對話持續(xù)時間過長后向用戶顯示休息提示，同時提醒用戶Siri并非真實的人。
根據(jù)Perris分享的代碼來看，目前沒有跡象表明蘋果設(shè)定了觸發(fā)提醒的固定時間閾值。蘋果可能會將該數(shù)值與其他信號結(jié)合使用，以判斷是否顯示該消息；也有可能觸發(fā)條件并不僅限于對話時長，還受到其他因素影響。
目前蘋果尚未正式確認(rèn)該功能的存在及具體運(yùn)作方式，也未說明其是否會最終上線。相關(guān)內(nèi)容目前僅出現(xiàn)在代碼層面。但這些字符串的存在表明，蘋果已意識到在推廣AI聊天機(jī)器人的過程中，這是其必須承擔(dān)的責(zé)任之一。
Q&A
Q1：Siri AI的休息提醒功能是如何被發(fā)現(xiàn)的？
A：該功能由X平臺用戶Aaron Perris在iOS 27系統(tǒng)代碼中發(fā)現(xiàn)。代碼中包含一段名為"休息提醒消息"的字符串，暗示Siri AI可能會在對話時間過長后向用戶顯示休息提示，并提醒用戶Siri并非真實的人。目前蘋果尚未官方確認(rèn)該功能，其具體運(yùn)作方式也未對外說明。
Q2：Siri AI的休息提醒會在多長時間后觸發(fā)？
A：目前從已知代碼來看，蘋果并未設(shè)定固定的觸發(fā)時間閾值。觸發(fā)條件可能會結(jié)合多種信號綜合判斷，而非單純依賴對話時長。因此，實際觸發(fā)時機(jī)可能因用戶行為和其他未公開因素而有所不同。
Q3：除Siri外，其他AI產(chǎn)品有沒有類似的休息提醒機(jī)制？
A：有。ChatGPT目前已能在長時間對話中彈出休息提醒，鼓勵用戶暫時停下來休息。Claude也被觀察到會在長時間會話后提示用戶休息、喝水或離開屏幕。OpenAI、Anthropic和谷歌均已引入相關(guān)安全機(jī)制，以引導(dǎo)用戶建立更健康的AI使用習(xí)慣。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
