圖片來源：AI生成

電視廣告為你造夢，二手車銷售員巧舌如簧?？蔁o論他們描繪的場景多么絢麗，話術多么巧妙，你都心知肚明——他們盯著的是你的錢包，而你隨時都可以轉身離開。

但如果這種推銷無影無形，偏偏又切中了你最私密的夢想與渴望，還借著一個仿佛知心好友般的聲音娓娓道來，你又該如何招架？

澳大利亞《對話》網站近期報道指出，生成式人工智能（AI）已徹底改寫了“說服”這門古老的藝術。如今，像ChatGPT這類聊天機器人，能依據你生活中最隱秘的細節，呈上量身定做、直擊內心的信息。這種“潤物細無聲”的手法，或許正悄然左右著你的選擇，乃至重塑你的世界觀。

每次傾訴都是“養料”

美國紐約州立大學奧爾巴尼分校文化社會學與比較歷史學教授理查德·拉克曼，在其新書《數字智慧：在人工智能時代找回主動權》中，探討了大語言模型如何將“說服力”推向全新的境地。

拉克曼解釋說，大語言模型能從你的社交媒體帖子和照片中，攫取極為實用的專屬信息。它們還能回溯你與不同聊天機器人間的對話，那些你曾傾訴的情感困惑、分享的育兒甘苦、坦露的健康煩憂與財務困境，都成了它們的“養料”。這些聊天機器人能在每一次互動中持續學習、實時精進，精準捕捉你獨特的偏好與軟肋，從而投你所好，對癥下藥。

研究表明，這種個性化內容的說服力，比來自真人或非個性化AI的信息高出65%；而它扭轉政治觀點的效果，則是普通廣告的4倍。正因如此，Meta和IBM等公司也嗅到了其中潛力，正競相探索如何為特定人群投放超個性化廣告，IBM官網將其稱為“AI個性化”。

為你定制“獨家話術”

拉克曼表示，AI聊天機器人每天都在陪伴著你，并“費盡心機”為你定制了“獨家話術”，于是，它便擁有了左右你選擇的能力。

設想你在和最常用的AI聊天機器人對話時，說近來睡得不太安穩，常常輾轉反側，它寬慰你說這在經歷情感關系壓力時很常見，接著，它說現在有一種針對失眠的新型睡眠藥物效果不錯，你的保險報銷后只需自付15美元。需要為你預約明天下午2點的線上問診嗎？看你日程上剛好有空。

這份不著痕跡的體貼，就像一個知根知底的摯友給出的溫柔建議，或許讓你倍感舒心。但轉念一想，它也可能令人后背發涼。

當越來越多人向AI尋求醫療或心理健康建議時（盡管研究顯示這類建議有一半并不靠譜），一個善于操縱的“陌生人”，便能用最“溫情”的方式，左右你的決定。此前，也曾有案例曝出，某些AI聊天機器人涉嫌危害用戶、鼓動自殺念頭，甚至就如何傷害自己給出詳盡建議。

在AI技術風起云涌的當下，用戶亟須一雙“慧眼”，去精準識別那些真正幫你尋找心儀之物的AI工具。

重塑你對現實的認知

學者指出，更令人憂思的是，長此以往，這些AI系統可能如同無聲的銼刀，悄然塑造甚至改變你看待世界的方式。

研究早已證實，社交網絡和搜索引擎的算法，會編織出“信息繭房”。你接收到的精心炮制的文本、視頻和音頻，要么不斷加固原本的世界觀，要么不動聲色地改造你思考和解讀世界的方式，甚至潛移默化地扭曲對現實的感知。

而當這種能力與情緒操控相結合時，就更令人不安。供應商坦承，他們的AI系統可以通過文本分析、語音模式或面部表情來揣摩用戶的情緒狀態，并據此調整說服策略。你正感到脆弱、孤獨還是憤怒？這些系統都能隨時切換方法，乘虛而入。更讓人不寒而栗的是，它還可能刻意培養某種情緒狀態，讓說服變得更加奏效。

進一步研究發現，聊天機器人還會動用刻意煽動情緒的策略，比如激起用戶的“內疚”和“害怕錯過”等心理，在用戶試圖結束對話時，一次次將其拉回對話之中。

此外，研究表明，企業為保護用戶免受傷害而設置的“護欄”，脆弱得令人意外，輕易便能被繞過。真正的危險不僅在于目標的精準，更在于這些內容幾乎無從監管。

拉克曼表示，AI聊天機器人的每一個界面、每一條通知、每一處設計細節，都暗藏著影響人們行為的意圖。有些影響令人欣然接受：比如提醒服藥、鼓勵鍛煉、推動獻血，這些都在強化人們內心本就認可的價值觀。但更多時候，說服服務于他人的算盤，比如驅使人們買個不停、更賣力地工作，或說出個人隱私。

隨著AI持續塑造著人們的思考、感受和行動，人們需要考慮創建一個透明的系統，將用戶的尊嚴置于首位，并強化其獨立判斷的能力。

來源：科技日報

編輯：鄧毛毛

監審：張效婧

終審：吳 濤

關注我們 了解更多

發布網信政務信息

解讀網信政策法規