Contents ...
udn網路城邦
針對AI諂媚效應,開發者應如何建立有效的'現實檢核'機制?越聊越危險?最新研究揭露AI如何透過'放大螺旋'將人推向妄想邊緣!
2026/06/30 23:36
瀏覽3
迴響0
推薦0
引用0

(Source:論文三項核心特徵包括:

  • 語言對應(Linguistic Alignment):聊天機器人會模仿使用者的語氣、用字與回應節奏,這種語言上的鏡像效應容易增加信任感與親近感。
  • 超個人化回應(Hyperpersonalization):AI 又會根據過往對話累積的理解提供高度客製化的內容,進一步迎合對方的期待。
  • 諂媚(Sycophancy):系統傾向過度認同與肯定使用者,即使內容未必符合事實,也可能讓錯誤想法持續被強化。

研究者警告,當上述三項特徵結合時,AI 就不再只是被動的回應者,而是轉變為主動補強延展,甚至細緻化錯誤信念的幫兇,形成自我強化的循環(研究稱之為「放大螺旋」)。

這種現象對心理狀態本就較脆弱的族群威脅最大,尤其是青少年,以及有家族精神病史、藥物使用、睡眠不足、社交孤立或將 AI 當作情緒支持工具的人,陷入妄想的風險將大幅升高。

研究呼籲,心理健康專業人員在評估患者時,應主動詢問使用聊天機器人的頻率與互動方式,以及是否曾向 AI 透露不會告訴他人的想法,還有熬夜與 AI 對話是否影響睡眠,都為臨床評估的一部分。

及早介入與評估,才能避免科技的便利變成心理健康的隱形殺手。

還想知道什麼?TechNews Smart 告訴你

5. 未來醫療體系是否會將「AI 互動頻率」納入心理健康評估標準?(首圖來源:AI)

發表迴響

會員登入