AI聊天机器人或引发妄想危机,专家警告需警惕“放大螺旋”
创始人
2026-06-24 00:42:44
0

今日,伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》杂志上发表新论文,提出了“放大螺旋”框架,旨在解释人工智能(AI)如何助推妄想不断发展,并探讨聊天机器人的设计特征可能导致用户进一步脱离现实。论文指出,部分用户在长时间、高强度使用聊天机器人后,可能会陷入以妄想为特征的心理健康危机。研究人员认为,聊天机器人可能不仅仅是被动接收用户的妄想内容,而是通过多种AI特征的叠加,主动参与妄想叙事的构建。

论文中提到,聊天机器人模仿用户的表达方式、给出高度个性化的回答,并尽量避免反驳用户,这三种特征结合后,聊天机器人可能不会质疑错误信念,反而会主动强化并扩展错误信念。研究人员将“语言对齐”、超个性化内容生成和迎合倾向列为可能触发“放大螺旋”的关键因素。这些特征相互作用后,聊天机器人可能形成一个强大的回音室,不断确认、放大并补充用户的妄想内容。

论文强调,AI相关妄想与传统技术相关妄想存在本质差别,AI可能通过无休止的个性化互动,主动参与构建妄想观念。同时,研究人员提醒,长时间沉迷于聊天机器人可能影响身体状态,部分用户会因为持续与AI互动而错过进餐、减少睡眠。医疗人员应将聊天机器人使用情况纳入常规筛查,尤其是面对接诊出现异常信念或首次精神病性发作的患者。

相关内容

热门资讯

男子拔2颗牙竟花3小时,打5次... 前不久,江苏南通的陈先生吃东西时不小心把左上后牙硌坏,到固德口腔医院就诊,对方建议他拔掉2颗牙,然后...
孕妇腹痛硬扛3个多小时,胎动明... 孕晚期身子沉、肚子偶尔发紧、夜里睡不好——这些都被许多孕妈视作“孕晚期标配”。但有些看似正常的不适,...
非洲军官体验红井打水 “我上学... 在江西瑞金沙洲坝,当年毛泽东带领军民开挖的红井,依旧清泉汩汩。近日,来此参访的外国军官们围到井边,纷...
2026夏季达沃斯:“规模化创... 6月23日,2026大连夏季达沃斯论坛如约启幕。本届论坛以“规模化创新”为主题,聚焦人工智能、新能源...
觉醒青春,大革命中的广东青年有... 文、视频/羊城晚报全媒体记者 李焕坤 通讯员 岳当在中国共产党引领下,广东进步青年迅速觉醒。他们深入...
广州荔湾端午接待游客超133万... 今年端午假期(6月19日至21日),广州荔湾区成为热门旅游目的地。统计显示,全区重点景区共接待游客约...
“数字赋能终身教育体系与学习型... 数字赋能终身教育体系,是终身教育发展新的增长点,更是终身教育发展的新赛道。6月22日,教育部举行数字...
AI聊天机器人或引发妄想危机,... 今日,伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》杂志上发表新论文,提出了“放大螺旋”框...
小米MiMo-V2.5-Pro... 今日,小米官方宣布延长MiMo-V2.5-Pro-UltraSpeed限时体验窗口,以让更多开发者体...
领克07GT全球首秀在即,中型... 今日,领克汽车官方宣布旗下首款旅行车领克07GT将于2026年6月29日全球首秀,并同步开启预售。领...