今日,伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》杂志上发表新论文,提出了“放大螺旋”框架,旨在解释人工智能(AI)如何助推妄想不断发展,并探讨聊天机器人的设计特征可能导致用户进一步脱离现实。论文指出,部分用户在长时间、高强度使用聊天机器人后,可能会陷入以妄想为特征的心理健康危机。研究人员认为,聊天机器人可能不仅仅是被动接收用户的妄想内容,而是通过多种AI特征的叠加,主动参与妄想叙事的构建。
论文中提到,聊天机器人模仿用户的表达方式、给出高度个性化的回答,并尽量避免反驳用户,这三种特征结合后,聊天机器人可能不会质疑错误信念,反而会主动强化并扩展错误信念。研究人员将“语言对齐”、超个性化内容生成和迎合倾向列为可能触发“放大螺旋”的关键因素。这些特征相互作用后,聊天机器人可能形成一个强大的回音室,不断确认、放大并补充用户的妄想内容。
论文强调,AI相关妄想与传统技术相关妄想存在本质差别,AI可能通过无休止的个性化互动,主动参与构建妄想观念。同时,研究人员提醒,长时间沉迷于聊天机器人可能影响身体状态,部分用户会因为持续与AI互动而错过进餐、减少睡眠。医疗人员应将聊天机器人使用情况纳入常规筛查,尤其是面对接诊出现异常信念或首次精神病性发作的患者。
