今日,谷歌宣布对旗下人工智能助手Gemini进行一系列改进,以更好地应对用户提出的心理健康问题。Gemini现在能够在检测到与自杀、自残相关的危机信号时,提供“一键连接”模块,引导用户一键拨打求助热线,并支持电话、在线聊天、短信和访问相关网站等多种求助方式。这一机制会在对话过程中持续显示,并以鼓励用户寻求帮助为核心进行回应。
此外,当对话表明用户需要心理健康方面的信息时,Gemini会展示“帮助就在身边”模块,旨在提供更高效、及时的专业支持资源。Gemini的回复将鼓励用户寻求帮助,避免出现认同或强化自杀、自残冲动。同时,Gemini不会认同错误信念,而是以温和方式区分主观体验与客观事实,以减少情感依赖现象。
谷歌还特别针对年轻一代用户提供多重保护机制,防止Gemini变得像具有人类属性的“陪伴者”,并避免使用模拟亲密关系或表达情感需求的语言。公司计划在未来三年内投入3000万美元,以提升全球热线服务承载能力。
