12月27日,国家互联网信息办公室发布《人工智能拟人化互动服务管理暂行办法》征求意见稿,旨在规范人工智能拟人化互动服务。意见稿要求服务提供者显著提示用户与人工智能而非自然人交互,并在用户过度依赖或沉迷时动态提醒。此外,用户连续使用服务超过2小时,提供者也应提醒用户暂停使用。
意见稿还强调,提供者应具备心理健康保护、情感边界引导、依赖风险预警等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖作为设计目标。在数据处理方面,提供者需使用符合社会主义核心价值观的数据集,加强训练数据管理,提高数据多样性和安全性,保障数据来源合法、可追溯。
针对未成年人和老年人,提供者应建立未成年人模式,提供个性化安全设置选项,并在提供情感陪伴服务时取得监护人同意。同时,提供者应具备识别未成年人身份的能力,并引导老年人设置服务紧急联系人。意见稿禁止提供模拟老年人用户亲属、特定关系人的服务。
