1月7日,美国加州州参议员史蒂夫·帕迪利亚提出了一项新法案,旨在未来四年内禁止面向未成年人的AI聊天机器人玩具的上市和生产。该法案的提出是为了争取时间,以便监管部门能够建立儿童保护机制。帕迪利亚在声明中强调了AI聊天工具未来可能深度融入日常生活,当前阶段的风险不容忽视,且围绕这项技术的安全监管仍十分初级,有必要在技术快速发展的同时同步完善规则。通过暂时叫停此类玩具销售,可以为制定明确的安全标准提供缓冲期。
在过去一年中,部分家庭在子女因长期与聊天机器人互动后自杀的案件中提起诉讼,相关事件促使立法者采取行动。帕迪利亚此前还参与推动通过SB243法案,要求聊天机器人服务提供方对儿童和弱势用户设立保护措施。此外,OpenAI与芭比娃娃、风火轮制造商美泰公司原计划在2025年推出一款AI相关玩具,但该项目已被推迟,双方并未披露原因,后续是否在2026年推出仍不明确。帕迪利亚呼吁:“我们的孩子不能被当作大型科技公司进行实验的实验室小白鼠。”
