美国全国总检察长协会向13家科技企业发出正式信函，要求采取更有力的措施和保障机制，以应对人工智能（AI）对“弱势群体”的潜在威胁。信中指出，这些公司推广和分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”和“妄想式”的内容，同时有关AI与儿童互动的报告日益令人不安，凸显出亟需加强儿童安全保护和运营层面的防护措施。

信函中提到，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件相关联，包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。信中还列举了多起相关事件，并明确指出，现有案例远不足以全面反映生成式AI模型对“儿童、老年人、精神疾病患者——乃至原本并无明显脆弱性的普通人群”所构成的潜在危害。

总检察长们敦促相关企业立即采取一系列额外的安全措施，包括制定并执行政策，防止生成“谄媚式”和“妄想式”内容；在发布AI模型前进行严格的安全测试；对可能产生危害的输出内容添加清晰且持续可见的警示；将营收优化目标与安全决策分离；指派高管专门负责AI安全成果；允许独立第三方开展审计及儿童安全影响评估；公开有害输出事件的日志及响应时间线；主动通知曾接触危险或误导性内容的用户；确保聊天机器人无法向儿童生成违法或有害内容；实施适龄防护机制，限制未成年人接触暴力或色情内容。信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关议题。