7月16日，Meta宣布了一项新的青少年保护措施，旨在通过其AI系统监控青少年与MetaAI聊天机器人的对话，以识别自杀或自残相关话题。一旦检测到这类敏感话题，系统将通知青少年的父母。此外，Meta还在开发紧急求助功能，以便在对话显示用户可能即将自杀时，能够联系紧急服务机构。

Meta已经建立了专门的AI系统，用于识别青少年明确提到自我伤害的对话。在识别能力继续完善期间，AI标记的每段对话都会先由人工审核，再决定是否发出警报。这一措施已经在美国、英国、澳大利亚和加拿大实施，预计今年年底前将推广至全球。家长还可以查看青少年过去一周与MetaAI讨论过的话题，并启用“限制内容”设置，以对青少年在Instagram和MetaAI中的内容进行更严格的限制。

MetaAI原本就不会与青少年讨论性、恋爱或饮酒话题，新增限制将让聊天机器人拒绝更多类型的提问。Meta强调，无论使用MetaAI的是成年人还是青少年，只要对话显示有人可能自杀，Meta就会联系紧急服务机构。这一措施与Facebook和Instagram在发现用户发布可能表明存在自杀风险的内容时采取的措施相一致。