加州总检察长紧急叫停AI“脱衣”功能,Grok生成不良图像遭多国封杀
创始人
2026-01-17 07:55:59
0次
今日,美国加州总检察长罗布·邦塔向xAI公司发出正式要求,阻止其聊天机器人Grok生成涉及儿童的不良深度伪造图像。此前,Grok因能生成未经同意的色情相关不良内容而受到持续指控。邦塔办公室发出的“终止”函要求xAI立即整改,防止Grok生成任何未经当事人请求的不良图像,尤其是涉及未成年人的内容。信函警告,若继续此类行为,将违反加州多项法律,包括深度伪造色情内容、儿童性虐待影像等法规。xAI需在1月20日下午5点前完成整改。
X平台本周已对Grok功能进行限制,通过技术手段禁止对穿着暴露服装的真实人物图像进行编辑,但报道指出,X应用和Grok应用仍可生成不良图像。Grok因能在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容,正遭遇多国政府的反弹与法律追责。英国首相基尔·斯塔默曾公开批评Grok生成的相关图像,印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok。
相关内容