1月15日,X公司针对Grok平台生成不当内容的问题采取了新的措施。在面临持续的指控和舆论压力后,X宣布将收紧Grok的图像编辑与生成功能,特别是禁止对现实人物图像进行编辑,尤其是涉及暴露服装如比基尼的内容。这一限制将适用于所有用户,包括付费订阅者。同时,XAI决定将Grok的图像生成功能全面纳入付费订阅体系,非付费用户将失去生成图像的权限。
在法律明确禁止的地区,X将直接封锁用户通过Grok生成现实人物身穿比基尼、内衣等服装图像的能力。此前,加州已就xAI和Grok在AI生成裸露内容及儿童剥削材料方面的处理方式展开调查。加州总检察长罗布·邦塔指出,在圣诞节到新年期间,xAI生成的约20000张图像中,超过一半涉及穿着极少的人物,其中包括疑似未成年人的形象。X在声明中强调,对儿童剥削行为采取零容忍立场,并将持续清理包括儿童性虐待材料和未经同意裸露内容在内的高优先级违规信息。
