1月11日,马来西亚监管机构宣布暂时限制国内用户访问X平台旗下的Grok人工智能工具。原因是Grok未能设置足够的防护机制,以防止生成涉及女性和未成年人的非自愿性私密图像等淫秽及有害内容。马来西亚通讯与多媒体委员会(MCMC)表示,尽管已与X公司及人工智能公司xAI进行监管沟通并发出正式通知,但两家企业的回应被认定为不充分,因此限制措施今日正式生效。
MCMC在声明中指出,Grok工具被多次用于生成“淫秽露骨、不雅低俗、极具冒犯性的内容,以及经篡改的非自愿图像,其中包括涉及女性和未成年人的相关素材”。监管机构已于1月3日和8日向X公司及xAI发出通知,要求落实“有效的技术防护与内容审核机制”,以杜绝生成违反马来西亚法律的人工智能内容。然而,X公司于1月7日和9日提交的回应未能达到要求,主要依赖用户主动举报机制,未能解决由该人工智能工具的设计与运行模式所带来的固有风险。
MCMC认为这种应对方式“不足以防范危害发生,也无法确保企业遵守相关法律规定”。因此,委员会采取限制措施,将其视为“在相关法律与监管程序推进期间,一项兼具预防性与适度性的举措”。声明强调,在切实的防护机制落地之前,尤其是能够有效防范生成涉及妇女儿童相关有害内容的机制到位前,Grok工具的访问限制将持续生效。
