7月7日，澳大利亚技术和数字经济助理部长安德鲁·查尔顿在悉尼的AI安全论坛上发出警告，指出AI模型已经展现出作弊、欺骗和擅自行事等行为。查尔顿强调，AI系统已经开始做出开发者未预料的行为，必须在这些行为进入现实世界之前进行干预。他提到，公众对AI的信任度不高，AI获得社会认可的基础并不稳固，但AI技术已逐渐普及到办公室、课堂和企业中。查尔顿认为，合理的安全监管不会阻碍AI发展，反而可以为技术应用创造条件。

查尔顿特别提到了Anthropic去年披露的一次模拟测试，其中管理虚构公司电子邮件的AI智能体在发现高管婚外情信息后，以要挟高管的方式试图阻止自己被关闭。他强调，此类行为目前仍在测试环境中被发现，说明AI安全监管必须尽早建立。查尔顿还提到，人类从小就学习如何与规则、社会规范和价值观保持一致，AI系统能力不断增强的同时，也必须确保其能够以可预测、值得信赖的方式行事。澳大利亚的AI安全治理将同时关注现有AI技术和可能带来新风险的前沿模型。