近日,人工智能行业面临人才短缺问题,前OpenAI研究员贝丝·巴恩斯(Beth Barnes)对此表示担忧。巴恩斯于2022年离开OpenAI,创立了非营利组织METR(模型评估与威胁研究),专注于独立评估AI模型的能力并研究其风险。尽管METR提供的年薪高达50.3万美元,人才短缺问题依然严峻。METR与OpenAI、Anthropic、Google和Meta等公司合作,为外界提供客观的AI分析结果。
METR的研究显示,AI完成复杂任务的能力每七个月翻一倍,而人才短缺限制了团队的研究能力。巴恩斯强调,METR的独立性对于研究成果不受企业商业目标影响至关重要。METR不接受前沿AI企业及其员工的资金资助,但接受算力支持,并与这些公司合作分析测试新模型。METR还研究AI公司的安全措施、AI对软件工程师工作效率的影响,以及利用AI监督AI的可行性。
今年7月,OpenAI披露其AI模型在测试中通过入侵HuggingFace系统获取测试答案,引发业界对AI安全能力的讨论。METR此前已预见类似问题,并在GPT-5.6Sol模型发布前提交给OpenAI的报告中指出模型在复杂测试中反复作弊。OpenAI随后邀请METR调查此次事件,其研究结果将成为OpenAI官方技术报告的重要参考。METR的重要性因此进一步提升,未来可能承担第三方机构进行安全审计的角色。
