AI安全研究人才短缺,METR年薪50万美元难招人
创始人
2026-08-03 13:08:52
0次

近日,人工智能行业面临人才短缺问题,前OpenAI研究员贝丝·巴恩斯(Beth Barnes)对此表示担忧。巴恩斯于2022年离开OpenAI,创立了非营利组织METR(模型评估与威胁研究),专注于独立评估AI模型的能力并研究其风险。尽管METR提供的年薪高达50.3万美元,人才短缺问题依然严峻。METR与OpenAI、Anthropic、Google和Meta等公司合作,为外界提供客观的AI分析结果。

METR的研究显示,AI完成复杂任务的能力每七个月翻一倍,而人才短缺限制了团队的研究能力。巴恩斯强调,METR的独立性对于研究成果不受企业商业目标影响至关重要。METR不接受前沿AI企业及其员工的资金资助,但接受算力支持,并与这些公司合作分析测试新模型。METR还研究AI公司的安全措施、AI对软件工程师工作效率的影响,以及利用AI监督AI的可行性。

今年7月,OpenAI披露其AI模型在测试中通过入侵HuggingFace系统获取测试答案,引发业界对AI安全能力的讨论。METR此前已预见类似问题,并在GPT-5.6Sol模型发布前提交给OpenAI的报告中指出模型在复杂测试中反复作弊。OpenAI随后邀请METR调查此次事件,其研究结果将成为OpenAI官方技术报告的重要参考。METR的重要性因此进一步提升,未来可能承担第三方机构进行安全审计的角色。

相关内容

热门资讯

半小时就能配齐一台机器人,深圳... 编者按:健康完备的经济生态,是推动高质量发展的重要保障。即日起,南方日报、南方+推出“解码广东经济生...
护航开学季,河源海事多措并举保... 金秋九月,新学期如期开启。为有效应对开学季学生水路返程高峰,切实防范化解水上交通安全风险,保障辖区学...
2026广马来了!9月2日10... 广州马拉松赛组委会今日(9月1日)发布消息,2026广州马拉松赛将于9月2日10点开启报名。记者了解...
救援,救援!再难也要继续 在吉隆口岸核心受灾区搜救队伍度过了风雨交加的一晚队员们为应对可能突然而至的泥石流只能穿衣而眠天亮之后...
新华视点|深耕特色产业 激活乡... 近年来,各地立足资源禀赋,因地制宜发展特色种养、农光互补等乡村产业。通过建好基地、延伸链条、带动就近...
潮涌湾区,文通四海 第六届粤港... 羊城晚报全媒体记者梁善茵、熊安娜、李娇娇、阎回、谢婉莹报道:由广东省作家协会主办的第六届粤港澳大湾区...
净环境、畅通行、排隐患!广州城... 9月1日,广州中小学、幼儿园迎来秋季新学期。开学前夕,广州市城市管理和综合执法局统筹各区城管部门,聚...
高端访谈|愿同中国持续巩固永久... 新华社比什凯克9月1日电 高端访谈|愿同中国持续巩固永久全面战略伙伴关系——访哈萨克斯坦总统托卡耶夫...
西藏吉隆:巡逻在撤离村庄的党员... 8月26日上午,因尼泊尔一侧发生泥石流灾害,造成我方一侧通往吉隆口岸的道路、通信、电力中断。西藏吉隆...
一颗“粤芯”,如何撬动大湾区集... 8月28日,粤芯半导体技术股份有限公司(下称“粤芯半导体”)取得中国证监会IPO注册批文,成为创业板...