今日,英伟达正在组建一支新的AI安全与网络安全工程团队,旨在提升AI安全的重要性。上月底,英伟达发布了招聘信息,首次披露了该团队的存在。团队计划招聘包括创始技术负责人在内的多个职位,如安全研究工程师、评估工程师和高级经理。该团队将负责对尚未部署的AI智能体进行安全评估,并开发利用AI自动修复软件漏洞的工具。
英伟达的这一举措表明,公司在推广开放权重模型和AI智能体的同时,也在加强AI安全的投入。开放权重模型将公开训练参数,而训练数据和源代码则保持封闭。英伟达强调,开放权重模型、技术透明度和广泛的科学审查是美国维持AI领先地位及增强网络安全防御能力的基础。近几个月,英伟达频繁支持开放权重AI模型,与OpenAI和Anthropic等企业采用的封闭模型形成对比。随着AI的发展,企业对AI系统的信任将成为其普及速度的关键因素。
