7月18日,英伟达宣布开源推出Nemotron3Embed系列模型,专注于AI智能体和检索增强生成(RAG)场景。该系列模型以开放权重形式发布,支持商业使用,并通过HuggingFace与NVIDIANIM免费提供。Nemotron3Embed系列模型具备32K上下文窗口,能够执行高精度检索,旨在减少AI智能体的重复检索,降低不必要的推理触发频率,并显著减少Token消耗量。
英伟达针对不同部署环境,公开了微调和蒸馏版本,覆盖了精度优先、成本与时延优先,以及针对特定GPU架构优化的使用需求。系列中包括三个模型版本:Nemotron-3-Embed-8B-BF16作为最高规格版本,参数规模为80亿,适合对精度要求较高且伴随较高风险的企业业务场景;Nemotron-3-Embed-1B-BF16为高效率版本,参数规模为11.4亿,适合重视时延与成本的部署环境;Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上,面向Blackwell架构GPU优化的版本,能够在维持相同检索精度的同时,进一步降低内存占用,并将吞吐量最高提升至2倍。
在性能方面,Nemotron-3-Embed-8B-BF16在RTEB跑分上获得第一,得分78.5%,在MMTEB检索中得分75.5%。RTEB是由HuggingFace团队及MTEB社区推出的新型检索与嵌入模型评估标准,专为评估大模型在真实场景中的实际检索质量而设计。


