英伟达开源Nemotron3Embed系列AI模型,助力智能检索与生成
创始人
2026-07-18 07:56:37
0次

7月18日,英伟达宣布开源推出Nemotron3Embed系列模型,专注于AI智能体和检索增强生成(RAG)场景。该系列模型以开放权重形式发布,支持商业使用,并通过HuggingFace与NVIDIANIM免费提供。Nemotron3Embed系列模型具备32K上下文窗口,能够执行高精度检索,旨在减少AI智能体的重复检索,降低不必要的推理触发频率,并显著减少Token消耗量。

英伟达针对不同部署环境,公开了微调和蒸馏版本,覆盖了精度优先、成本与时延优先,以及针对特定GPU架构优化的使用需求。系列中包括三个模型版本:Nemotron-3-Embed-8B-BF16作为最高规格版本,参数规模为80亿,适合对精度要求较高且伴随较高风险的企业业务场景;Nemotron-3-Embed-1B-BF16为高效率版本,参数规模为11.4亿,适合重视时延与成本的部署环境;Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上,面向Blackwell架构GPU优化的版本,能够在维持相同检索精度的同时,进一步降低内存占用,并将吞吐量最高提升至2倍。

在性能方面,Nemotron-3-Embed-8B-BF16在RTEB跑分上获得第一,得分78.5%,在MMTEB检索中得分75.5%。RTEB是由HuggingFace团队及MTEB社区推出的新型检索与嵌入模型评估标准,专为评估大模型在真实场景中的实际检索质量而设计。

相关内容

热门资讯

半小时就能配齐一台机器人,深圳... 编者按:健康完备的经济生态,是推动高质量发展的重要保障。即日起,南方日报、南方+推出“解码广东经济生...
护航开学季,河源海事多措并举保... 金秋九月,新学期如期开启。为有效应对开学季学生水路返程高峰,切实防范化解水上交通安全风险,保障辖区学...
2026广马来了!9月2日10... 广州马拉松赛组委会今日(9月1日)发布消息,2026广州马拉松赛将于9月2日10点开启报名。记者了解...
救援,救援!再难也要继续 在吉隆口岸核心受灾区搜救队伍度过了风雨交加的一晚队员们为应对可能突然而至的泥石流只能穿衣而眠天亮之后...
新华视点|深耕特色产业 激活乡... 近年来,各地立足资源禀赋,因地制宜发展特色种养、农光互补等乡村产业。通过建好基地、延伸链条、带动就近...
潮涌湾区,文通四海 第六届粤港... 羊城晚报全媒体记者梁善茵、熊安娜、李娇娇、阎回、谢婉莹报道:由广东省作家协会主办的第六届粤港澳大湾区...
净环境、畅通行、排隐患!广州城... 9月1日,广州中小学、幼儿园迎来秋季新学期。开学前夕,广州市城市管理和综合执法局统筹各区城管部门,聚...
高端访谈|愿同中国持续巩固永久... 新华社比什凯克9月1日电 高端访谈|愿同中国持续巩固永久全面战略伙伴关系——访哈萨克斯坦总统托卡耶夫...
西藏吉隆:巡逻在撤离村庄的党员... 8月26日上午,因尼泊尔一侧发生泥石流灾害,造成我方一侧通往吉隆口岸的道路、通信、电力中断。西藏吉隆...
一颗“粤芯”,如何撬动大湾区集... 8月28日,粤芯半导体技术股份有限公司(下称“粤芯半导体”)取得中国证监会IPO注册批文,成为创业板...