英伟达开源Nemotron3Embed系列AI模型,助力智能检索与生成
创始人
2026-07-18 07:56:37
0

7月18日,英伟达宣布开源推出Nemotron3Embed系列模型,专注于AI智能体和检索增强生成(RAG)场景。该系列模型以开放权重形式发布,支持商业使用,并通过HuggingFace与NVIDIANIM免费提供。Nemotron3Embed系列模型具备32K上下文窗口,能够执行高精度检索,旨在减少AI智能体的重复检索,降低不必要的推理触发频率,并显著减少Token消耗量。

英伟达针对不同部署环境,公开了微调和蒸馏版本,覆盖了精度优先、成本与时延优先,以及针对特定GPU架构优化的使用需求。系列中包括三个模型版本:Nemotron-3-Embed-8B-BF16作为最高规格版本,参数规模为80亿,适合对精度要求较高且伴随较高风险的企业业务场景;Nemotron-3-Embed-1B-BF16为高效率版本,参数规模为11.4亿,适合重视时延与成本的部署环境;Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上,面向Blackwell架构GPU优化的版本,能够在维持相同检索精度的同时,进一步降低内存占用,并将吞吐量最高提升至2倍。

在性能方面,Nemotron-3-Embed-8B-BF16在RTEB跑分上获得第一,得分78.5%,在MMTEB检索中得分75.5%。RTEB是由HuggingFace团队及MTEB社区推出的新型检索与嵌入模型评估标准,专为评估大模型在真实场景中的实际检索质量而设计。

相关内容

热门资讯

“广货行天下”特色食品产销对接... 7月17日,“广货行天下”特色食品产销对接城市联盟(岭南特色食品)专场促销活动暨第四届广东(潮州)特...
减少AI伪造内容风险,广州琶洲... 用AI技术生成图片参加摄影比赛并公示获奖,用AI技术生成虚假信息经网络传播后引发社会不安……AI技术...
为更新改造凝聚民心!广州天河凌... 近日,中建天河精诚壹号项目联合云溪实业公司、新塘街高塘居委会,共同开展“党建引领担使命,义诊慰问暖民...
第三次围棋“人机大战”开打:开... 7月17日,2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。同一天,在位于韩国的首尔...
“老兵+小兵”携手护河,广州海... 7月13日至15日,广州市海珠区河长办联合素社街道党工委、素社街道退役军人服务站等单位,组织开展“老...
军民同心鱼水情,广州黄埔区“八... 文/羊城晚报全媒体记者 卢佳圳 通讯员 詹瑜霞图/通讯员提供7月15日,广州市黄埔区举行“赓续红色血...
33项重点工作落地!环南昆山—... 日前,《增城区建设环南昆山—罗浮山县镇村高质量发展引领区产业发展专项组2026年工作要点》(下称《工...
记者帮|网传“丽柏广场倒闭”实... “广州丽柏广场要倒闭了?”近日,这则传言在社交媒体持续发酵。羊城晚报“记者帮”实地走访发现,商场内多...
智能伙伴 共创未来丨盛会开幕 ... 江河交汇处 演绎AI向善普惠新华章。今天上午,2026世界人工智能大会暨人工智能全球治理高级别会议在...
国际观察丨中国全球好感度首次超... 文/羊城晚报全媒体记者 赵鹏图表、视频/羊城晚报全媒体记者 黎杰文据总台环球资讯消息,7月15日,美...