英伟达发布Nemotron 3 Embed系列AI模型,8B版斩获RTEB榜首
创始人
2026-07-18 12:22:31
0

IT之家 7 月 18 日消息,英伟达昨日(7 月 17 日)发布博文,宣布开源推出 Nemotron 3 Embed 系列模型,主要面向 AI 智能体和检索增强生成(RAG)场景。

该系列以开放权重形式发布,支持商业使用,目前已通过 Hugging Face 与 NVIDIA NIM 免费提供。

Nemotron 3 Embed 配备 32K 上下文窗口,可执行高精度检索。NVIDIA 称,这一设计可减少 AI 智能体重复检索,压低不必要的推理触发频率,并显著降低 Token 消耗量。

英伟达针对不同部署环境,同步公开微调和蒸馏版本,覆盖精度优先、成本与时延优先,以及针对特定 GPU 架构优化的使用需求,推出 3 个模型版本:

  • Nemotron-3-Embed-8B-BF16模型为系列为最高规格版本,参数规模为 80 亿。英伟达称,该模型适合对精度要求较高、且伴随较高风险的企业业务场景。该模型基于 Ministral-3-8B-Instruct-2512构建。
  • Nemotron-3-Embed-1B-BF16为高效率版本,参数规模为 11.4 亿。NVIDIA 称,该模型适合重视时延与成本的部署环境。该模型由基于 Ministral-3-3B-Instruct-2512的父模型蒸馏得到。
  • Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上,面向 Blackwell 架构 GPU 优化的版本。原文称,借助 NVFP4,该模型在维持与高效率版相同检索精度的同时,可进一步降低内存占用,并将吞吐量最高提升至 2 倍。

性能方面,Nemotron-3-Embed-8B-BF16 在 RTEB 跑分上斩获第一,得分 78.5%,在 MMTEB 检索中得分 75.5%。

IT之家注:RTEBRetrieval Embedding Benchmark,检索嵌入基准)是由 Hugging Face 团队及 MTEB(海量文本嵌入基准)社区推出的新型检索与嵌入模型评估标准。它专为评估大模型在真实场景(如 RAG 系统和智能体)中的实际检索质量而设计。

相关内容

热门资讯

原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
2024年OPPO手机全攻略:... 手机已不仅仅是通讯工具,它更是我们记录生活、享受娱乐、提升工作效率的重要伙伴。随着科技的飞速发展,O...
2025年值得入手的2款智能手... 在科技飞速发展的今天,智能手表已成为我们生活中不可或缺的伙伴。无论是健康监测、信息提醒,还是时尚搭配...
原创 2... 从去年华为用上了麒麟芯片开始,华为的市场份额就蹭蹭的往上涨,当时抢购的人特别多,一时间还买不到现货,...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
vivo手机5g开关在哪里打开 vivo手机5G开关的打开方式可能因手机型号、系统版本及运营商网络支持情况的不同而有所差异。但总体来...
原创 麒... 为了普及原生鸿蒙(鸿蒙5.0),抢占更多的中端手机市场份额,华为nova系列今年开始计划一年两更,n...
解决FaceTime无法使用的... FaceTime是苹果公司推出的一款视频通话应用,广泛应用于iPhone、iPad和Mac等设备上。...
steam官网无法访问?这个办... 对于广大游戏爱好者而言,Steam平台无疑是获取最新游戏资讯、购买游戏、与全球玩家互动的重要阵地。然...
原创 直... #热点周际赛# 随着科技的进步,儿童智能穿戴设备逐渐成为了家庭中的新宠。华为作为智能穿戴领域的领军者...