英伟达小模型ARC-AGI2夺冠,成本仅GPT-5Pro的1/36
创始人
2025-12-08 16:10:58
0

近日,英伟达的ARC-AGI2竞赛中,NVARC小模型以27.64%的成绩超越GPT-5Pro的18.3%,成为榜首。NVARC的每任务成本仅为20美分,远低于GPT-5Pro的超过7美元。NVARC的成功在于其零预训练深度学习方法,避免了预训练模型的领域偏见和数据依赖问题。

NVARC团队采用了改进版ARChitects方法,选用小参数模型Qwen3-4B,通过对话式模板简化谜题理解。训练时借助NeMoRL框架和Megatron后端进行监督微调。关键一步在于测试时微调(TTFT),针对ARC-AGI-2每个任务都是全新规则的特点,NVARC引入了LoRA微调技术,对每个问题都进行微调,让模型快速适应。同时,对ARChitects方法的改进在于解码阶段DFS算法做了批处理优化,修复结果非确定性问题。

NVARC团队还应用了“少即是多”的TRM方法,尝试与Qwen3-4B集成补充分数,虽有提升但未大幅优化。这一成果表明,在特定领域任务中,经过针对性优化的小模型性能并不逊色于全面发力的超级大模型。将正确的方法用在正确的地方,小模型也能实现更大的价值。

相关内容

热门资讯

长城魏牌V8X运动版来袭:4.... 8月11日,长城魏牌宣布即将发布大五座旗舰SUV新车——V8X的运动版车型。这款新车以其豪华质感和运...
谷歌AI招聘工具竟漏筛自家人才... 今日,谷歌在推销AI工具时强调其快速处理求职申请的能力,但自家DeepMind AGI安全与对齐团队...
7月新能源车渗透率创新高,自主... 8月11日,乘联分会数据显示,2026年7月新能源车在国内乘用车市场的零售渗透率达到65.1%,同比...
奥迪E5 Sportback星... 8月11日,上汽奥迪E5 Sportback推出了“星钻特别版”限量选装包,新老用户均可选装,限时优...
上汽大众傅强:防锈技术普及,品... 8月11日,上汽大众在其ID.ERA5S发布会上,销售与市场执行副总经理傅强就汽车质量问题发表看法。...
特斯拉紧急召回超2万辆Mode... 8月11日,美国国家公路交通安全管理局(NHTSA)披露,特斯拉因近光灯亮度问题召回20349辆Mo...
华为乾崑智驾领跑行业,月度辅助... 8月11日,岚图汽车CBO、销售公司总经理邵明峰在直播中分享了他对智能驾驶行业合作热点话题的看法。邵...
北京DeepSeek组建Har... 8月11日,北京深度求索人工智能基础技术研究有限公司注册了微信公众号“DeepseekHarness...
谷歌Gemini3.7Flas... 近日,科技媒体testingcatalog报道,谷歌正在准备推出新的Gemini 3.7 Flash...
周末执法不打烊!广州东山口严查... 交警执法周末不打烊!8月9日下午4时许,羊城晚报记者在广州东山口未来里(原广百东山店)门前看到,几名...