AI能耗真相:一次查询仅耗0.6瓦时电,微软揭示AI节能新高度
创始人
2026-06-16 16:44:47
0

6月15日,微软发布博文,引用《Joule》杂志的研究指出人工智能(AI)在大规模部署时的能耗和用水量远低于之前的估计。研究强调,在大规模推理场景中,应更多关注用户典型调用下的“每次查询”能耗,而非单个模型的训练或推理规模。研究发现,一次常规的AI调用耗电量在0.16至0.60瓦时之间,相当于40瓦电脑运行15至60秒或1000瓦微波炉工作0.6至2秒,这一数据较之前报道低至1/4到1/20。在水资源消耗方面,典型查询的冷却用水为0.0至0.067毫升,中位数约相当于1/100茶匙,甚至少于1滴。

微软进一步指出,随着零用水数据中心设计的推广,水资源消耗还有下降空间。规模越大,单位查询效率通常越高,大系统可以同时处理更多请求,并在模型、调度、硬件等多个层面进行优化。在10亿次日查询的场景下,基础耗电约0.7吉瓦时;若加入效率优化,可降至约0.3吉瓦时。即使10%的请求属于代码生成、多步推理等长任务,整体能耗仍可比基线下降一半以上。

相关内容

热门资讯

粤赛粤鲜 寻味万绿——“粤菜师... 一菜一味皆传承,一勺一铲见功夫,如今舞台已搭就,若由你掌勺,又将如何以厨艺演绎岭南风味、用匠心诠释粤...
福特急申请豁免:林肯航海家SU... 6月16日,美国商务部即将生效的针对联网汽车的中国软硬件禁令对福特汽车产生影响。福特已向美国商务部提...
广东一口岸连续多名旅客遗失财物... 记者从中山边检站了解到,近期,中山客运口岸连续发生多起旅客遗失财物、出入境证件的情况。中山边检民警均...
“五一”假期临近,深圳两口岸公... 4月29日,记者从深圳出入境边防检查总站皇岗边检站获悉,随着“五一”假期临近,人们出游需求强劲释放,...
开局之年看中国|秦岭脚下的“时... 电视剧《主角》中的宁州县秦腔剧团大门。人民网记者贾凯璐摄“我小时候就见过这样的粮票!”“那会儿我的母...
2026年以来,广州公安反诈成... 羊城晚报全媒体记者 鄢敏 通讯员 刘金华 张梦彦6月15日,广州市公安局新闻中心通报:2026年以来...
2026广州跨交会最全逛展攻略... -展会基本信息-时间:2026年6月16日-18日地点:广州·广交会展馆A区定位:全产业链、全生态的...
一起“粤”学“粤”精彩!广东全... 从一根钩针、一块屏幕,到一次学分互认、一场湾区赛事,终身学习不只是课程,也是生活的底气、时代的节拍和...
理想L6新车型7月亮相:家族式... 6月16日,理想汽车产品线负责人李昕旸宣布,新一代理想L6将在7月份亮相。对此感兴趣的消费者可以联系...
蔚来俞斌:大五座SUV市场迎来... 今日,蔚来副总裁俞斌针对大五座SUV市场发表观点,指出当前市场产品延续油车时代的“大尺寸、五座舒适、...