6月15日,微软发布博文,引用《Joule》杂志的研究指出人工智能(AI)在大规模部署时的能耗和用水量远低于之前的估计。研究强调,在大规模推理场景中,应更多关注用户典型调用下的“每次查询”能耗,而非单个模型的训练或推理规模。研究发现,一次常规的AI调用耗电量在0.16至0.60瓦时之间,相当于40瓦电脑运行15至60秒或1000瓦微波炉工作0.6至2秒,这一数据较之前报道低至1/4到1/20。在水资源消耗方面,典型查询的冷却用水为0.0至0.067毫升,中位数约相当于1/100茶匙,甚至少于1滴。
微软进一步指出,随着零用水数据中心设计的推广,水资源消耗还有下降空间。规模越大,单位查询效率通常越高,大系统可以同时处理更多请求,并在模型、调度、硬件等多个层面进行优化。在10亿次日查询的场景下,基础耗电约0.7吉瓦时;若加入效率优化,可降至约0.3吉瓦时。即使10%的请求属于代码生成、多步推理等长任务,整体能耗仍可比基线下降一半以上。

