中国电信联合中科院等实现国产算力跨架构大模型推理技术突破_知识学习

中国电信联合中科院等实现国产算力跨架构大模型推理技术突破

创始人

2025-12-12 21:42:00

0次

今日，中国电信研究院联合中国科学院计算技术研究所、华为昇腾、沐曦等机构，在中国电信云网融合技术中试验证平台上，成功完成了业界首个面向国产算力的跨架构大模型推理技术验证。该技术攻关由中国电信研究院牵头，启动了“Triton统一跨架构推理框架”项目，通过自主研发的Triton跨架构编译器与统一大模型算子库，实现了算子源码在英伟达、昇腾、沐曦三类芯片上的无缝运行。

在本次技术验证中，已完成10余款主流开源模型在三类芯片上的端到端推理测试。核心指标表现优异，平均迁移时间不超过3天，效率较传统适配模式提升超过80%；精度误差控制在0.5%以内，确保了模型推理的可靠性；在同等延迟约束下，系统吞吐达到各芯片原生算子库的90%以上，实现了性能与适配效率的双重优化。框架还内置了benchmark与Profiling工具，能够一键生成跨芯片性能对比报告，为业务方提供选芯决策支撑。

上一篇：中国动力电池销量大增52.2%，宁德时代比亚迪领跑市场

下一篇：以下是一些改写“回应民生关切”的方式，你可以根据具体情境和表达需求进行选择：对民生关切予以回应：强调了主动去做、给予回应的动作，突出了积极的态度。针对民生关切作出回应：明确了是针对特定的民生问题进行回应，使回应更具针对性。以回应民生关切为导向：将回应民生关切作为行动的导向，体现了重视民生的理念。对民生关切进行积极回应：强调了回应的积极态度，即主动、认真地对待民生关切。用回应民生关切来体现：表明通过回应民生关切来展现某种价值或态度，突出了回应的重要性。以回应民生关切为己任：将回应民生关切视为自

中国电信联合中科院等实现国产算力跨架构大模型推理技术突破

相关内容

热门资讯