8月14日,小红书宣布正式发布dots3-notepreview开源大模型,标志着人工智能领域的又一重要进展。该模型以其280B总参数量和16B激活参数量构建了强大的能力底座,并具备文本、视觉、语音全模态感知理解能力。dots3-notepreview在推理、Agent及多模态感知等能力上进行了全面优化,多项任务上的效果与国内外更大尺寸的优秀模型相媲美。
华为官方宣布,昇腾Atlas800A3、Atlas900A3SuperPoD超节点已完成dots3-notepreview的全量适配,并基于vLLMAscend开源推理引擎提供完整的部署与推理能力。昇腾在模型发布当天完成了0Day推理部署适配与性能优化,实现了稳定运行与生成效率提升,为长程复杂任务场景智能落地提供算力支撑。适配及优化的关键点包括全模态端到端适配、框架深度特性优化以及MTP投机推理原生支持,这些优化显著提升了模型的推理吞吐和生成效率,满足高并发在线业务的低时延需求。

