今日,阶跃星辰公司宣布推出StepEdge端侧模型全家桶,包含StepEdge基础模型、StepEdgeAudio、StepEdgeGUI和StepEdgeGen四款产品。这些模型专为手机、汽车等终端场景设计,旨在使Agent能够在本地快速响应,同时更好地保护用户隐私,并通过端云协同完成更复杂的任务。
StepEdge系列模型具备三大核心亮点:首先,超低本地延迟,支持低至0.1秒的端侧本地toolcall执行,使得简单、高频任务能够在本地实时响应,减少对云端链路的依赖。其次,全模态隐私保护,文本、视觉、语音等多模态信息可以在本地处理,敏感数据不出端,特别适合手机、汽车等对隐私保护要求较高的场景。最后,原生端云协同,简单任务和弱网/无网任务由端侧快速响应,而复杂推理与长链路任务则交由云端完成,实现速度、能力和成本的整体平衡。
此外,StepEdge系列模型还能配套StepInferenceNPU引擎,针对终端硬件进行推理优化,在文本、视觉、语音等多种输入形态下进一步降低端到端延迟。
