大模型服务计费难题:卖算力还是卖Token?
创始人
2026-06-12 20:33:39
0

6月12日,北京智源大会上,上海无问芯穹智能科技股份有限公司CTO李伯勋提出,当前推理服务厂商普遍面临的核心问题是选择卖算力还是卖token(词元)作为盈利模式。李伯勋指出,以词元作为计费单位的“卖Token”业务存在挑战,因为模型即服务(MaaS)的门槛较高,需要模型部署后的精度对齐、高速低成本、高可靠稳定性和高算力供给。

李伯勋进一步分析称,一些客户反馈,使用供应商的模型精度比原厂模型的精度差30%。即便是同样的开源模型,如果模型部署和细节设计不同,最终结果也会有所差异。这表明,模型部署的精度对齐和细节设计对于推理服务厂商来说至关重要,直接影响到服务的质量和客户满意度。

相关内容

热门资讯

19.99万起!昊铂S600轿... 6月12日,昊铂S600轿跑SUV正式上市,推出4款车型,售价19.99-21.99万元,限时权益价...
宝马M新世代概念车亮相:电动化... 6月12日,宝马在勒芒赛事前夕发布了基于NeueKlasse下一代架构的新世代概念车,标志着宝马M部...
广汽昊铂S600震撼上市!4.... 6月12日,广汽昊铂S600正式上市,新车推出纯电、增程双动力共4款车型,上市权益价17.99-19...
印度放宽汽车雷达频谱限制 推动... 今日,印度政府取消了汽车防撞和自动驾驶系统所用无线电频谱的许可要求,旨在推动先进安全技术的应用并改善...
乐道L60焕新上市:19万起售... 6月11日,新款乐道L60正式上市,售价区间为19.28-22.28万元,电池租用方案下购买价为13...
大模型服务计费难题:卖算力还是... 6月12日,北京智源大会上,上海无问芯穹智能科技股份有限公司CTO李伯勋提出,当前推理服务厂商普遍面...
丰田章男感叹内燃机时代落幕,全... 近日,丰田汽车社长丰田章男在接受英国媒体Carwow采访时表达了对全球汽车产业电动化转型的孤独感。他...
金山云宣布AI算力产品价格上调... 6月12日,金山云官网宣布,由于全球AI算力需求的增长和硬件成本的上升,公司将对部分产品价格进行调整...
比亚迪工服成泰国“硬通货”,罗... 6月12日,比亚迪泰国罗勇工厂的蓝色工服在当地成为“硬通货”,泰籍员工因亲朋好友需求而频繁补领工服,...
极狐贝塔T1焕新升级,6月16... 6月12日,北汽极狐宣布旗下A0级纯电小车极狐T1焕新升级,更名为极狐贝塔T1,并将于6月16日上市...