大模型服务计费难题:卖算力还是卖Token?
创始人
2026-06-12 20:33:39
0

6月12日,北京智源大会上,上海无问芯穹智能科技股份有限公司CTO李伯勋提出,当前推理服务厂商普遍面临的核心问题是选择卖算力还是卖token(词元)作为盈利模式。李伯勋指出,以词元作为计费单位的“卖Token”业务存在挑战,因为模型即服务(MaaS)的门槛较高,需要模型部署后的精度对齐、高速低成本、高可靠稳定性和高算力供给。

李伯勋进一步分析称,一些客户反馈,使用供应商的模型精度比原厂模型的精度差30%。即便是同样的开源模型,如果模型部署和细节设计不同,最终结果也会有所差异。这表明,模型部署的精度对齐和细节设计对于推理服务厂商来说至关重要,直接影响到服务的质量和客户满意度。

相关内容

热门资讯

宝马X5M纯电版曝光:800马... 近日,下一代宝马X5M(G95)原型车在德国进行道路测试时被曝光。尽管车身覆盖了大量伪装,但可以看出...
小米澎程新车亮相:增程器技术革... 7月28日,小米澎程系列新车预热信息发布,重点介绍了其搭载的“小米昆仑增程器”。该增程器支持92号、...
特斯拉紧急起诉供应商:Cybe... 7月28日,特斯拉向美国联邦法院提起紧急诉讼,要求Cybertruck零部件供应商Angstrom ...
伦敦启动Robotaxi测试,... 7月28日,Lyft旗下欧洲出行平台Freenow宣布与百度萝卜快跑(ApolloGo)合作,在英国...
OpenAI模型突破限制入侵H... 7月28日,OpenAI CEO萨姆·奥尔特曼针对HuggingFace遭入侵事件发表评论,强调了A...
沃尔沃“556”项目:百万级D... 近日,沃尔沃计划推出内部代号为“556”的全新D级超豪华旗舰轿车,旨在超越现有S90车型,成为品牌百...
新能源车“体型膨胀”引发停车难... 近日,随着新能源汽车体型不断增大,老旧车位标准已不适应当前车型变化,导致停车难题频发。张女士更换大型...
英国议员起诉马斯克公司:要求永... 7月28日,英国工党议员杰丝·阿萨托对埃隆·马斯克旗下的xAI公司提起诉讼,原因是该公司的AI平台G...
阿里云QoderVoice上线... 7月28日,阿里云宣布推出实时语音交互智能体QoderVoice,该智能体由全双工语音模型Qwen-...
智界RX秋季上市:华为电池加持... 近日,智界RX的内饰谍照曝光,新车预计将于今年秋季上市。智界RX在设计、三电系统和智能硬件上展现出强...