7月8日,科技媒体Wccftech报道了显卡厂商蓝戟(GUNNIR)对英特尔ArcProB70GPU进行的测试。在DeepSeekR1模型推理表现上,ArcProB70在某些情况下超过了英伟达的RTX5090D和RTX4090D显卡。测试环境为4张显卡配置,对比了英特尔ArcProB7032GB、英伟达RTX5090D32GB与RTX4090D24GB三款显卡的AILLM大语言模型推理性能。
测试模型为DeepSeekR1-DistillQwen32BFP16,固定输入/输出长度为128个tokens,覆盖了从1到512的完整上下文并发范围。核心指标为token/s吞吐量,衡量大语言模型推理时的输出效率。在并发低于32时,RTX5090D领先,RTX4090D紧随其后,而ArcProB70表现与RTX4090D相当。当并发达到32和64时,ArcProB70已能追平并超过RTX4090D。在并发128时,ArcProB70的token吞吐量比RTX5090D高8.6%,比RTX4090D高34.2%。并发256时,ArcProB70比RTX5090D高7.5%,比RTX4090D高48.7%。在并发512时也观察到相近表现。英特尔ArcProB70GPU在Tokens吞吐量方面表现最为出色,速度高达每秒2320.76个Token。


