小米发布 1T 参数 MiMo-V2.5-Pro-UltraSpeed,推理速度达 1000 tokens/s

小米发布_1T_参数_MiMo-V2.5-Pro-UltraSpeed,推理速度达_1000_tokens/s 图1
小米发布 1T 参数 MiMo-V2.5-Pro-UltraSpeed,推理速度达 1000 tokens/s

小米发布 MiMo-V2.5-Pro-UltraSpeed,在 1T 参数规模下首次实现 1000 tokens/s 的推理速度。该版本与 TileRT 深度合作,通过 FP4 混合精度量化和 DFlash 推测解码等技术在通用 GPU 上达成超高吞吐量;API 限时试用价约为标准版 MiMo-V2.5-Pro 的 3 倍,速度提升约 10 倍。

限时试用期为 6 月 9 日至 23 日,采用申请审批制,每日限排队 10 次、单次最多 30 分钟,优先面向企业用户开放。小米指出,这一速度让万亿参数模型能够进入量化交易、实时风控等对延迟极度敏感的决策场景。

platform.xiaomimimo.com | mimo.xiaomi.com

© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容