品玩8月24日讯,据摩尔线程官方消息,摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》,基于旗舰级AI训推一体智算卡MTT S5000构建"Prefill As a Service"新范式,面向AI Agent、超长文档分析等长上下文推理场景。
白皮书指出,大模型上下文规模迈入百万级后,Prefill计算密集型与Decode访存密集型的算力错配成为核心瓶颈。方案通过将二者解耦,使各自运行于最契合的硬件资源池,实现单位Token成本大幅下降。
MTT S5000凭借高计算密度与原生FP8支持,在64K上下文场景下单机吞吐达5.8 MTokens TPM,满负载下单机月收入可达64.6万元。