棒球

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。

三 | 白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。有记者问：近日，台内务主管部门负责人刘世芳称，自去年12月限制小红书APP后，诈骗件数下降80%、诈骗金额下降55%，非常有成效；如今按照程序再给小红书寄挂号信，若仍不理会，很可能再屏蔽一年。

四 | MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。

五 | 实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。

六 | 请问对此有何评论？          　　国台办发言人张晗表示，你提到的数据是民进党当局自编自导的，目的是捏造借口禁限大陆社交平台，煽动两岸对立对抗。民进党当局粗暴剥夺台湾民众特别是青年的知情权和使用社交平台的自由，粗暴阻挠两岸青年沟通交往，完全不得人心。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。其倒行逆施挡不住台湾民众通过大陆社交平台进行交流的热情，挡不住两岸民众走亲走近的民意潮流。(中新网“燕新台”工作室)                【编辑:王琴】。完整白皮书已在官网发布。