城市猎人原创文学网 - 纯净的绿色文学家园 !

城市猎人(全文在线阅读>

城市猎人

摩尔线程发布技术白皮书:破解长上下文推理成本瓶颈_我的网站

下一站幸福

一 |     

凤凰网科技讯 8月24日,摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》,基于旗舰级AI训推一体智算卡MTT S5000,提出Prefill-Decode异构解耦方案,面向AI Agent、代码生成、超长文档分析等长上下文推理场景,旨在破解推理成本瓶颈。     8 月 26 日消息,CORSAIR(海盗船)美国加州当地时间 25 日宣布推出水泵与风扇均得到升级的 iCUE LINK TITAN II 系列处理器 AIO 液冷散热器,可选 LCD 和 RGB 版本。▲ iCUE LINK TITAN II RX LCDiCUE LINK TITAN II 换装三相电机搭配闭式叶轮的 FlowDrive 2 高性能水泵,效率更高、流量更大、运行更静音;预装的 iCUE LINK RX II RGB 风扇采用磁吸式圆顶轴承,支持 AirGuide 集中冷却技术,拥有可自由更换半透明侧面板,深度优化日常转速下静音表现;重新设计的凸面冷板针对 AMD 平台深度优化。

二 | 白皮书指出,大模型输入上下文规模进入百K至1M级别后,Prefill(预填充,计算密集型)与Decode(解码,访存密集型)在同一资源池混跑造成结构性算力错配。解决方案是将二者彻底解耦,分别运行在各自最契合的硬件资源池上,实现单位Token基础设施成本大幅下降。▲ iCUE LINK TITAN II RX RGBiCUE LINK TITAN II RX LCD 冷头集成 720×1080 500nits 的 iCUE LINK 5" LCD 显示模块和嵌入式 VRM 风扇; iCUE LINK TITAN II RX RGB 则支持 CapSwap 模块化泵盖生态。MTT S5000硬件特性与Prefill任务高度契合:提供高稠密算力压缩首字时延,原生支持FP8全精度计算,并全面兼容CUDA及PyTorch、vLLM等主流推理框架。实测数据显示,在64K上下文场景下,单机Prefill吞吐达95,920 tok/s,按智谱API定价测算,满负载下单机月收入可达64.6万元;400K极限长序列场景TPM达2.6MTokens,吞吐平稳可控。摩尔线程表示,大模型产业竞争下半场本质上是推理效率与商业回报的较量,该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。

三 | 海盗船还单独销售 iCUE LINK 5" LCD 显示模块与 iCUE LINK RX II RGB 风扇。完整白皮书已在官网发布。这些 iCUE LINK 智能组件生态系统产品均支持单一线缆连接与集体控制。▲ iCUE LINK RX II RGB。

四 |

Current article:http://www.lichuorenrenyitankanmeimu.cfd/dib/20260826/5907330.html

Published on:04:38:00


顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------