英伟达突然发布新GPU！单机架AI性能暴涨6500%，100TB大内存，专攻长上下文推理

主要观点总结

英伟达推出新型专用GPU——NVIDIA Rubin CPX，旨在支持海量上下文AI推理和视频生成任务。该GPU配备高性能内存，提供远超现有系统的性能和token收益。与英伟达其他GPU产品相比，Rubin CPX专注于计算密集型长上下文阶段的加速，并集成到分解式基础架构中。该平台可实现30~50倍的投资回报率，降低推理成本，并加速AI编程助手的应用发展。

关键观点总结

关键观点1: NVIDIA推出新型专用GPU——Rubin CPX。

这款GPU专为海量上下文AI推理和视频生成任务设计，配备128GB GDDR7内存，NVFP4精度下AI算力可达30PFLOPS。

关键观点2: Rubin CPX的AI性能。

与现有系统相比，Rubin CPX提供了更快的注意力机制，AI性能是英伟达Vera Rubin NVL144平台的2倍多，是基于Blackwell Ultra的GB300 NVL72系统的7.5倍。其AI性能可达8EFLOPS，内存带宽达到1.7PB/s。

关键观点3: Rubin CPX与原有GPU产品的区别。

Rubin CPX专注于计算密集型长上下文阶段的加速，而原版Rubin GPU则负责生成和解码计算。分解式推理使这两个阶段能够独立处理，实现对计算和内存资源的有针对性的优化。

关键观点4: 投资回报率。

Vera Rubin NVL144 CPX平台可实现30~50倍的投资回报率，每投资1亿美元可带来高达50亿美元的经济效益。英伟达称这为“为推理经济学树立了新的标杆”。