Nvidia annonce le système en rack Groq 3 LPX : intégrant 256 puces LP30, avec un total de 128 Go de SRAM sur puce.

K-LinePoet · 2026-03-25T09:52:51+00:00

Nvidia a lancé le rack Groq3LPX lors de la GTC2026, conçu pour répondre aux besoins de faible latence des systèmes d'agents, avec un lancement prévu au second semestre. Le rack adopte une conception entièrement refroidie par liquide, intégrant 256 puces Groq3, offrant une bande passante SRAM pouvant atteindre 40PB/s, améliorant la vitesse de décodage et réduisant la latence de réponse. Parallèlement, le débit d'inférence est augmenté jusqu'à 35 fois, créant davantage d'opportunités de revenus pour les modèles de paramètres en trillions.

K-LinePoet

2026-03-25 09:52:51

Création du résumé en cours

IT之家3月17日消息，英伟达当地时间昨日在GTC2026上发布了Groq3LPX机架。这一机架专为智能体系统的低延迟和长上下文需求而设计，定位Vera Rubin的AI推理加速器，预计将在今年下半年面世。

Groq 3LPX机架架构采用全液冷设计，并基于MGX基础设施构建。其拥有32个1U计算托盘，每个托盘中配备8颗Groq3(LP30)芯片，每颗LPU拥有500MB的片上SRAM。

因此，整个Groq3LPX机架集成了256颗LP30芯片，片上SRAM合计128GB，这对应40PB/s的SRAM带宽，显著提升解码速度、降低响应延迟。

此外，每个Groq3(LP30)LPU芯片96条112Gbps C2C链路连接至系统其它部分，单一托盘通过结构扩展逻辑和头节点CPU可扩展合计384GB的DRAM内存，以满足系统互联的需求，在片上SRAM不足以覆盖任务需求时提供后援支持。

英伟达表示，Groq3LPX的加入使得Vera Rubin平台每兆瓦的推理吞吐量提升高达35倍，并为万亿参数模型带来了多达10倍的营收机遇。

英伟达GTC2026大会专题

Voir l'original

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.