CoreWeave déploie NVIDIA Vera Rubin NVL72 dans le cloud, avec jusqu’à 4,8 fois plus de tokens traités
Aleksandr Manin
CoreWeave a annoncé l’accès anticipé aux systèmes NVIDIA Vera Rubin NVL72 sur CoreWeave Cloud et indique avoir déjà mis en service un cluster de production pour Cognition. Cette initiative permet aux clients d’accéder au nouveau matériel via l’infrastructure cloud de CoreWeave, tandis que le chiffre phare provient d’un premier test ciblé plutôt que d’une comparaison sur un large éventail de charges de travail.
Pour cette comparaison, Cognition a exécuté des agents d’IA sur des tâches d’ingénierie logicielle tirées du jeu de données FrontierCode. L’entreprise a comparé Vera Rubin NVL72 à GB200 NVL72, et le gain annoncé de 4,8 fois concerne ces premiers tests d’inférence SWE-2.
CoreWeave a associé les systèmes au réseau Ethernet Spectrum-X 102.4T. Les clients peuvent gérer leurs ressources cloud avec CoreWeave Kubernetes Service, SUNK, Mission Control, Sandboxes et Inference.
NVIDIA estime que ces résultats pourraient permettre à Devin de générer du code plus rapidement en temps réel et de mieux répondre aux raisonnements en plusieurs étapes. CoreWeave a mis en service un cluster de production Vera Rubin pour Cognition quelques jours après avoir reçu ses premiers racks de production.
Silas Alberti, de Cognition, a déclaré que l’entreprise tenait à réunir les différents composants de sa charge de travail de programmation agentique sur une seule plateforme, plutôt qu’à se focaliser sur un résultat de benchmark isolé.
La programmation agentique est une charge de travail complexe : des contextes longs, une forte concurrence et des volumes de tokens pour lesquels le coût par token détermine ce que nous pouvons livrer. Le fait de réunir tous ces éléments sur une seule plateforme, avec des ingénieurs de NVIDIA et de CoreWeave qui s’attaquent aux problèmes complexes à nos côtés, compte davantage pour nous qu’une seule caractéristique technique.
Un rack CoreWeave Vera équipé de processeurs contient 128 puces et 11 264 cœurs, de quoi exécuter plus de 11 000 environnements simultanément, chacun sur un cœur. CoreWeave a également annoncé un gain de performances de 1,7 fois sur les processeurs Vera pour l’ensemble des tâches Terminal-Bench réussies.
Quel poids faut-il accorder au premier résultat de 4,8 fois obtenu sur SWE-2 pour évaluer les performances réelles de Vera Rubin NVL72 dans le cloud ?