Vidéos overclocking.com

Le rack NVIDIA Vera Rubin subit de plein fouet les prix élevés de la mémoire. Les coûts estimés pour réunir les quantités astronomiques de RAM et de VRAM sont en augmentation de 435%. Le BOM (Bill of Material) d’un rack complet avec 72 GPU et des 36 CPU ainsi que tout ce qui va avec s’affiche à… $7,8 millions ! Les estimations proviennent de Morgan Stanley.

Vera Rubin : le coût de la mémoire impact aussi les professionnels ! Comment est organisé un rack ?

Avec Vera Rubin, la facture totale du matériel affiche une forte hausse puisque, le coût en matériel affiche $7,8 millions pour assembler un rack complet. Pour rappel, un rack NVL72, c’est 72 GPU Rubin et 36 CPU Vera. On parle également d’une très grosse quantité de mémoire puisque chaque GPU est épaulé par 288 Go de mémoire HBM4 tandis que chaque CPU gère 1,5 To de mémoire LPDDR5X. Avec ceci, il faut rajouter toute la partie réseau, les systèmes de refroidissement, la partie alimentation, etc., etc.

Au niveau de l’organisation, c’est simple, un rack complet se compose de 36 superchip affichant chacun deux GPU (2×288 Go de HBM4) et un CPU (1,5 To de LPDDR5X). Pour finir, on retrouve quatre superchip par plateau.

La mémoire, le second poste de dépense, elle représente 26% du coût total :

Côté dépense, l’élément qui pèse le plus sur la facture, ce sont les GPU. Pour un rack complet, il est estimé que les GPU coûtent pas moins de $4 millions à eux seul. En opposition, un rack NVL72 Blackwell de génération actuel, c’est $2,5 millions de GPU. Ensuite, en seconde position, nous avons la mémoire qui représente une hausse des dépenses de 435%. Au total, les coûts estimés en mémoire (HBM et LPDDR) sont de plus de $2 millions contre « seulement