AWS/Nvidia : des M GPU obligent les équipes de plateformes
AWS, Microsoft et Google déploient les GPUs Vera-Rubin et Blackwell. Quel budget allouent les équipes de plateforme et quelle stratégie d'inférence est…
AWS et Nvidia ont annoncé le 21 mai un élargissement de leur partenariat : plus d’un million de GPU Blackwell et Rubin devraient être disponibles dans les régions AWS à partir de 2026. Microsoft construit en parallèle des racks Vera-Rubin-NVL72 pour la prochaine génération Fairwater. Cela change ce que les équipes de plateformes doivent budgétiser au cours des douze prochains mois.
Les points clés en bref
- Un million de GPU, c’est de la disponibilité, pas une affaire : Plus de matériel de base réduit les pénuries Spot et le tirage au sort régional, mais les prix à la demande pour Blackwell et Rubin resteront en 2026 dans le segment premium. Ceux qui planifient sans stratégie de réservation ou de bloc de capacité paieront le prix fort pour cette vague.
- Le Vera Rubin NVL72 rapproche le matériel multi-cloud : Microsoft pour Fairwater, AWS pour ses propres régions, Google Cloud et OCI selon Nvidia également. Lambda, Crusoe, CoreWeave et Nebius sont dès le premier trimestre de la partie. Les architectures multi-cloud peuvent pour la première fois s’orienter vers une génération de matériel uniforme au lieu de trois.
- L’inférence, pas l’entraînement, reste le poste coûteux : La FinOps Foundation situe 80 à 90 pour cent des dépenses IA dans l’inférence. Les nouvelles cartes déplacent l’indicateur de performance, pas le problème de coût. Celui-ci réside dans le taux d’utilisation, le routage et le choix du modèle.
LiéFinOps pour l’inférence IA / Le Platform Engineering devient un chemin de production
Ce qu’AWS et Nvidia ont concrètement promis
Au cœur de l’annonce du 21 mai se trouvent trois points. Premièrement : AWS souhaite apporter d’ici 2026 plus d’un million de GPU Nvidia des générations Blackwell et Rubin dans ses propres régions. Il ne s’agit pas d’une simple précommande, mais d’un engagement de disponibilité envers les plus grands clients d’AWS, qui ont jusqu’à maintenant régulièrement poussé leurs charges de travail d’inférence contre les murs des limites de capacité.
Deuxièmement : Amazon EC2 reçoit en tant que premier grand cloud la version serveur Nvidia RTX PRO 4500 Blackwell. C’est la version d’inférence en dessous de la classe H100/H200 et de la future classe GB200. Moins de puissance absolue, mais un rapport beaucoup meilleur entre débit et prix par jeton. Exactement la carte qui se heurte souvent aujourd’hui à un goulot d’étranglement pour l’inférence en production avec de grands modèles.
Troisièmement : Le Vera Rubin NVL72 est confirmé comme système à l’échelle rack. Microsoft s’est engagé à l’intégrer dans les prochains sites Fairwater, AWS, Google Cloud et Oracle Cloud sont répertoriés comme premiers partenaires cloud. S’ajoutent les fournisseurs de cloud spécialisés en IA : CoreWeave, Lambda, Nebius et Nscale. Ils n’attaquent plus les hyperscalers uniquement par les prix Spot, mais par une parité matérielle à la même vague.
Vera Rubin modifie la logique matérielle multi-cloud
Jusqu’à présent, le multi-cloud pour les charges de travail IA était un compromis entre trois générations matérielles très différentes. AWS Trainium et Inferentia dans un monde, Google TPUs dans un autre, Microsoft avec un mélange de Nvidia et de ses propres accélérateurs Maia. Ce qui distribuait des modèles sur plusieurs clouds exploitait en fait trois pistes de réglage en parallèle, une pour chaque chaîne d’outils de compilation et de quantification.
Avec la vague Vera Rubin, cela devient plus simple pour une partie des charges de travail. Trois des quatre grands clouds publics déploient la même génération Nvidia. Même version CUDA, mêmes pipelines TensorRT-LLM, même topologie NCCL au niveau des racks NVL72. Les équipes de plateformes qui travaillent depuis deux ans sur des pipelines d’inférence multi-cloud obtiennent ainsi pour la première fois une couche matérielle cohérente.
Cela ne signifie pas que le multi-cloud IA devient soudainement trivial. La latence entre les régions, la souveraineté des données et les coûts de sortie restent les mêmes maux. Mais l’argument selon lequel on ne pouvait pas migrer de toute façon parce que les profils matériels étaient trop différents perd de sa substance.
Ce que la vague matérielle promet en chiffres et ce qu’elle ne promet pas
La Fondation FinOps a confirmé dans son rapport State-of-FinOps-2026 ce que les praticiens savent depuis des mois : 73 % des organisations interrogées signalent des coûts d’IA dépassant leur budget, le budget moyen de l’IA d’entreprise est passé de 1,2 million de dollars en 2024 à environ 7 millions en 2026. 98 % des équipes FinOps gèrent activement les dépenses liées à l’IA, contre 31 % il y a deux ans.
La nouvelle vague matérielle adresse une partie de ce problème. Selon Google, Trillium offre jusqu’à 1,4 fois plus de puissance d’inférence par dollar par rapport à la génération précédente. Rubin et Blackwell Ultra sont dans la même catégorie. Cependant : ces gains d’efficacité s’annulent si l’utilisation des GPU en production reste entre 15 et 30 %, ce que la Fondation considère comme une valeur typique. Des cartes plus rapides dans un état de moitié vide sont plus chères, pas moins chères.
Le deuxième point aveugle concerne les délais de livraison. Un million de GPUs répartis sur l’année en cours semble être un excès, mais avec les taux de croissance actuels des charges de travail d’inférence, c’est déjà insuffisant, même sans nouveaux cas d’utilisation génératifs majeurs.
Trois conséquences avant le prochain commit d’inférence
- Recalculer les Capacity Blocks et Reserved Instances. Celui qui prépare le passage à Blackwell ou Rubin ne devrait pas couvrir les douze prochains mois avec des ressources On-Demand. La disponibilité des instances Spot s’améliorera à court terme, mais le tarif On-Demand reste le format le plus cher. AWS Capacity Blocks et Nvidia DGX Cloud Lepton sont les deux voies qui se sont imposées auprès des clients en pratique.
- Construire un routage d’inférence entre les clouds, pas seulement le planifier. Avec une génération de matériel cohérente, l’investissement dans un routeur qui décide entre AWS, Google et Microsoft en fonction de la latence, du prix et de l’utilisation est rentable. Des outils comme LiteLLM, vLLM Production Stack ou Bedrock Cross-Region Inference ont mûri ces derniers mois pour cet usage.
- Prendre au sérieux le choix du modèle comme levier FinOps. La Fondation continue de lister la taille du modèle et la quantification comme principaux leviers de coûts, avant la génération de matériel. Un modèle 70B bien quantifié sur RTX PRO 4500 peut être moins cher par token qu’un modèle 70B non optimisé sur H100. La vague matérielle rend cette décision plus importante, pas moins.
Foire aux questions
Est-ce qu’un million de GPUs signifie que les pénuries disparaîtront en 2026 ?
Pas automatiquement. Ce chiffre s’applique à l’ensemble de la flotte hyperscale d’AWS répartie sur l’année. La région qui reçoquelle génération quand n’est pas publique. Ceux qui planifient des charges de travail critiques devraient se garantir cela via des Capacity Blocks ou des contrats réservés, sinon ils continueront à être en mode loterie.
Le passage de H100 à Blackwell pour l’inférence est-il déjà rentable aujourd’hui ?
Pour une inférence pure avec de grands modèles, généralement oui, mais pas nécessairement pour les modèles de taille moyenne. Le saut en tokens par seconde est significatif dans les très grands contextes, mais pour les charges de travail plus petites, ce n’est souvent pas un argument. Un benchmark avec l’application concrète doit précéder chaque migration, la généralisation « nouveau est mieux » s’applique ici moins souvent que ne le suggèrent les diapositives.
Quelle est l’impact de cette vague sur les projets de souveraineté DACH ?
Les fournisseurs européens, OVHcloud, IONOS, Open Telekom Cloud, plusserver, recevront le matériel Vera-Rubin plus tard et en plus faible volume que les grands hyperscalers. Ceux qui doivent conserver des charges de travail d’inférence pour des raisons réglementaires dans des environnements souverains de l’UE devraient examiner attentivement les feuilles de route dès maintenant et planifier des stratégies hybrides où la formation se fait dans un environnement souverain de l’UE et l’inférence dans le cloud public, de manière bien distincte.
Quel rôle jouent les néo-clouds comme Lambda, CoreWeave et Crusoe ?
Ils sont la carte maîtresse. Avec la même génération de matériel, un niveau de prix nettement plus agressif et moins de contraintes d’engagement, ils sont en 2026 un sérieux candidat pour les charges de travail d’inférence pures sans argument de souveraineté des données. En pratique, nous voyons des configurations multi-fournisseurs où un hyperscaler gère la partie réglementaire délicate et une néo-cloud gère les pics de mise à l’échelle.
Que devient des accélérateurs propriétaires : Trainium, TPU, Maia ?
Ils ne disparaissent pas. AWS Trainium 2 et Google TPU v7 restent dans le portefeuille, notamment pour la formation, ils coûtent durablement moins par token que leurs équivalents Nvidia. Mais dans le courant principal de l’inférence, Nvidia avec la génération Vera-Rubin sera présent sur tous les clouds. Un engagement trop rapide sur un seul accélérateur est en 2026 un risque plus grand que la complexité multi-fournisseurs.
- Digital ChiefsCryptographie post-quantique : Le compte à rebours pour l’IT d’entreprise est lancé
Aussi disponible en
