10 min de lecture<\/p>\n
L\u2019inf\u00e9rence locale avec l\u2019IA deviendra le flux de travail standard en 2026. Compl\u00e9tion de code, reconnaissance vocale, g\u00e9n\u00e9ration d\u2019images, exp\u00e9riences avec les LLM : tout fonctionnera plus vite et de fa\u00e7on plus conforme au RGPD sur son propre mat\u00e9riel. Mais quelle carte graphique est vraiment n\u00e9cessaire ? La m\u00e9moire VRAM est le facteur d\u00e9cisif, pas la puissance de calcul brute. Comparaison entre NVIDIA RTX 5090, RTX 4090, RTX 3090 d\u2019occasion et AMD RX 7900 XTX, avec des recommandations concr\u00e8tes selon les budgets et les cas d\u2019usage.<\/strong><\/p>\n Dans les benchmarks de jeux, la puissance de calcul brute prime. En inf\u00e9rence IA, c\u2019est d\u2019abord la m\u00e9moire qui compte. Un grand mod\u00e8le linguistique comme Llama 3 70B n\u00e9cessite environ 40 Go de m\u00e9moire en quantification Q4. Si le mod\u00e8le ne tient pas enti\u00e8rement dans la VRAM, il doit \u00eatre d\u00e9plac\u00e9 vers la RAM du processeur. Cela ralentit l\u2019inf\u00e9rence d\u2019un facteur 10 \u00e0 20. En pratique, cela signifie : un mod\u00e8le 70B sur une carte 24 Go fonctionne, mais avec un tel d\u00e9bordement que les temps de r\u00e9ponse deviennent presque inutilisables.<\/p>\n La bande passante m\u00e9moire d\u00e9termine \u00e0 quelle vitesse le mod\u00e8le peut transf\u00e9rer des donn\u00e9es entre la m\u00e9moire GPU et les unit\u00e9s de calcul. La RTX 5090 atteint ici 1,79 To\/s, soit 78 % de plus que la RTX 4090 (environ 1 To\/s). Pour les mod\u00e8les qui tiennent enti\u00e8rement dans la VRAM, cela se traduit directement par une g\u00e9n\u00e9ration de jetons plus rapide. La RTX 5090 atteint 185 jetons par seconde sur des mod\u00e8les 8B, contre 128 pour la RTX 4090. Sur des mod\u00e8les 70B en Q4, la RTX 5090 produit 15 \u00e0 20 jetons par seconde, ce qui suffit pour des applications de chat interactives.<\/p>\n La RTX 5090 repose sur l\u2019architecture Blackwell de NVIDIA, fabriqu\u00e9e en processus TSMC 4NP. 21 760 c\u0153urs CUDA, 680 c\u0153urs Tensor de cinqui\u00e8me g\u00e9n\u00e9ration, 32 Go de GDDR7 sur un bus 512 bits. Son prix officiel est fix\u00e9 \u00e0 1 999 dollars US, mais depuis son lancement en janvier 2025, les cartes sont rarement disponibles en dessous de 2 500 euros.<\/p>\n Pour l\u2019inf\u00e9rence IA locale, la RTX 5090 est la seule carte grand public capable d\u2019ex\u00e9cuter des mod\u00e8les 70B en quantification Q4 compl\u00e8te sans d\u00e9bordement. Elle devient ainsi l\u2019appareil de r\u00e9f\u00e9rence pour les d\u00e9veloppeurs qui exp\u00e9rimentent r\u00e9guli\u00e8rement avec de grands mod\u00e8les linguistiques. Llama 3 70B fonctionne sans accroc, Whisper Large transcrit l\u2019audio en temps r\u00e9el, et Stable Diffusion XL g\u00e9n\u00e8re des images en moins de 5 secondes.<\/p>\n L\u2019inconv\u00e9nient : une TDP de 575 watts. Cela exige une alimentation adapt\u00e9e (au moins 1 000 watts recommand\u00e9e), une bonne ventilation du bo\u00eetier et entra\u00eene des co\u00fbts \u00e9nerg\u00e9tiques plus \u00e9lev\u00e9s. Sur un an, la consommation \u00e9lectrique s\u2019\u00e9l\u00e8ve \u00e0 environ 200 \u00e0 250 euros pour une utilisation quotidienne de quatre heures. Cela relativise l\u2019avantage de co\u00fbt par rapport aux GPU cloud, mais ne l\u2019\u00e9limine pas compl\u00e8tement.<\/p>\n Fin 2026, la RTX 4090 avec 24 Go de GDDR6X reste le choix le plus raisonnable pour un travail s\u00e9rieux d\u2019intelligence artificielle en local. Cette carte atteint 128 tokens par seconde sur les mod\u00e8les 8B et 52 tokens par seconde sur Llama 3.1 70B en Q4. Depuis la sortie de la RTX 5090, les prix des RTX 4090 neuves sont tomb\u00e9s entre 1 400 et 1 600 euros. Les mod\u00e8les d\u2019occasion se trouvent \u00e0 partir de 1 100 euros.<\/p>\n Les 24 Go de VRAM suffisent pour la plupart des cas d\u2019usage pratiques : les mod\u00e8les 8B et 13B tournent sans probl\u00e8me, les mod\u00e8les 30B en Q4 tiennent tout juste, tandis que les 70B n\u00e9cessitent une quantification agressive en Q2 ou du offloading. Si vous travaillez principalement avec des mod\u00e8les jusqu\u2019\u00e0 30B, g\u00e9n\u00e9rez des images avec Stable Diffusion XL ou utilisez Whisper pour la transcription, vous n\u2019avez pas besoin des 32 Go de la RTX 5090. Les 24 Go de la RTX 4090 couvrent enti\u00e8rement ce besoin.<\/p>\n La RTX 3090 offre les m\u00eames 24 Go de VRAM que la RTX 4090, mais avec une puissance de calcul nettement inf\u00e9rieure. Sur le march\u00e9 de l\u2019occasion, elle se situe entre 600 et 800 euros. Le d\u00e9bit de tokens atteint environ 112 tokens par seconde sur les mod\u00e8les 8B, et environ 35 tokens par seconde sur les 70B en Q4. C\u2019est plus lent que la 4090, mais suffisant pour de nombreux flux de travail.<\/p>\n L\u2019\u00e9quation \u00e9conomique est claire : pour un tiers du prix, on obtient la m\u00eame capacit\u00e9 de mod\u00e8le. Celui qui n\u2019a pas besoin de la vitesse d\u2019inf\u00e9rence maximale, mais utilise des mod\u00e8les d\u2019IA locaux pour du traitement par lots, des transcriptions hors ligne ou des exp\u00e9rimentations occasionnelles avec des LLM, trouvera dans une RTX 3090 d\u2019occasion la solution la plus \u00e9conomique. La consommation d\u2019\u00e9nergie plus \u00e9lev\u00e9e (350W de TDP contre 450W pour la 4090) est n\u00e9gligeable en cas d\u2019utilisation occasionnelle.<\/p>\n Un mot sur la long\u00e9vit\u00e9 : les cartes issues du minage, souvent propos\u00e9es d\u2019occasion, ne sont pas n\u00e9cessairement us\u00e9es, contrairement aux id\u00e9es re\u00e7ues. Le minage fait fonctionner les GPU sous une charge constante et mod\u00e9r\u00e9e, avec des temp\u00e9ratures stables. C\u2019est moins destructeur que les sessions de jeu avec des variations fr\u00e9quentes de charge. N\u00e9anmoins, il est conseill\u00e9 de privil\u00e9gier une carte dont l\u2019origine est v\u00e9rifiable, id\u00e9alement avec une garantie restante.<\/p>\n La RX 7900 XTX d\u2019AMD propose 24 Go de VRAM pour moins de 900 euros, ce qui en fait la carte offrant le meilleur rapport VRAM\/prix actuellement disponible. Les performances d\u2019inf\u00e9rence atteignent environ 78 tokens par seconde sur Llama 3 8B. C\u2019est moins rapide que les cartes NVIDIA, mais suffisant pour de nombreux flux de travail.<\/p>\n La limite r\u00e9side dans l\u2019\u00e9cosyst\u00e8me logiciel. CUDA domine le paysage de l\u2019IA. La plupart des frameworks sont optimis\u00e9s pour NVIDIA. ROCm, l\u2019\u00e9quivalent d\u2019AMD \u00e0 CUDA, a fait des progr\u00e8s significatifs ces derniers mois, mais n\u2019atteint pas encore le m\u00eame niveau de compatibilit\u00e9. PyTorch fonctionne de mani\u00e8re stable sur ROCm, mais des outils sp\u00e9cialis\u00e9s comme TensorRT ou certains frameworks de quantification n\u00e9cessitent des contournements ou ne fonctionnent pas du tout. Si vous travaillez principalement avec Ollama et llama.cpp, AMD offre un environnement utilisable. Si vous d\u00e9pendez pleinement de l\u2019\u00e9cosyst\u00e8me NVIDIA, mieux vaut rester sur GeForce.<\/p>\n La prochaine RX 9070 XT d\u2019AMD s\u2019appuiera sur la nouvelle architecture RDNA-4, avec des performances am\u00e9lior\u00e9es en IA. La carte devrait embarquer 16 Go de VRAM, la positionnant pour des mod\u00e8les jusqu\u2019\u00e0 13B. En tant qu\u2019entr\u00e9e de gamme abordable dans l\u2019inf\u00e9rence locale d\u2019IA, elle pourrait s\u2019av\u00e9rer int\u00e9ressante, bien que son utilit\u00e9 pratique d\u00e9pende de la rapidit\u00e9 avec laquelle l\u2019\u00e9cosyst\u00e8me ROCm saura suivre. Pour les d\u00e9veloppeurs qui doivent acheter aujourd\u2019hui, la RX 7900 XTX reste le choix AMD le plus s\u00fbr.<\/p>\n Les GPU cloud co\u00fbtent entre 0,50 et 3,50\u00a0euros de l\u2019heure selon le fournisseur et le mod\u00e8le. Une instance RTX 4090 chez Lambda Labs revient \u00e0 environ 0,75\u00a0euro par heure, une A100 80\u00a0Go \u00e0 environ 2,00\u00a0euros. Le mat\u00e9riel local implique un co\u00fbt d\u2019achat initial, mais aucun frais de location r\u00e9current.<\/p>\n Le calcul du seuil de rentabilit\u00e9 est simple : une RTX 4090 \u00e0 1 500\u00a0euros s\u2019amortit en environ 500\u00a0jours, soit pr\u00e8s de 1,5\u00a0an, avec une utilisation quotidienne de 4\u00a0heures (au tarif cloud de 0,75\u00a0euro\/h). Pour une utilisation occasionnelle inf\u00e9rieure \u00e0 une heure par jour, le cloud reste avantageux. En revanche, qui travaille plusieurs heures par jour sur des mod\u00e8les locaux r\u00e9alise des \u00e9conomies substantielles avec du mat\u00e9riel propre. S\u2019ajoute l\u2019avantage en mati\u00e8re de confidentialit\u00e9 : l\u2019inf\u00e9rence locale signifie aucune donn\u00e9e envoy\u00e9e dans le cloud, aucune d\u00e9pendance \u00e0 une API, et aucun co\u00fbt croissant avec l\u2019usage.<\/p>\n Un facteur souvent n\u00e9glig\u00e9 est la disponibilit\u00e9. Les instances GPU cloud ne sont pas toujours disponibles imm\u00e9diatement, surtout pour des mod\u00e8les populaires comme l\u2019A100 ou l\u2019H100. Des temps d\u2019attente de plusieurs minutes \u00e0 plusieurs heures ne sont pas rares. Le mat\u00e9riel local est toujours pr\u00eat \u00e0 l\u2019emploi, sans d\u00e9lai de mise en service. Pour les \u00e9quipes de d\u00e9veloppement qui exp\u00e9rimentent de mani\u00e8re it\u00e9rative avec diff\u00e9rents mod\u00e8les et ont besoin de cycles de feedback rapides, ce facteur a un impact direct sur la productivit\u00e9.<\/p>\n \u00c9valuation du co\u00fbt total de possession (TCO) sur trois ans : une RTX 4090 co\u00fbte 1 500\u00a0euros \u00e0 l\u2019achat, plus environ 400\u00a0euros d\u2019\u00e9lectricit\u00e9 pour une utilisation quotidienne de 4\u00a0heures. L\u2019\u00e9quivalent en cloud, \u00e0 utilisation \u00e9gale : 0,75\u00a0euro \u00d7 4\u00a0heures \u00d7 365\u00a0jours \u00d7 3\u00a0ans = 3 285\u00a0euros. La solution locale permet donc d\u2019\u00e9conomiser environ 1 400\u00a0euros sur trois ans. La RTX 5090, avec un prix d\u2019achat plus \u00e9lev\u00e9, s\u2019amortit apr\u00e8s environ deux ans, mais r\u00e9alise ensuite des \u00e9conomies encore plus importantes.<\/p>\n \n”<\/span><\/p>\n La question n\u2019est pas de savoir si l\u2019inf\u00e9rence locale en IA est rentable, mais \u00e0 partir de quand. Quatre heures d\u2019utilisation GPU par jour constituent le seuil critique. En dessous, le cloud est plus avantageux. Au-del\u00e0, le mat\u00e9riel local r\u00e9duit les co\u00fbts, de plus en plus chaque mois.<\/p>\n<\/blockquote>\n<\/figure>\n Pour les d\u00e9veloppeurs qui utilisent Llama 3 8B ou des mod\u00e8les comparables pour la compl\u00e9tion de code ou le chat, une carte dot\u00e9e de 16\u00a0Go de VRAM suffit. La RTX 4070 Ti Super (16\u00a0Go), disponible \u00e0 partir de 650\u00a0euros, repr\u00e9sente ici le meilleur compromis. Whisper fonctionne en temps r\u00e9el en local, Stable Diffusion g\u00e9n\u00e8re des images dans un d\u00e9lai acceptable, et les petits mod\u00e8les de langage (LLM) r\u00e9pondent de mani\u00e8re fluide.<\/p>\n Celui qui travaille r\u00e9guli\u00e8rement avec des mod\u00e8les de 30\u00a0\u00e0 70\u00a0milliards de param\u00e8tres ou exploite des configurations multi-mod\u00e8les a besoin de 24\u00a0Go de VRAM. La RTX 4090 (neuve ou d\u2019occasion) ou la AMD RX 7900 XTX sont les options disponibles. La 4090 est plus rapide, la solution AMD est plus \u00e9conomique.<\/p>\n Pour les utilisateurs intensifs souhaitant ex\u00e9cuter localement des mod\u00e8les de 70\u00a0milliards sans compromis li\u00e9s \u00e0 la quantification, ou travailler avec plusieurs mod\u00e8les en parall\u00e8le, la RTX 5090 avec 32\u00a0Go de VRAM est la seule option grand public. Pour un besoin encore sup\u00e9rieur en m\u00e9moire, il faut se tourner vers des cartes professionnelles comme la NVIDIA A6000 (48\u00a0Go) ou vers les Macs Apple Silicon dot\u00e9s de m\u00e9moire unifi\u00e9e. Un MacBook Pro M5 Max avec 128\u00a0Go de m\u00e9moire unifi\u00e9e peut th\u00e9oriquement charger des mod\u00e8les jusqu\u2019\u00e0 405\u00a0milliards de param\u00e8tres, m\u00eame si la vitesse d\u2019inf\u00e9rence reste nettement inf\u00e9rieure \u00e0 celle d\u2019un GPU d\u00e9di\u00e9.<\/p>\n Un conseil pragmatique pour les \u00e9quipes : tous les d\u00e9veloppeurs n\u2019ont pas besoin d\u2019un GPU haut de gamme. Une configuration d\u2019\u00e9quipe avec un ou deux serveurs d\u2019inf\u00e9rence partag\u00e9s (RTX 4090\/5090) accessibles via le r\u00e9seau (avec Ollama ou vLLM), combin\u00e9e \u00e0 des postes de travail standards pour les t\u00e2ches quotidiennes, est souvent plus rentable que d\u2019\u00e9quiper chaque poste avec une carte haut de gamme. Cela permet de pr\u00e9server le budget, de centraliser la gestion des GPU et de simplifier les mises \u00e0 jour. Les mod\u00e8les ne sont mis \u00e0 jour qu\u2019une seule fois sur le serveur central, et non sur chaque poste individuel.<\/p>\n Oui, mais avec des restrictions. Pour la quantification Q4, Llama 3 70B n\u00e9cessite environ 40 Go. Sur une carte de 24 Go, une partie du mod\u00e8le sera d\u00e9charg\u00e9e (offloading) sur la m\u00e9moire RAM du processeur, ce qui r\u00e9duit la vitesse d’inf\u00e9rence \u00e0 5 \u00e0 10 tokens par seconde. C’est limite pour une utilisation interactive, mais acceptable pour un traitement par lots.<\/p>\n<\/details>\n En principe, oui. Le minage utilise les cartes graphiques \u00e0 une charge constante et mod\u00e9r\u00e9e, ce qui est moins \u00e9prouvant que le jeu avec des changements de charge constants. Une carte RTX 3090 d’occasion provenant du secteur minier offre 24 Go de VRAM pour 600 \u00e0 800 Euro. Assurez-vous de l’origine v\u00e9rifiable, de la garantie restante et testez la carte avec un test de stress avant l’achat.<\/p>\n<\/details>\n Pour les petits mod\u00e8les jusqu’\u00e0 7B de param\u00e8tres en quantification Q4, oui. Llama 3 8B fonctionne avec une quantification agressive sur 8 Go. Whisper Small \u00e9galement. Pour un travail s\u00e9rieux avec des mod\u00e8les plus grands, la g\u00e9n\u00e9ration d’images ou les configurations multi-mod\u00e8les, 8 Go sont insuffisants. 16 Go devraient \u00eatre le minimum.<\/p>\n<\/details>\n Pour l’inf\u00e9rence, oui, avec des restrictions. Apple Silicon utilise une m\u00e9moire unifi\u00e9e partag\u00e9e entre le processeur et la carte graphique. Un M5 Max avec 128 Go peut th\u00e9oriquement charger de tr\u00e8s grands mod\u00e8les. La vitesse d’inf\u00e9rence est cependant nettement inf\u00e9rieure \u00e0 celle d’une carte graphique NVIDIA d\u00e9di\u00e9e, car la bande passante m\u00e9moire est inf\u00e9rieure. Pour une utilisation occasionnelle de LLM, c’est une solution pratique, mais pas un remplacement pour des workflows d’IA professionnels.<\/p>\n<\/details>\n MacBook Pro M5 en test pratique : puce ARM d’Apple contre Windows on ARM<\/a><\/p>\n L’IA serverless est sur\u00e9valu\u00e9e – voici ce qui compte \u00e0 la place<\/a><\/p>\n CES 2026 : Les nouveaut\u00e9s technologiques les plus int\u00e9ressantes pour les professionnels de l’informatique<\/a><\/p>\n<\/div>\nL\u2019essentiel en bref<\/h2>\n
\n
Pourquoi la VRAM est plus importante que les TFLOPS<\/h2>\n
NVIDIA RTX 5090 : la r\u00e9f\u00e9rence avec 32 Go<\/h2>\n
RTX 4090 : Le meilleur rapport qualit\u00e9-prix<\/h2>\n
Conseil budget : RTX 3090 d\u2019occasion \u00e0 moins de 800 euros<\/h2>\n
Alternative AMD : RX 7900 XTX avec 24 Go<\/h2>\n
Cloud-GPU contre mat\u00e9riel local : l\u2019\u00e9quation FinOps<\/h2>\n
Recommandations par cas d\u2019usage<\/h2>\n
Foire aux questions<\/h2>\n
Puis-je ex\u00e9cuter un mod\u00e8le 70B sur une carte de 24 Go ?<\/strong><\/summary>\n
Une carte graphique de minage d’occasion est-elle rentable pour l’inf\u00e9rence de l’IA ?<\/strong><\/summary>\n
8 Go de VRAM suffisent-ils pour les mod\u00e8les d’IA locaux ?<\/strong><\/summary>\n
Un Mac Apple Silicon est-il une alternative \u00e0 une carte graphique d\u00e9di\u00e9e ?<\/strong><\/summary>\n
Conseils de lecture de la r\u00e9daction<\/h2>\n
Plus de contenu du r\u00e9seau MBF Media<\/h2>\n