10 Min. Tiempo de lectura<\/p>\n
La inferencia de IA local se convertir\u00e1 en el flujo de trabajo est\u00e1ndar en 2026. Completado de c\u00f3digo, reconocimiento de voz, generaci\u00f3n de im\u00e1genes, experimentos con LLM: todo funciona m\u00e1s r\u00e1pido y con mayor conformidad de privacidad en el propio hardware. Pero, \u00bfqu\u00e9 tarjeta gr\u00e1fica se necesita realmente? VRAM es el factor decisivo, no la pura potencia de c\u00e1lculo. Una comparaci\u00f3n de NVIDIA RTX 5090, RTX 4090, RTX 3090 usada y AMD RX 7900 XTX, con recomendaciones concretas para diferentes presupuestos y casos de uso.<\/strong><\/p>\n En los benchmarks de juegos, cuenta la potencia bruta de c\u00e1lculo. En la inferencia de IA, cuenta primero la memoria. Un Large Language Model como Llama 3 70B necesita unos 40 GB de memoria en cuantizaci\u00f3n Q4. Si el modelo no cabe completamente en la VRAM, debe ser desplazado al RAM de la CPU. Esto ralentiza la inferencia por un factor de 10 a 20. En la pr\u00e1ctica, esto significa: un modelo de 70B en una tarjeta de 24 GB funciona, pero con tanto desplazamiento que los tiempos de respuesta apenas son \u00fatiles.<\/p>\n El ancho de banda de la memoria determina qu\u00e9 tan r\u00e1pido el modelo puede mover datos entre la memoria de la GPU y las unidades de c\u00e1lculo. La RTX 5090 alcanza aqu\u00ed 1,79 TB\/s, un 78 por ciento m\u00e1s que la RTX 4090 con alrededor de 1 TB\/s. Para modelos que caben completamente en la VRAM, esto se traduce directamente en una generaci\u00f3n de tokens m\u00e1s r\u00e1pida. La RTX 5090 logra 185 tokens por segundo en modelos de 8B, la RTX 4090 est\u00e1 en 128. En modelos de 70B en Q4, la RTX 5090 entrega entre 15 y 20 tokens por segundo, lo cual es suficiente para aplicaciones de chat interactivas.<\/p>\n La RTX 5090 se basa en la arquitectura Blackwell de NVIDIA, fabricada en el proceso TSMC 4NP. 21.760 n\u00facleos CUDA, 680 Tensor Cores de quinta generaci\u00f3n, 32 GB GDDR7 en un bus de 512 bits. El precio oficial es de alrededor de 1.742 euros, pero en la realidad, las tarjetas rara vez se encuentran por menos de 2.500 euros desde su lanzamiento en enero de 2025.<\/p>\n Para el trabajo local de IA, la RTX 5090 es la \u00fanica tarjeta de consumo que ejecuta modelos de 70B en cuantizaci\u00f3n Q4 completa sin desplazamiento. Esto la convierte en el equipo de referencia para desarrolladores que experimentan regularmente con grandes modelos de lenguaje. Llama 3 70B funciona de manera fluida, Whisper Large transcribe audio en tiempo real y Stable Diffusion XL genera im\u00e1genes en menos de 5 segundos.<\/p>\n El inconveniente: 575 vatios de TDP. Esto requiere una fuente de alimentaci\u00f3n adecuada (se recomienda al menos 1.000 vatios), una buena ventilaci\u00f3n del chasis y mayores costos de electricidad. A lo largo de un a\u00f1o, el consumo de electricidad con cuatro horas de uso diario se suma a unos 200 a 250 euros. Esto relativiza la ventaja de costo frente a las GPUs en la nube, pero no la elimina.<\/p>\n La RTX 4090 con 24 GB GDDR6X sigue siendo la opci\u00f3n m\u00e1s razonable para trabajos serios de inteligencia artificial local a principios de 2026. La tarjeta logra 128 tokens por segundo en modelos de 8B y 52 tokens por segundo en Llama 3.1 70B en Q4. Desde el lanzamiento de la RTX 5090, los precios de las nuevas RTX 4090 han ca\u00eddo a entre 1.400 y 1.600 euros. Los ejemplares usados est\u00e1n disponibles a partir de 1.100 euros.<\/p>\n 24 GB de VRAM son suficientes para la mayor\u00eda de los casos pr\u00e1cticos: los modelos de 8B y 13B funcionan sin problemas, los modelos de 30B en Q4 caben justo, y los de 70B requieren una cuantizaci\u00f3n agresiva en Q2 o descarga. Quien trabaje principalmente con modelos de hasta 30B, genere im\u00e1genes con Stable Diffusion XL o utilice Whisper para transcribir, no necesita los 32 GB de la RTX 5090. Los 24 GB de la RTX 4090 cubren esta necesidad completamente.<\/p>\n La RTX 3090 ofrece los mismos 24 GB de VRAM que la RTX 4090, pero con un rendimiento de c\u00e1lculo significativamente menor. En el mercado de segunda mano, se encuentra por entre 600 y 800 euros. La tasa de tokens en modelos de 8B es de aproximadamente 112 tokens por segundo, y en 70B Q4, de alrededor de 35 tokens por segundo. Esto es m\u00e1s lento que la 4090, pero suficiente para muchos flujos de trabajo.<\/p>\n El caso empresarial est\u00e1 claro: por un tercio del precio, se obtiene la misma capacidad de modelo. Quien no necesite una velocidad de inferencia m\u00e1xima, sino que utilice modelos de inteligencia artificial locales para procesamiento por lotes, transcripci\u00f3n f\u00fcra de l\u00ednea o experimentos ocasionales con LLM, se beneficiar\u00e1 m\u00e1s de una 3090 usada. El mayor consumo de energ\u00eda (350W TDP frente a 450W en la 4090) es negligible con un uso espor\u00e1dico.<\/p>\n Una nota sobre la durabilidad: las tarjetas de miner\u00eda, que a menudo se ofrecen usadas, no est\u00e1n necesariamente desgastadas, contrariamente a la opini\u00f3n generalizada. La miner\u00eda somete las GPU a una carga constante y moderada con temperaturas estables. Esto es menos estresante que las sesiones de juego con cambios constantes de carga. Sin embargo, se recomienda una tarjeta con un historial comprobable y, idealmente, con garant\u00eda restante.<\/p>\n La RX 7900 XTX de AMD ofrece 24 GB de VRAM por menos de 900 euros y es, por lo tanto, la tarjeta con mejor relaci\u00f3n VRAM-euro en la oferta actual. El rendimiento de inferencia es de aproximadamente 78 tokens por segundo en Llama 3 8B. Esto es m\u00e1s lento que las tarjetas de NVIDIA, pero suficiente para muchos flujos de trabajo.<\/p>\n La restricci\u00f3n radica en el ecosistema de software. CUDA domina el panorama de la inteligencia artificial. La mayor\u00eda de los frameworks est\u00e1n optimizados para NVIDIA. ROCm, el equivalente de AMD a CUDA, ha hecho progresos significativos en los \u00faltimos meses, pero a\u00fan no est\u00e1 al mismo nivel de compatibilidad. PyTorch funciona estable en ROCm, pero herramientas especializadas como TensorRT y algunos frameworks de cuantizaci\u00f3n requieren soluciones alternativas o no funcionan. Quien trabaje principalmente con Ollama y llama.cpp encontrar\u00e1 un entorno usable en AMD. Quien dependa del ecosistema completo de NVIDIA deber\u00eda quedarse con GeForce.<\/p>\n La pr\u00f3xima RX 9070 XT de AMD se basa en la nueva arquitectura RDNA-4 con un rendimiento de inteligencia artificial mejorado. Se espera que la tarjeta tenga 16 GB de VRAM, lo que la posiciona para modelos de hasta 13B. Como entrada de presupuesto en la inferencia de inteligencia artificial local, podr\u00eda ser interesante, aunque su utilidad pr\u00e1ctica depender\u00e1 de lo r\u00e1pido que evolucione el ecosistema ROCm. Para los desarrolladores que deben comprar hoy, la RX 7900 XTX es la opci\u00f3n segura de AMD.<\/p>\n Las GPU en la nube tienen un coste que var\u00eda entre 0,50 y 3,50 euros por hora, seg\u00fan el proveedor y el modelo. Una instancia con RTX 4090 en Lambda Labs cuesta aproximadamente 0,75 euros por hora, mientras que una A100 de 80 GB ronda los 2,00 euros. El hardware local implica un coste de adquisici\u00f3n inicial, pero no tiene tarifas recurrentes por alquiler.<\/p>\n El c\u00e1lculo del punto de equilibrio es sencillo: una RTX 4090 por 1.500 euros se amortiza tras unos 500 d\u00edas \u2013casi 1,5 a\u00f1os\u2013 si se utiliza 4 horas diarias al precio de la nube (0,75 \u20ac\/h). Si el uso es espor\u00e1dico, inferior a una hora diaria, la nube resulta m\u00e1s rentable. Quien trabaje varias horas al d\u00eda con modelos locales ahorra considerablemente con hardware propio. Adem\u00e1s, hay una ventaja clave en privacidad: la inferencia local evita que los datos vayan a la nube, elimina dependencias de API y no genera costes adicionales al aumentar el uso.<\/p>\n Un factor a menudo subestimado es la disponibilidad. Las instancias de GPU en la nube no siempre est\u00e1n disponibles inmediatamente, especialmente con modelos populares como la A100 o la H100. Esperas de minutos a horas no son infrecuentes. El hardware local est\u00e1 siempre listo, sin tiempos de aprovisionamiento. Para equipos de desarrollo que experimentan de forma iterativa con distintos modelos y necesitan ciclos r\u00e1pidos de retroalimentaci\u00f3n, este aspecto es clave para la productividad.<\/p>\n El an\u00e1lisis del coste total de propiedad (TCO) a tres a\u00f1os: una RTX 4090 cuesta 1.500 euros de compra m\u00e1s unos 400 euros en electricidad con un uso diario de 4 horas. El equivalente en la nube, con el mismo uso, ser\u00eda 0,75 \u20ac \u00d7 4 horas \u00d7 365 d\u00edas \u00d7 3 a\u00f1os = 3.285 euros. La opci\u00f3n local ahorra alrededor de 1.400 euros en tres a\u00f1os. La RTX 5090, con un coste inicial m\u00e1s elevado, se amortiza tras unos dos a\u00f1os, pero luego genera ahorros a\u00fan mayores.<\/p>\n \n”<\/span><\/p>\n La pregunta no es si la inferencia local en IA merece la pena, sino a partir de cu\u00e1ndo. Cuatro horas diarias de uso de GPU son el punto de inflexi\u00f3n. Por debajo, la nube es m\u00e1s barata. Por encima, el hardware local reduce costes, y cada mes que pasa el ahorro es mayor.<\/p>\n<\/blockquote>\n<\/figure>\n Para desarrolladores que usan Llama 3 8B o modelos comparables para autocompletado de c\u00f3digo o chat, una tarjeta con 16 GB de VRAM es suficiente. La RTX 4070 Ti Super (16 GB), desde 650 euros, es aqu\u00ed el punto \u00f3ptimo. Whisper funciona en tiempo real localmente, Stable Diffusion genera im\u00e1genes en un tiempo aceptable y los LLM m\u00e1s peque\u00f1os responden con fluidez.<\/p>\n Quien trabaje habitualmente con modelos de 30B a 70B o mantenga configuraciones con m\u00faltiples modelos necesitar\u00e1 24 GB de VRAM. Las opciones son la RTX 4090 (nueva o usada) o la AMD RX 7900 XTX. La 4090 es m\u00e1s r\u00e1pida, la AMD m\u00e1s econ\u00f3mica.<\/p>\n Para usuarios avanzados que quieran ejecutar modelos de 70B localmente sin compromisos de cuantizaci\u00f3n o que trabajen con varios modelos en paralelo, la RTX 5090 con 32 GB es la \u00fanica opci\u00f3n disponible para consumidores. Quien necesite m\u00e1s VRAM deber\u00e1 recurrir a tarjetas profesionales como la NVIDIA A6000 (48 GB) o a Macs con Apple Silicon y memoria unificada. Un MacBook Pro M5 Max con 128 GB de memoria unificada podr\u00eda cargar te\u00f3ricamente modelos de hasta 405B, aunque con una velocidad de inferencia claramente inferior a la de una GPU dedicada.<\/p>\n Un consejo pr\u00e1ctico para equipos: no todos los desarrolladores necesitan una GPU de gama alta. Una configuraci\u00f3n de equipo con una o dos RTX 4090\/5090 como servidores compartidos de inferencia (mediante Ollama o vLLM en red) y estaciones de trabajo est\u00e1ndar para el trabajo diario suele ser m\u00e1s eficiente econ\u00f3micamente que equipar cada puesto con una tarjeta de gama alta. Esto ahorra presupuesto, centraliza la gesti\u00f3n de las GPU y simplifica las actualizaciones. Los modelos se actualizan una vez en el servidor central, en lugar de en cada estaci\u00f3n individual.<\/p>\n S\u00ed, pero con limitaciones. Con cuantizaci\u00f3n Q4, Llama 3 70B necesita unos 40 GB. En una tarjeta de 24 GB, parte del modelo se desplaza al RAM de la CPU (Offloading), lo que reduce la velocidad de inferencia a 5-10 tokens por segundo. Esto es l\u00edmite para uso interactivo, pero aceptable para procesamiento por lotes.<\/p>\n<\/details>\n En principio, s\u00ed. El mining mantiene las GPUs a una carga constante y moderada, lo cual es menos exigente que el gaming con cambios constantes de carga. Una RTX 3090 usada de mining ofrece 24 GB de VRAM por 600 a 800 Euros. Aseg\u00farate de comprobar su origen, garant\u00eda restante y realizar un test de estr\u00e9s antes de comprar.<\/p>\n<\/details>\n Para modelos peque\u00f1os de hasta 7B par\u00e1metros en cuantizaci\u00f3n Q4, s\u00ed. Llama 3 8B funciona con cuantizaci\u00f3n agresiva en 8 GB. Whisper Small tambi\u00e9n. Para trabajos serios con modelos m\u00e1s grandes, generaci\u00f3n de im\u00e1genes o configuraciones multi-modelo, 8 GB no son suficientes. 16 GB deber\u00edan ser el m\u00ednimo.<\/p>\n<\/details>\n Para inferencia, s\u00ed, con limitaciones. Apple Silicon usa Unified Memory, compartida entre CPU y GPU. Un M5 Max con 128 GB puede cargar modelos muy grandes te\u00f3ricamente. Sin embargo, la velocidad de inferencia es notablemente inferior a una GPU NVIDIA dedicada debido a la menor banda ancha de memoria. Es una soluci\u00f3n pr\u00e1ctica para uso ocasional de LLM, pero no un sustituto para flujos de trabajo profesionales de IA.<\/p>\n<\/details>\n MacBook Pro M5 en prueba: Chip ARM contra Windows on ARM<\/a><\/p>\n La IA serverless est\u00e1 sobrevalorada: aqu\u00ed est\u00e1 lo que realmente importa<\/a><\/p>\n CES 2026: Las novedades tecnol\u00f3gicas m\u00e1s emocionantes para profesionales de IT<\/a><\/p>\n<\/div>\nLo m\u00e1s importante en resumen<\/h2>\n
\n
Por qu\u00e9 VRAM es m\u00e1s importante que TFLOPS<\/h2>\n
NVIDIA RTX 5090: La referencia con 32 GB<\/h2>\n
RTX 4090: La mejor relaci\u00f3n calidad-precio<\/h2>\n
Consejo de presupuesto: RTX 3090 usada por menos de 800 euros<\/h2>\n
Alternativa AMD: RX 7900 XTX con 24 GB<\/h2>\n
GPU en la nube frente a hardware local: la ecuaci\u00f3n FinOps<\/h2>\n
Recomendaci\u00f3n seg\u00fan caso de uso<\/h2>\n
Preguntas frecuentes<\/h2>\n
\u00bfPuedo ejecutar un modelo 70B en una tarjeta de 24 GB?<\/strong><\/summary>\n
\u00bfVale la pena una GPU de miner\u00eda usada para inferencia de IA?<\/strong><\/summary>\n
\u00bfSon suficientes 8 GB de VRAM para modelos locales de IA?<\/strong><\/summary>\n
\u00bfEs un Mac con Apple Silicon una alternativa a una GPU dedicada?<\/strong><\/summary>\n
Lecturas recomendadas<\/h2>\n
M\u00e1s del MBF Media Netzwerk<\/h2>\n