7 min de lectura<\/p>\n
Google ha lanzado con Gemma 4 cuatro modelos de c\u00f3digo abierto que funcionan en hardware de consumo y alcanzan en los benchmarks a modelos significativamente m\u00e1s grandes. Para las arquitecturas en la nube, esto desplaza el l\u00edmite entre Edge y Cloud, haciendo por primera vez realista el despliegue h\u00edbrido de IA a gran escala.<\/strong><\/p>\n La familia Gemma de Google siempre estuvo orientada al funcionamiento local. Con la cuarta generaci\u00f3n, Google contin\u00faa firmemente esta l\u00ednea, ofreciendo modelos que marcan nuevos est\u00e1ndares en su categor\u00eda de tama\u00f1o.<\/p>\n Las cuatro variantes en resumen:<\/p>\n Los dos modelos m\u00e1s peque\u00f1os (E2B, E4B) utilizan Per-Layer Embeddings (PLE), una t\u00e9cnica que asigna embeddings de tokens propios a cada capa del decodificador. El resultado: tablas de embeddings grandes, pero consumo m\u00ednimo de RAM en tiempo de inferencia. Google ha optimizado estos modelos junto con Qualcomm y MediaTek para su funcionamiento en smartphones, Raspberry Pi y Nvidia Jetson Orin Nano. Contexto de 128K tokens, multimodal incluyendo entrada de audio.<\/p>\n Los dos modelos m\u00e1s grandes apuntan a estaciones de trabajo y servidores locales. El modelo 26B-MoE activa solo 4 mil millones de par\u00e1metros por paso de inferencia, con una calidad casi equivalente al modelo denso de 31B. Ambos soportan un contexto de 256K tokens y procesan de forma nativa v\u00eddeo, im\u00e1genes y datos estructurados.<\/p>\n Los resultados de los benchmarks son notables para un modelo de este tama\u00f1o. En el Arena AI Text Leaderboard, Gemma 4 31B alcanza una puntuaci\u00f3n ELO de 1452, ocupando el tercer puesto entre todos los modelos abiertos, detr\u00e1s de GLM-5 y Kimi K2.5, que requieren m\u00faltiples veces m\u00e1s par\u00e1metros.<\/p>\n En detalle: MMLU 85,2%, AME 2026 en 89%, LiveCodeBench 80%, T2 Bench 86% y GPQA Diamond 84,3%. En Tool Calling, un criterio clave para flujos de trabajo automatizados, el modelo de 31B obtiene un resultado perfecto en pruebas independientes.<\/p>\n El punto de comparaci\u00f3n relevante para despliegues locales: Qwen 3.5 de Alibaba ofrece valores similares en los benchmarks, pero requiere 397 mil millones de par\u00e1metros con 17 mil millones activos. Esto no es ejecutable en hardware de consumo. Gemma 4 31B funciona en una \u00fanica GPU con 24 GB de VRAM, suficiente con una RTX 4090 o modelo comparable.<\/p>\n Gemma 4 est\u00e1 disponible a trav\u00e9s de todos los frameworks de inferencia habituales: Ollama, LM Studio, llama.cpp, MLX (para Apple Silicon), vLLM y Nvidia NIMs. As\u00ed, la barrera de entrada para su uso local es ahora m\u00e1s baja que nunca.<\/p>\n Para el modelo 31B en cuantizaci\u00f3n Q4, se debe contar con aproximadamente 18-20 GB de VRAM. El modelo E4B funciona sin problemas en una GPU con 8 GB o directamente en el smartphone. La velocidad de inferencia depende del framework elegido y del nivel de cuantizaci\u00f3n; primeras pruebas comunitarias reportan entre 15 y 25 tokens por segundo en una RTX 4090 para el modelo de 31B.<\/p>\n \n”<\/span><\/p>\n Los modelos de c\u00f3digo abierto se vuelven m\u00e1s peque\u00f1os, mejores y m\u00e1s r\u00e1pidos. Esta es la raz\u00f3n por la que soy tan optimista respecto al Edge Compute: este modelo h\u00edbrido entre modelos avanzados alojados para las tareas m\u00e1s dif\u00edciles y la inferencia local para la mayor\u00eda de las cargas de trabajo.<\/p>\nLo m\u00e1s importante en resumen<\/h2>\n
\n
Cuatro modelos, un objetivo: llevar la IA del centro de datos al escritorio<\/h2>\n
Benchmarks: \u00bfD\u00f3nde se sit\u00faa realmente Gemma 4?<\/h2>\n
Funcionamiento local: \u00bfQu\u00e9 se necesita concretamente?<\/h2>\n