Enfoque de IA federada en lugar de modelo único: Zoom y NVIDIA redefinen la implementación de la IA empresarial

Lo más importante en resumen (LIR): Zoom y NVIDIA están redefiniendo la base técnica de la IA empresarial. En el centro se encuentra una arquitectura federada que combina inteligentemente modelos especializados de lenguaje, potentes modelos de razonamiento y una infraestructura acelerada por GPU…

Zoom y NVIDIA están redefiniendo la base técnica de la IA empresarial. En el centro se encuentra una arquitectura federada que combina inteligentemente modelos especializados de lenguaje, potentes modelos de razonamiento y una infraestructura acelerada por GPU. El objetivo: menor latencia, costes controlados y funciones de IA escalables para entornos empresariales regulados.

Con la ampliación de su plataforma de IA AI Companion, Zoom adopta una clara ruptura con las pilas monolíticas de IA. En lugar de emplear un único modelo de lenguaje de gran tamaño (LLM) para todas las tareas, Zoom orquestará a partir de ahora varias clases de modelos dentro de una arquitectura federada. Cada consulta se asignará al modelo que técnicamente mejor se adapte a los requisitos específicos de dicha tarea.

Tareas sencillas y críticas desde el punto de vista de la latencia – como la transcripción, la traducción o la generación de resúmenes – se ejecutarán sobre pequeños modelos de lenguaje (SLM) propietarios. Las tareas complejas que requieren un mayor nivel de razonamiento se derivarán a un modelo de lenguaje de gran tamaño finamente ajustado.

NVIDIA Nemotron como base

El núcleo de esta ampliación es la integración de la tecnología abierta NVIDIA Nemotron. Zoom la utiliza como base para desarrollar su propio LLM de cuarenta y nueve mil millones de parámetros, creado con las herramientas NeMo de NVIDIA. El enfoque no radica en alcanzar el tamaño máximo posible del modelo, sino en lograr un equilibrio técnicamente optimizado entre precisión, demanda computacional y costes.

Gracias a su arquitectura abierta, Zoom puede integrar dinámicamente tanto sus propios modelos como servicios externos de IA. Para las empresas, esto supone una mayor independencia tecnológica y la posibilidad de adaptar de forma flexible las cargas de trabajo de IA a requisitos regulatorios, económicos u operativos concretos.

Aceleración mediante GPU y reducción de la latencia

Un factor técnico clave es la profunda integración con la pila de hardware y software de GPU de NVIDIA. La aceleración de los procesos de inferencia reduce de forma notable los tiempos de respuesta del AI Companion. Al mismo tiempo, se acortan los ciclos de desarrollo, ya que las nuevas funciones pueden llegar al mercado más rápidamente.

Precisamente en escenarios colaborativos como reuniones o chats en tiempo real, una baja latencia resulta decisiva. La nueva arquitectura aborda este desafío de forma sistemática, no solo a nivel de aplicación, sino directamente en el núcleo de la IA.

RAG e integración sistémica en el contexto empresarial

Otro foco técnico importante reside en la generación aumentada mediante recuperación (Retrieval-Augmented Generation, RAG). La nueva arquitectura acelera el acceso a fuentes externas de conocimiento y a sistemas empresariales. El AI Companion puede procesar contextualmente contenidos procedentes de plataformas como Microsoft 365, Google Workspace, Slack, Salesforce o ServiceNow, sin necesidad de replicar de forma permanente los datos. Así, el uso de la IA evoluciona desde funciones aisladas de asistencia hacia una capa de trabajo integrada que respeta y complementa los entornos de sistemas existentes.

Esta arquitectura federada está explícitamente diseñada para sectores con elevados requisitos de cumplimiento normativo. El sector financiero, el ámbito sanitario y la administración pública se benefician del hecho de que los datos sensibles no deban fluir de forma generalizada hacia un modelo externo. En su lugar, la arquitectura toma decisiones granulares sobre dónde y cómo se procesan los datos. Zoom se posiciona así técnicamente con claridad para escenarios en los que la protección de datos, la soberanía de los datos y los flujos de trabajo de IA controlables son más importantes que el tamaño máximo del modelo.

Un cambio de paradigma en la implementación de la IA en el entorno empresarial

La colaboración entre Zoom y NVIDIA muestra hacia dónde se dirige la IA empresarial: lejos del modelo todo-en-uno y hacia arquitecturas modulares, controlables y optimizadas en términos de rendimiento. El enfoque de IA federada de Zoom se convierte así en un principio de diseño central para una IA escalable y responsable en el entorno empresarial.

Fuente de imagen: Cloudmagazin / Generada por IA

Preguntas frecuentes