Approche d’IA fédérée plutôt que modèle unique : Zoom et NVIDIA redéfinissent l’usage de l’IA en entreprise

En bref (EB) : Zoom et NVIDIA redéfinissent les fondements techniques de l’IA en entreprise. Au cœur de cette évolution figure une architecture fédérée qui combine intelligemment des modèles linguistiques spécialisés, des modèles de raisonnement performants et une infrastructure accélérée par GPU…

Zoom et NVIDIA redéfinissent les fondements techniques de l’IA en entreprise. Au centre se trouve une architecture fédérée qui associe intelligemment des modèles linguistiques spécialisés, des modèles de raisonnement puissants et une infrastructure accélérée par GPU. Objectif : réduire la latence, maîtriser les coûts et déployer des fonctionnalités IA évolutives dans des environnements d’entreprise soumis à une réglementation stricte.

En étendant sa plateforme IA AI Companion, Zoom opère une rupture claire avec les piles monolithiques d’IA. Plutôt que d’utiliser un seul grand modèle linguistique (Large Language Model, LLM) pour toutes les tâches, Zoom orchestre désormais plusieurs classes de modèles au sein d’une architecture fédérée. Chaque requête est ainsi attribuée au modèle techniquement le mieux adapté à l’exigence spécifique.

Les tâches simples et critiques en termes de latence – comme la transcription, la traduction ou la génération de résumés – s’exécutent sur des petits modèles linguistiques (Small Language Models, SLM) propriétaires. Les tâches complexes nécessitant un haut niveau de raisonnement sont transférées à un LLM finement ajusté.

NVIDIA Nemotron comme fondation

Le cœur de cette extension réside dans l’intégration de la technologie ouverte NVIDIA Nemotron. Zoom l’utilise comme base pour développer son propre LLM de quarante-neuf milliards de paramètres, conçu à l’aide des outils NeMo de NVIDIA. L’accent n’est pas mis sur la taille maximale du modèle, mais sur un équilibre techniquement optimisé entre précision, charge de calcul et coûts.

Grâce à cette architecture ouverte, Zoom peut intégrer dynamiquement à la fois ses propres modèles et des services IA externes. Pour les entreprises, cela signifie une plus grande indépendance technologique ainsi que la possibilité d’adapter de manière flexible les charges de travail IA aux exigences réglementaires, économiques ou opérationnelles.

Accélération GPU et réduction des latences

Un levier technique essentiel est l’intégration profonde avec la pile logicielle et matérielle GPU de NVIDIA. L’accélération des processus d’inférence réduit sensiblement les temps de réponse de l’AI Companion. Parallèlement, les cycles de développement peuvent être raccourcis, car les nouvelles fonctionnalités deviennent rapidement exploitables sur le marché.

Précisément dans les scénarios collaboratifs – tels que les réunions ou les chats en direct – une faible latence est décisive. La nouvelle architecture répond à ce défi de façon systémique, non seulement au niveau applicatif, mais directement au cœur même de l’IA.

RAG et intégration système dans le contexte d’entreprise

Un autre axe technique majeur concerne la génération augmentée par recherche (Retrieval-Augmented Generation, RAG). La nouvelle architecture accélère l’accès aux sources de connaissances externes et aux systèmes métiers. L’AI Companion peut ainsi traiter de façon contextuelle des contenus provenant de plateformes telles que Microsoft 365, Google Workspace, Slack, Salesforce ou ServiceNow, sans avoir besoin de répliquer durablement les données. Ainsi, l’usage de l’IA évolue depuis des fonctions d’assistance isolées vers une couche de travail intégrée, qui respecte et complète les paysages systèmes existants.

Cette architecture fédérée est explicitement conçue pour les secteurs caractérisés par des exigences élevées en matière de conformité. Les secteurs financier, de la santé et de l’administration publique bénéficient du fait que les données sensibles ne doivent pas nécessairement être transférées de façon globale vers un modèle externe. À la place, l’architecture prend des décisions granulaires quant au lieu et à la manière dont les données sont traitées. Zoom se positionne ainsi clairement, sur le plan technique, pour des scénarios où la protection des données, la souveraineté des données et des flux de travail IA contrôlables priment sur la taille maximale du modèle.

Un changement de paradigme pour l’usage de l’IA en entreprise

La collaboration entre Zoom et NVIDIA illustre la direction prise par l’IA en entreprise : elle évolue vers des architectures modulaires, contrôlables et optimisées en termes de performances, loin du modèle « tout-en-un ». L’approche d’IA fédérée de Zoom devient ainsi un principe de conception central pour une IA évolutive et responsable en milieu professionnel.

Source de l’image : Cloudmagazin / générée par IA

Questions fréquentes