Scheele, dirigeant de Kubermatic : exploiter les modèles d’IA comme des logiciels
Changer de modèle peut perturber les processus d’IA. Les équipes plateforme ont besoin de responsabilités claires pour les mises à jour.
Dans certaines entreprises, les équipes d’IA financent leur propre plateforme, tandis que l’expérience nécessaire pour l’exploiter durablement se trouve dans d’autres équipes. Sebastian Scheele, dirigeant de Kubermatic, plaide donc pour associer les équipes plateforme existantes à l’exploitation des modèles.
L’essentiel en bref
- Les modèles ont un cycle de vie. Sebastian Scheele demande des versions gérées selon un processus défini et le remplacement contrôlé des anciennes versions.
- L’exploitation des modèles exige des responsabilités claires. Les équipes plateforme existantes peuvent apporter leur expérience des conteneurs à l’infrastructure d’IA.
- L’utilisation des ressources suit les flux de travail. Les traitements par lots qui peuvent être différés permettent d’utiliser la capacité disponible la nuit. L’utilité du résultat reste déterminante.
À lire aussi :MLOps dans le cloud : Déployer de façon fiable des modèles d’apprentissage automatique en production / Petits modèles dévorant les budgets GPU par préallocation
Le travail d’exploitation commence dès le premier modèle
Sebastian Scheele considère l’IA locale comme une option réaliste pour les entreprises. Les modèles deviennent plus performants et moins coûteux à exploiter, explique le CEO et cofondateur de Kubermatic lors d’un entretien aux ContainerDays à Hambourg. Son exigence centrale est la suivante : « Je dois exploiter cela comme un logiciel. » Il met ainsi l’accent sur le travail qui suit l’installation.
Dans le processus qu’il décrit, une équipe acquiert du matériel puissant, installe un grand modèle et développe des processus qui s’appuient sur lui. Lorsqu’une nouvelle version paraît, ces applications doivent continuer à fonctionner. Un changement de modèle concerne donc aussi les équipes qui utilisent ses réponses dans leurs processus. L’exploitant doit connaître ces dépendances.
« J’ai vraiment besoin d’une gestion des versions et des déploiements de ces modèles. » Pour Scheele, cela comprend l’exploitation parallèle de plusieurs modèles, le déploiement de nouvelles versions et le retrait des anciennes. Il cite l’exemple d’une courte période de transition pour une équipe qui utilise encore une version antérieure. La durée nécessaire dépend des applications concernées.
// Définition
Qu’est-ce que la gestion des versions des modèles d’IA ? Il s’agit d’organiser l’exploitation des modèles après leur installation. Cela comprend l’exploitation parallèle de plusieurs modèles, le déploiement de nouvelles versions et le retrait des anciennes, avec une période de transition pour les équipes qui les utilisent encore.
Le budget d’IA ne remplace pas l’expérience d’exploitation
Selon Scheele, les équipes d’IA ou de développement ont souvent reçu le budget destiné à une plateforme. Mais l’expérience de son exploitation durable se trouve souvent ailleurs. Des environnements supplémentaires peuvent ainsi apparaître, dont la maintenance doit être organisée séparément de l’infrastructure existante.
Scheele plaide pour associer les équipes plateforme existantes. Elles exploitent déjà des conteneurs et peuvent examiner comment intégrer les charges de travail d’IA dans leur environnement. Les équipes métier et de développement utiliseraient alors les modèles mis à disposition, tandis que les équipes responsables de l’exploitation prendraient en charge l’infrastructure. « Cela reste simplement un logiciel à exploiter. »
Cette répartition des tâches rend aussi visible la maintenance des autres composants. Scheele décrit le rythme rapide des changements logiciels dans l’IA : certaines versions anciennes cessent de recevoir des développements ou des correctifs après quelques mois seulement. Pour l’exploitation, il faut savoir quels composants sont réellement utilisés et pendant combien de temps ils sont maintenus.
Les traitements nocturnes peuvent utiliser la capacité GPU disponible
En matière d’utilisation des ressources, Scheele relie l’infrastructure aux processus métier. Lorsque les développeurs utilisent leurs environnements pendant la journée, la charge augmente. Des tâches supplémentaires sans besoin de résultat immédiat peuvent éventuellement être décalées. Il cite le traitement par lots, c’est-à-dire des exécutions groupées sans interaction continue avec les utilisateurs, comme exemple de travail pouvant être effectué la nuit.
Cette décision suppose que l’exploitant connaisse les besoins des équipes. Certains résultats sont nécessaires chaque jour, d’autres chaque semaine ou chaque mois. Une analyse qui doit seulement être prête le lendemain matin n’a pas les mêmes contraintes horaires qu’une requête interactive. Cette distinction aide à utiliser le matériel disponible de manière plus régulière.
L’argument de Scheele concerne la planification : du matériel coûteux engendre des coûts même lorsqu’il ne fonctionne pas. La pertinence économique d’un traitement nocturne supplémentaire dépend aussi de ce qu’il produit.
L’utilité doit justifier l’exploitation du modèle
Scheele demande donc de comparer la consommation de tokens à la valeur du résultat. Un grand nombre de réponses générées ne constitue pas davantage une réussite qu’un GPU occupé en permanence. La question est de savoir si une exécution produit le résultat attendu ou si une autre formulation de la tâche serait utile.
Pour les équipes plateforme, il en découle un ensemble cohérent de responsabilités d’exploitation : connaître les équipes qui utilisent un modèle, savoir quand leur travail nécessite de la puissance de calcul et préserver la possibilité de changer de version. Une offre gérée de façon centralisée peut regrouper ces décisions. Les économies de capacité doivent être démontrées dans chaque environnement d’exploitation.
Questions fréquentes
Que signifie l’exploitation après l’installation ?
Les modèles et leur environnement logiciel nécessitent des mises à jour organisées, des responsabilités claires et un passage contrôlé des anciennes versions aux suivantes. Scheele décrit ce travail comme l’exploitation Day-2.
Quelles tâches d’IA conviennent aux traitements nocturnes ?
Des traitements par lots pouvant être différés, avec un délai suffisant avant que le résultat soit nécessaire. Ils ne peuvent pas remplacer les requêtes interactives.
Que dit le nombre de tokens sur l’utilité ?
Il décrit le volume de texte traité par un modèle. La pertinence économique d’une exécution sur le matériel dépend aussi de la capacité de son résultat à accomplir la tâche requise.
Tobias Massow a mené cet entretien le 3 septembre 2026 sur le stand de Kubermatic aux ContainerDays à Hambourg.
Sélection de la rédaction
cloudmagazinClaude Code fait désormais aussi tourner Qwen d’AlibabacloudmagazinTéléchargeable ne signifie pas exploitablecloudmagazinAWS laisse un agent d’IA chercher avec l’équipe en cas d’incidentPlus du réseau MBF Media
MyBusinessFutureQuand un modèle d’IA allemand devient rentableDigital ChiefsQuatre pierres d’achoppement : Pourquoi les projets d’IA échouent en productionSecurityTodaySASE et HTTPS vers les LLM : l’intention invisibleSource de l’image : générée par IA (septembre 2026), portrait : Kubermatic
Traduit de l’original allemand par intelligence artificielle. La version allemande fait foi.
