Alignement plutôt que cauchemar : comment la sécurité de l’IA devient un facteur de succès

Imaginez que votre entreprise confie demain la moitié de toutes ses tâches routinières à une Intelligence Artificielle (IA). Alléchant – jusqu’à ce qu’un chatbot publie par inadvertance des contrats confidentiels ou qu’un agent autonome supprime de sa propre initiative une base de données de test. Que l’IA accélère votre croissance ou devienne un boomerang dépend de votre sécurité IA, comme l’explique Benjamin Eidam, consultant en IA, conférencier et keynote speaker, dans son article.

• 78 % des entreprises interrogées dans le monde utilisent déjà l’IA ou prévoient de le faire
• Les entreprises qui combinent l’automatisation de la sécurité avec l’IA réduisent en moyenne de 2,2 millions $ les coûts par violation de données
• Rien qu’en juin 2024, la base de données AI Incident Database a enregistré 37 nouveaux types de dommages – des deepfakes aux biais algorithmiques

En résumé : de plus en plus de personnes dans les entreprises utilisent l’IA, et celle-ci peut indéniablement rendre beaucoup de choses plus sûres. Mais elle peut aussi causer des dommages de plus en plus nombreux et variés.

Dans cet article, nous examinons de manière exemplaire deux perspectives qui, nous l’espérons, vous donneront une première impression solide du thème de la sécurité de l’IA en entreprise.

Deux pièges de connaissance qui peuvent toucher tout le monde (y compris vous !)

Nous connaissons tous ce scénario : on utilise une IA, on se réjouit des résultats rapides – et on oublie facilement ce qui se passe en arrière-plan. C’est précisément à ce moment-là que des erreurs critiques peuvent passer inaperçues. À ce propos, un vieux proverbe dit : L’ignorance ne protège pas de la sanction. Deux exemples concrets montrent comment un manque de connaissances sur l’IA peut entraîner de sérieux problèmes :

1. L’étiquette enjolivée comme élément décisif

« Agentic AI » – une IA qui prend en charge de manière autonome des tâches complexes – est considéré comme le nouveau mot à la mode de 2025. Pas étonnant : en l’espace de cinq ans, les systèmes d’IA sont passés de tâches réalisées en une seconde à des activités pour lesquelles un humain aurait besoin aujourd’hui d’une heure entière. Cela semble impressionnant. Ce qui est souvent passé sous silence : cette IA miracle ne livre pas ses succès de manière fiable. Selon l’une des méthodes de mesure les plus courantes, elle n’accomplit ses tâches que dans environ la moitié des cas. Pourtant, c’est précisément cela qui est vendu comme un succès.

Un employé qui n’accomplit que 50 % de son travail ne reçoit pas de bonus – mais un entretien clarificateur avec le service des ressources humaines.

Le problème réside dans l’échelle : l’IA est souvent évaluée avec « pass@k » (« A-t-elle réussi au moins une fois sur k tentatives ? »). Parfait pour les prototypes, mais souvent catastrophique en production. Une IA vraiment opérationnelle nécessite « pass^k » – des succès fiables à chaque exécution. Il est clair que l’IA atteindra probablement bientôt 99 %+ au lieu de, par exemple, la moitié comme aujourd’hui. Cependant, pour l’instant, nous sommes encore souvent – du moins avec les agents – en mode jeu de hasard.

Alors, attention : vérifiez la fiabilité réelle, pas les coups de chance.

2. L’illusion RAG : « Mes PDF ne mentent pourtant pas… »

 Retrieval-Augmented Generation (RAG) semble être la garantie de réponses correctes – après tout, les informations proviennent directement de vos propres documents. Mais la réalité est plus trompeuse : le modèle d’IA doit intégrer tout ce qui est important dans une fenêtre de contexte limitée – et cela ne fonctionne pas toujours. Le test « Needle in a Haystack » montre par exemple que, même si la phrase correcte est présente, l’IA peut purement et simplement l’ignorer – surtout dans les contextes longs ou avec un positionnement maladroit. Des détails de prompt qui semblent à première vue sans importance décident soudainement de la différence entre un taux de réussite de 27 % ou de 98 %. Un LLM peut donc avoir le paragraphe correct sous les yeux – et se tromper complètement. Ici aussi, la règle s’applique : la confiance est bonne – mais le prompting structuré et l’évaluation ciblée sont meilleurs. Et indispensables dès qu’il s’agit d’argent et/ou de vies humaines.

Ce exemple montre à quel point un manque de connaissances au mauvais endroit peut être dangereux – comme l’erreur de croire que la fourchette et la prise électrique font bon ménage. Et tout comme dans cet exemple littéralement choquant, une compréhension minimale aide également à éviter les erreurs grossières avec l’IA. Ce qui nous amène à la deuxième catégorie :

Scénarios de dommages qu’il vaut mieux éviter

L’ignorance est une chose – un dommage ciblé de l’extérieur en est une tout autre. Les systèmes d’IA offrent une multitude de vecteurs d’attaque possibles. Il ne s’agit pas ici de les examiner tous en détail, mais de prendre conscience de leur potentiel et de permettre ainsi des décisions éclairées. Jetons un coup d’œil à deux exemples :

1. L’appel deepfake au patron

Plus d’autonomie signifie plus de surface d’attaque – un défi pour la sécurité de l’IA. Source de l’image : Benjamin Eidam.

Avec seulement trois secondes d’enregistrement original, des outils comme Microsoft VALL‑E peuvent cloner une voix de manière étonnamment réaliste. Pour compliquer les choses, des études montrent que les humains ne détectent ces faux audio que dans environ 30-50 % des cas, selon le contexte. En juillet 2025, même le secrétaire d’État américain Marco Rubio est tombé dans le piège d’un escroc qui s’est fait passer pour Rubio auprès de plusieurs collègues en utilisant un imitateur vocal IA. Un seul appel d’autorisation falsifié suffit pour déplacer des millions. Solution possible pour éviter cela : des « catch-phrases » individuelles qui montrent rapidement et sans équivoque que vous êtes bien la personne qui appelle. Par exemple : Mon premier hamster Manfred avait des yeux qui brillaient comme des diamants. Ou simplement des « mots de passe » uniques dans la conversation spécifique, comme gratin de brocoli (si vous ne parlez pas à un marchand de légumes). Clarifiez cela à l’avance, entraînez-vous brièvement, et vous aurez une sécurité contre les deepfakes audio.

2. Agents autonomes, erreurs autonomes

Chaque étape supplémentaire qu’un agent peut franchir sans surveillance multiplie considérablement la surface d’attaque. Non seulement l’écriture peut mal tourner, mais aussi la recherche autonome sur Internet, l’interaction avec d’autres logiciels ou l’intégration des résultats dans vos propres systèmes – et dans de nombreuses autres situations où un agent agit de manière autonome. En pratique, cela signifie que les systèmes agentiques peuvent fonctionner – et souvent de manière impressionnante, comme le montre par exemple Genspark . Mais plus un système agit de manière autonome, plus il doit être testé de manière approfondie, profonde et répétée – encore et encore. Sinon, on se construit une roulette russe en version logicielle.

Que faire à partir d’ici ?

Savoir simplement que la sécurité de l’IA n’est pas un sujet marginal, mais comporte des risques très réels, c’est déjà la moitié du chemin – la fameuse awareness. L’autre moitié ? Agir – avec discernement, pas par panique.

Comprendre pourquoi ce thème est crucial (parce que sinon des données sensibles, des budgets ou des processus commerciaux entiers sont en danger) permet de prendre des contre-mesures ciblées : remettre en question les processus, sécuriser les systèmes, sensibiliser les équipes – et surtout, se former en continu.

Ainsi, vous pouvez adapter votre quotidien professionnel pour exploiter en toute sécurité les opportunités de l’IA, sans prendre de risques inutiles.

Source de l’image : Benjamin Eidam

Pour aller plus loin sur cloudmagazin.com

• DevSecOps : la sécurité comme composante intégrale du développement cloud
• Approche Federated-AI au lieu d’un modèle unique : Zoom et NVIDIA restructurent l’utilisation de l’IA en entreprise
• Les dépenses en sécurité informatique en Allemagne augmentent à deux chiffres

Pour en savoir plus : Autres articles sur mybusinessfuture