Gardez le contrôle sur les usages de l’IA en entreprise avec Vivien Mura (1/2)

L'essentiel de votre hack'tu cybersécurité

• L'intelligence artificielle (IA) se démocratise, notamment en entreprise et porte avec elle des promesses d'automatisation et de productivité mais aussi des risques à identifier et à maîtriser ; 
• Plusieurs risques majeurs sont identifiés par Orange Cyberdefense : l'émergence de l'IA  et particulièrement de l'IA agentique et des capacités d'automatisation représentent une nouvelle surface d'attaque ; des risques d'exploitation malveillante d'IA chercheuses de failles, comme l'illustre l'actualité concernant Claude Mythos ; le « Shadow AI », usage non encadré des plateformes publiques d'IA pose un problème de confidentitialité des données pour les entreprises ; 
• En défense, l'IA est aussi une opportunité pour développer une détection des menaces plus proactive. Chez Orange Cyberdefense, l'année 2025 a notamment été marquée par l'intégration de la solution Qevlar AI pour automatiser le traitement des alertes et optimiser le temps d'analyse et de remédiation des experts en cas d'incident positif. Face à une menace explosive, il devient en effet crucial de pouvoir raccourcir drastiquement le temps de traitement des vulnérabilités et des événements de sécurité. Les capacités de recherche de vulnérabilité par l'IA sont également une chance pour sécuriser le développement de logiciels qui constituent le socle de notre écosystème numérique. 

L'intelligence artificielle, entre promesses et risques à adresser

En mars dernier, Vivien Mura, Chief Technology Officer d’Orange Cyberdefense expliquait les risques inhérents à la démocratisation de l’intelligence artificielle au micro de Jérôme Colombain pour le site Monde Numérique. 

Démocratisation des plateformes IA : quels sont les risques ?

Les plateformes IA ont connu un formidable essor en l’espace de quatre petites années. De plus en plus plébiscitées, notamment par les entreprises, elles représentent des promesses en matière d'automatisation des tâches et de productivité, mais aussi des failles qu’il faut anticiper, connaître et maîtriser. Au cours de son interview récente pour le site Monde Numérique de Jérôme Colombain, Vivien Mura a identifié trois risques de cybersécurité émergents liés à l’IA : 

• L'accélération de l'IA agentique - ou « Agentic AI » - représente un sérieux défi.
  Au-delà de la promesse d'automatisation, cibler le pilote automatique d'un nombre croissant de ressources risques de geler de nombreuses composantes de l'activité d'une entreprise et/ou de ses partenaires et clients. 

Il y a une course à l’automatisation des workflows. Plus ces systèmes d’automates ont des accès privilégiés aux données et aux systèmes, plus cela représente un chemin de compromission intéressant pour les attaquants. Vivien Mura, CTO d'Orange Cyberdefense.

• L’IA favorise l'industrialisation des cyberattaques
  Au-delà des possibilités offertes par l'IA pour l'ingénierie sociale (phishing élaboré, deep fake), l'usage de l'IA risque de rendre accessible le développement et la multiplication de scénarios d'attaques complets, des phases de recherche de vulnérabilités aux phases d'exfiltration de données ou de sabotage. 
   
• L'usage d'une IA publique en entreprise : quid de la confientialité des données ? 
  L’usage de plateformes non encadrées par le département IT de l’entreprise - que l’on nomme Shadow AI - pose la question de la sécurisation des données propres à l’organisation. Quid de la porosité de ces plateformes quant aux informations stratégiques et sensibles, du stockage des données et donc de leur confidentialité ? 

L'IA entre gouvernance adaptée et opportunité pour la cybersécurité

Identifier ces risques via la sensibilisation, faire appel aux experts cyber pour sécuriser les systèmes d'IA, s'appuyer sur des IA bien encadrées - comme « Live Intelligence »  proposée par le groupe Orange - et intégrer les capacités de traitement de l’IA côté défense, font partie des réponses que l’on peut apporter aujourd’hui aux entreprises pour leur permettre d’exploiter sereinement les promesses de cette innovation majeure.

A l'heure où Claude Mythos, le module du LLM d'Anthropic dédié à la cybersécurité, a permis de déceler des failles dans des outils que l'on pensait bien sécurisés, il est impératif d'intégrer l'IA en défense pour rendre la détection des failles et des alertes plus proactives. 

Chez Orange Cyberdefense, nous avons intégré Qevlar AI dans nos SOC en 2025 pour automatiser le traitement et la qualification des alertes, une tâche habituellement chronophage. Grâce à Qevlar AI, nos experts vont pouvoir se consacrer à des tâches à plus forte valeur ajoutée pour le client, précise Vivien Mura.  

En attendant la seconde partie de notre série sur les enjeux de cybersécurité à l'ère de l'IA, retrouvez l'intégralité de l'interview de Vivien Mura en vidéo pour le Monde Numérique en fin d'actu. Et pour adopter la gouvernance la plus adaptée à votre organisation en matière d'IA, le second numéro de notre revue « Ctrl » consacrée à l'intelligence artificielle est accessible via l'encart ci-dessous.