L’intelligence artificielle devient un sujet de gouvernance autant que de cybersécurité. Pression pour lancer des projets, nouveaux usages à encadrer, infrastructures à sécuriser, outils à consolider : les organisations cherchent à reprendre la main.
À l’occasion du Forum InCyber, Pierre de Neve, directeur du pôle public et défense chez TrendAI, la division BtoB de Trend Micro, revient sur les préoccupations qui remontent du terrain et sur les évolutions technologiques que son entreprise prépare.
Quelles tendances observez-vous actuellement chez les organisations que vous accompagnez ?
Pierre de Neve : Les sujets qui remontent le plus concernent aujourd’hui la gouvernance et l’IA, ou plus précisément la gouvernance de l’IA. Nous voyons une forte accélération et beaucoup de flou. Il y a un vrai “buzz” autour de l’IA, et cela crée une pression très forte, à la fois externe et interne. Dans beaucoup d’organisations, y compris dans des ministères régaliens, nous voyons apparaître des appels à projets. Les différentes business units, et pas seulement l’IT, doivent identifier des cas d’usage IA.
« Sur l’IA, il y a une forte accélération et beaucoup de flou »
Quand nous échangeons avec les équipes IT et Cyber, nous constatons qu’une partie importante de ces projets relève en réalité davantage de l’automatisation que de l’intelligence artificielle. Il faut donc déjà remettre de la visibilité sur ce qui est réellement fait avec l’IA. La première question, c’est : est-ce que l’organisation utilise déjà de l’IA ? Que font les utilisateurs ? À quoi répondent-ils ? Ensuite, il faut anticiper les usages non maîtrisés.
Nous voyons émerger du Shadow AI, dans la continuité du Shadow IT traditionnel. Les utilisateurs cherchent parfois eux-mêmes des solutions à leurs besoins. Si l’entreprise n’identifie pas rapidement ces usages et n’y répond pas, elle perd la maîtrise de la gouvernance des données. C’est un enjeu que nous retrouvons partout. Dans les environnements défense, c’est un peu différent. Il est évidemment plus compliqué d’aller sur des services publics comme ChatGPT. Mais nous voyons émerger des projets d’IA plus régaliens, sur lesquels nous accompagnons nos clients.
Comment observez-vous l’évolution des besoins des organisations face à la multiplication des usages liés à l’IA ?
L’IA fait exploser la surface d’attaque. Depuis plusieurs années, nous parlons d’exposition et de surface d’attaque grandissante, mais avec l’IA cela s’accélère encore. Et les équipes IT voient bien que les modèles cyber fragmentés deviennent impossibles à gérer. Pour un même événement, vous pouvez avoir cinq ou six alertes issues d’outils différents. Cela devient compliqué à corréler, à traiter et à anticiper.
Après un incident, c’est toujours plus simple : les logs sont là. Mais en amont, il faut être capable de prioriser. Les clients cherchent donc à consolider. Cela peut être des briques historiques comme l’email ou l’endpoint, ou des briques plus récentes autour de l’IA. L’objectif, c’est d’accélérer le temps de traitement et la réponse.
Notre rôle est aussi de donner une posture claire. Où est le risque ? Sur quoi faut-il concentrer les équipes ? Comment améliorer la posture de sécurité avant l’incident ? Nous donnons des risk scores, des actions automatiques pour réduire le risque, et surtout des chemins prédictifs d’attaque. L’idée est de dire : par où un attaquant pourrait-il entrer ? Quels sont les chemins les plus simples ? Nous n’attendons pas qu’il commence.
De quelle manière faites-vous évoluer votre plateforme et vos services pour répondre à ces nouveaux enjeux cyber ?
Cette année, nous avons fait évoluer la marque Enterprise de Trend Micro vers TrendAI. La holding reste Trend Micro, avec plusieurs piliers, dont TrendLife pour le grand public ou TXOne pour l’OT. Ce changement permet de valoriser le fait que nous avons 25 ans d’expertise sur l’IA. L’IA n’est pas un sujet nouveau pour nous. Avant, cela s’appelait algorithmes ou machine learning, mais nous automatisions déjà beaucoup de choses.
Notre plateforme évolue également pour répondre à ces nouveaux usages. Nous intégrons l’IA non seulement pour traiter des problématiques cyber, mais aussi pour améliorer l’expérience client. Un bon exemple, c’est le CIEM. Historiquement, la grande difficulté était de créer des parseurs et des traductions manuellement. Aujourd’hui, l’IA permet d’apprendre en moins de trois heures ce que le le client connecte à la plateforme.
Cela enlève la phase de build et permet aux équipes de se concentrer sur le run cyber, la compliance et la valeur ajoutée humaine. Nous commençons aussi à traiter les sujets de stack IA : lorsqu’un client internalise de l’IA, comment sécuriser cette infrastructure ? Comment centraliser la visibilité ?
Quel regard portez-vous sur les évolutions réglementaires et leur impact sur les stratégies cyber des entreprises ?
NIS2 est clairement un sujet attendu. Nous sentons que certains pays avancent plus vite que d’autres sur la ratification, mais les entreprises et les établissements publics n’attendent pas. Certains ont déjà lancé des audits avec des cabinets spécialisés. Ce qui change, c’est que la réglementation donne un cadre légal et permet d’accélérer. Dans les grands groupes, cela devient aussi un levier pour mieux gérer la chaîne logistique et les sous-traitants.
« NIS2 aide les grands groupes à encadrer leurs sous-traitants »
Il y a aussi un enjeu de responsabilité des instances dirigeantes. Le sujet remonte plus haut dans l’organisation. Ce qui est demandé est contraignant, mais ce n’est pas irréaliste. Cela fédère les acteurs autour d’un cadre commun. Notre rôle n’est pas de dire que nous “faisons” NIS2. Comme pour le RGPD, nous ne rendons pas une organisation conforme à nous seuls. En revanche, nous apportons des solutions qui facilitent le travail de nos clients sur ces sujets.
Sur quels axes d’innovation travaillez-vous aujourd’hui pour accompagner les besoins de demain ?
Nous sommes actuellement en alpha sur un sujet de digital twin. Grâce aux informations que nous collectons, avec l’accord de nos clients, via la télémétrie notamment, nous sommes capables de créer une copie numérique en temps réel de leur infrastructure. L’objectif, d’ici la fin de l’année ou début d’année prochaine, est de pouvoir pen-tester cette copie numérique en permanence. Pas deux fois par an, mais en continu.
« Passer de deux pentests par an à un test continu »
L’idée n’est plus seulement de dire “selon les bonnes pratiques, vous devriez faire cela”, mais de simuler réellement les chemins qu’un assaillant pourrait emprunter et de dire précisément ce qu’il faut corriger. Puis de re-tester immédiatement après correction. Cela n’enlève rien à l’humain. Un pentesteur gardera toujours une capacité d’imagination que l’IA n’aura jamais. Un humain verra parfois un chemin évident, là où une IA suivra une logique plus structurée. Mais cela permettrait de travailler en permanence sur l’infrastructure du client et d’industrialiser cette approche.
▶ Cantine, état civil, impôts : qui protège les données de votre famille dans votre mairie ?
