L’IA s’invite dans les entreprises, y compris dans leur cybersécurité et leurs centres opérationnels de sécurité (SOC), chargés de détecter les menaces et de répondre aux incidents. Jusqu’où lui confier l’analyse et l’action ?
Entretien avec Benjamin Marandel, Technical Director EMEA chez Trellix.
Jusqu’où l’IA facilite-t-elle déjà le travail des RSSI et de leurs équipes ?
Benjamin Marandel: L’IA peut contribuer à analyser les alertes, mais les premières expériences ont aussi créé des désillusions. Certaines organisations ont d’abord pensé qu’il suffirait de prendre une IA et de la brancher sur leurs données. Dans les faits, les analystes ont parfois rencontré des hallucinations. Et même sans hallucinations, certaines analyses n’allaient pas au bout. D’autres aboutissaient à des conclusions inadaptées à leur organisation.
Si chaque conclusion de l’IA doit être vérifiée par un analyste, le gain reste limité. Et sans pouvoir évaluer sa fiabilité, difficile de lui confier des actions sur un environnement de production. Pour dépasser ces limites, l’IA doit fournir des conclusions que les équipes peuvent vérifier et utiliser pour agir. Ces conclusions doivent s’appuyer sur du contexte, des preuves et un niveau de confiance exploitable.
Comment obtenir une analyse adaptée à son organisation ?
Notre expérience montre que l’IA a besoin de comprendre l’environnement dans lequel elle travaille, comme un analyste qui rejoint l’équipe. Quels sont les horaires ? Dans quels pays travaille l’organisation ? Où se trouvent les datacenters, les équipes de support, les adresses IP internes ? Quels serveurs sont critiques pour l’activité ?
« L’IA a besoin de comprendre l’environnement dans lequel elle travaille, comme un analyste qui rejoint l’équipe. »
C’est ce qui nous a amenés à intégrer dans Trellix Wise for Private Cloud un assistant qui pose ces questions pour recueillir le contexte de l’organisation et en tenir compte dans ses analyses. L’objectif est d’éviter une analyse techniquement plausible, mais inadéquate au regard de l’activité.
Ensuite, l’IA doit pouvoir chercher les informations là où elles se trouvent. Les équipes ont déjà investi dans des SIEM, des SOAR, des scripts et des parseurs. Notre approche consiste à interroger les sources existantes, comme Splunk ou Elastic, sans demander aux équipes de reconstruire un data lake et d’y recopier des téraoctets de données.
Les recherches peuvent ainsi s’étendre à d’autres sources de données que le SIEM pour compléter l’investigation. L’IA peut consulter l’Active Directory pour vérifier des identités ou des accès, ou la télémétrie remontée par un EDR pour identifier la chaîne d’exécution sur le système.
Comment savoir si l’on peut se fier au verdict de l’IA ?
Lorsqu’un analyste présente ses conclusions à un RSSI, il doit pouvoir expliquer les recherches effectuées et les preuves réunies. Le RSSI doit pouvoir exiger la même chose de l’IA : dire « c’est un faux positif » ne suffit pas, il faut pouvoir comprendre comment elle arrive à ce résultat.
« Il faut donc distinguer la conclusion et la confiance qu’elle mérite. »
Pour répondre à cette exigence, Trellix Wise conserve la trace des recherches et des éléments réunis. L’IA peut interroger plusieurs sources pour compléter son dossier et associer un niveau de confiance à son analyse, au fil de l’investigation puis dans son verdict final.
Il faut donc distinguer la conclusion et la confiance qu’elle mérite. L’IA peut considérer qu’une alerte n’est pas grave, tout en indiquant qu’elle disposait de très peu de données pour se prononcer. C’est une information essentielle pour l’analyste. Sans elle, deux conclusions identiques semblent équivalentes alors qu’elles ne reposent pas sur la même quantité de preuves.
Dans ces conditions, quelles actions un RSSI peut-il concrètement déléguer à l’IA ?
L’isolement d’une machine constitue un premier niveau de réponse. Si l’analyse identifie une menace avec un niveau de confiance suffisant, l’IA peut confiner l’équipement et notifier l’analyste. Celui-ci récupère le ticket et poursuit l’investigation pendant que la machine est isolée. Il ne s’agit pas, à ce stade, de supprimer automatiquement des fichiers ou d’arrêter des processus.
Cette automatisation doit suivre des règles définies. Un seuil de confiance de 80 %, par exemple, peut servir à illustrer le déclenchement d’une action. La validation humaine reste toutefois le fonctionnement par défaut : l’analyste examine la proposition et confirme son exécution.
La confiance se construit avec l’usage. Mais il faut aussi prendre le temps d’apprendre des incidents. Dans les ateliers que nous proposons aux équipes de sécurité sur l’organisation d’un SOC, nous insistons sur le retour d’expérience après chaque incident : pourquoi est-ce arrivé, que devons-nous changer et quels investissements faut-il prévoir ? Cette étape permet d’améliorer les pratiques, mais elle est trop souvent sacrifiée au traitement de l’incident suivant.
Comment utiliser l’IA lorsque les données ne peuvent pas sortir du SI ?
Certaines organisations ne veulent aucune connectivité vers Internet. Un cloud hébergé en France ou en Europe ne répond pas nécessairement à leur exigence : elles demandent que la solution fonctionne entièrement dans leur environnement.
« Certaines organisations ne veulent aucune connectivité vers Internet. »
C’est l’un des besoins auxquels nous cherchons à répondre avec Trellix Wise for Private Cloud. Des organisations construisent déjà leurs propres infrastructures d’IA et achètent notamment des équipements dotés de cartes NVIDIA. Notre idée est de pouvoir fonctionner sur ces équipements ou sur un équipement qu’elles achètent auprès de nous.
Cela suppose aussi d’embarquer le modèle nécessaire à l’exécution des tâches. Nous évaluons les modèles par rapport aux opérations de sécurité que nous leur demandons de réaliser, puis retenons celui qui convient le mieux. Je ne considère pas ce choix comme définitif : les capacités évoluent rapidement et le modèle le plus adapté aujourd’hui ne sera pas forcément le même quelques mois plus tard.
Les modèles de facturation de l’IA inquiètent. Comment garder la maîtrise de son budget ?
Avec une facturation au token ou à l’investigation, une attaque peut aussi faire exploser la facture. Les alertes se multiplient, les investigations s’enchaînent et les coûts augmentent au moment où les équipes doivent se concentrer sur la réponse à l’incident. Une attaque pourrait ainsi entraîner plusieurs dizaines de milliers d’euros de frais d’utilisation de l’IA, en plus des dommages et des coûts de remédiation.
« Avec une facturation au token ou à l’investigation, une attaque peut aussi faire exploser la facture. »
Pour éviter cette incertitude budgétaire, nous avons choisi chez Trellix un forfait annuel pour Wise for Private Cloud. La capacité de traitement dépend du matériel déployé, mais un pic d’incidents ne déclenche pas de facturation supplémentaire à l’usage.
Nous faisons aussi la différence entre une offre qui comprend un nombre limité d’investigations, avec un analyste qui choisit lesquelles lancer, et notre approche, qui consiste à investiguer toutes les alertes. Les équipes n’ont pas à arbitrer les investigations en fonction d’un quota facturable.
Entretien réalisé en collaboration commerciale avec Trellix.
▶️ Prolongez votre lecture :Trellix fait le choix d’une solution SecOps ouverte






