La résilience du futur : IA et cybersécurité (LinkedIn Live)

Pour clôturer en beauté la deuxième saison du podcast Les Résilients, Bertrand Lenotre et moi-même (Audrey Williart, Senior Content Marketing Manager chez Splunk) avons réuni nos super-héros du numérique pour parler de la place de l’IA dans la cybersécurité. Sur le plateau, Francis Bergey (RSSI, SNCF Connect & Tech), Stanislas de Crevoisier (Responsable de domaine SI, GRDF) et Stanislas de Goriainoff (CTO, Sewan) nous dévoilent les secrets de la cybersécurité du futur.

L’IA : un atout de taille pour l’entreprise

L’IA est désormais une arme indispensable pour renforcer la cyber-résilience. Pourquoi ? Tout simplement parce que les flux d’informations sont devenus trop importants et trop rapides pour être traités efficacement par les équipes cyber. « Un humain est totalement incapable de prendre des décisions à cette vitesse », résume Stanislas de Crevoisier, qui connaît bien la question. Car dans des secteurs comme l’énergie, chaque seconde compte si l’on veut éviter des drames comme celui qu’a connu l’Espagne il y a quelques mois.

Mais ce n’est pas tout ! L’IA est aussi un atout pour affronter la complexité des SOC (centres des opérations de sécurité). Comme l’explique Francis Bergey, ces outils soulagent des analystes souvent submergés par un volume croissant d’alertes « en automatisant un certain nombre de tâches répétitives et en recoupant les données de multiples systèmes différents ». Résultat : plus de temps pour des missions à forte valeur ajoutée et une meilleure réactivité face aux incidents.

L’IA : superpouvoir aux deux visages

Toutefois, si la première édition spéciale de La Résilience du Futur qualifiait l’IA de superpouvoir du cyber-espace, il ne faut pas oublier qu’elle a aussi la capacité de déclencher des super-catastrophes lorsqu’elle tombe entre de mauvaises mains. Car, « l’IA va pouvoir trouver l'aiguille dans la botte de foin », prévient Francis Bergey. Et ça, les attaquants l’ont bien compris !

Même si ces outils ne servent pas (encore) à générer de nouveaux modes de menaces, ils sont donc déjà largement exploités pour automatiser des attaques clé en main, comme les ransomwares as a service. Par ailleurs, l’intégration massive de l’IA dans les processus métiers soulève des problématiques critiques liées à la gestion des accès. Dans le cas des LLM notamment, « il y a une vraie difficulté à ne renvoyer l’information qu’à la personne (…) habilitée à y avoir accès ».

Mais a-t-on vraiment le choix ? Pour Stanislas de Crevoisier, la réponse est clairement négative. Face à la complexité des systèmes modernes, l’IA est souvent le seul moyen réaliste de réagir suffisamment rapidement à un incident ou à une menace. Mais pas question de lui laisser carte blanche : elle doit être encadrée, supervisée… et optimisée en permanence. Car « une des forces de l'IA, c'est que si l’on met en place des boucles de rétroaction, elle peut progresser avec le temps. »

Security by design : le nouveau mot d’ordre de la cybersécurité

Pour contrer ces risques, les équipes IT doivent se montrer plus efficaces que jamais. Et pour cela, une seule solution : penser la sécurité en amont. C’est le principe du security by design, que défend avec conviction Stanislas de Goriainoff. Comme il l’explique, entre les difficultés techniques et les réticences humaines « si l’on ne pense pas à la sécurité dès le début, ça devient très compliqué de rattraper les choses par la suite ».

Pour renforcer leur posture de sécurité, il est donc essentiel que les entreprises intègrent les questions de sécurité dès le démarrage des projets. Et cela vaut aussi (et peut-être surtout) pour les solutions d’IA, qui permettent, certes, d’être plus proactif et efficace que jamais, mais qui peuvent également ouvrir d’importantes brèches de sécurité.

Autre revers de médaille : contrairement à des systèmes déterministes, une IA ne réagira pas toujours de la même manière à une situation donnée, ce qui peut devenir problématique lorsqu’il s’agit de superviser des environnements critiques. Pour éviter le pire, les entreprises doivent anticiper ces questions et inventer de nouveaux mécanismes qui leur permettront de s’assurer que l’IA agit bien de la manière dont on l’attend.

IA agentique : vers de nouveaux horizons ?

Dernier thème de notre table ronde : l’IA agentique qui suscite autant d’engouement que de craintes. Les agents intelligents promettent en effet d’agir de manière autonome, en prenant des décisions contextualisées et en exécutant des tâches complexes sans intervention humaine. Mais s’agit-il d’une révolution ? D’après Stanislas de Crevoisier, rien n’est moins sûr, d’autant plus que les projets de ce type ont du mal à dépasser le stade du proof of concept.

Leur accessibilité, en revanche, change la donne. Comme le souligne Stanislas de Goriainoff, « tout le monde peut commencer à générer des programmes (et des) attaques ». Ces solutions permettent donc déjà à des attaquants peu avertis de jouer aux apprentis pirates, avec à la clé une augmentation significative des menaces.

C’est certainement une des raisons pour lesquelles Francis Bergey qualifie ces technologies « d’inquiétantes et passionnantes ». Le potentiel est là, mais les modèles restent à inventer. La prudence reste donc de mise. « Il faut y aller progressivement, faire des tests (…), monter en maturité sur des cas d’usage moins critiques (et) partir du principe que les LLM peuvent être compromis. »

Vous voulez savoir comment tirer profit de ces technologies sans baisser votre garde ? Regardez le replay de notre LinkedIn Live dédié à la cybersécurité et téléchargez l’édition spéciale de La Résilience du Futur : L'IA à l'épreuve de la réalité.

Vous voulez en savoir plus ? Regardez l’épisode du LinkedIn Live en intégralité et téléchargez notre édition spéciale de La Résilience du Futur : L'IA à l'épreuve de la réalité.