Non l’IA n’a pas – encore - créé de nouvelles brèches

La lettre de Frédéric Simottel n°80

BFM Business Cybersécurité
5 min ⋅ 07/02/2025

Dans la newsletter d’aujourd’hui:

Pour les abonnés gratuits:

  • L’édito : Non l’IA n’a pas – encore - créé de nouvelles brèches

Pour les abonnés payants:

  • La Tribune : 2025 : une année rouge pour les fuites de données en France…

  • Études : 37% des éditeurs européens de cybersécurité sont français

  • A ne pas manquer sur le web : Le système d’authentification de DeepSeek est connecté à la Chine, déclare Ivan Tsarynny, PDG de Feroot Security.


IA pour les hackers, IA pour les Defenders… il n’y a pas que dans la vie de tous les jours que l’IA générative est source de tous les fantasmes. La cybersécurité n’est pas épargnée. Les RSSI les plus avertis nuancent cependant l’importance donnée à l’IA dans leur domaine de prédilection. Conscients que l’IA a significativement transformé le paysage de la cyber et que cela nécessite une certaine adaptation, ils affirment également  que l’IA n’a pas créé de nouvelles brèches fondamentales de sécurité. Mais cela restera un sujet de discussion du Sommet de l’IA qui se tient à Paris les 10 et 11 février.


Non l’IA n’a pas – encore - créé de nouvelles brèches

Le Forum économique mondial de Davos qui réunit chaque année dans la ville Suisse la crème des dirigeants d’entreprises et plusieurs chefs d’Etats ou leurs ministres, a coutume de publier chaque année un rapport sur la cybersécurité. Cette photographie de l’année passée demeure assez intéressante si l’on veut connaître l’état d’esprit de ces organisations sur l’état de la menace et sur leur niveau de prise de conscience du problème cyber. Mais dans l’édition de janvier 2025, une information a fait réagir les experts cyber des entreprises. Si une très large majorité (72%) des dirigeants interrogés signalent une augmentation des risques cyber, considérant les ransomwares comme leur préoccupation majeure, 47% avouent s’inquiéter des avancées de l’IA générative et citent cette technologie comme leur principale préoccupation car elle permettrait des attaques plus sophistiquées et à plus grande échelle. « C’est inexact », lâchent en choeur plusieurs responsables cyber de grandes entreprises internationales que j’ai rencontrés.

Des vulnérabilités amplifiées mais rien de plus

Inexact car pour eux, l’AI n’a pas créé pour le moment de nouvelles brèches ou de nouvelles expositions du système d’information de l’entreprise. Au pire l’IA a amplifié certaines vulnérabilités liées au comportement de l’utilisateur autour des deep fakes, du phishing ou de la fraude par exemple ; grâce à l’IA, ces menaces sont en effet devenues plus convaincantes et plus difficiles à détecter, mais rien d’insurmontable si les utilisateurs sont sensibilisés et les parades bien disposées. De même, si les attaquants utilisent de l’IA, ils le font selon des scénarios et des chemins d’attaque déjà connus.

De nouvelles surfaces d’attaques

Certes l’IA générative a créé de nouvelles surfaces d’attaque via notamment des injections de données malveillantes et des « hallucinations » du modèle mais cela reste des vulnérabilités spécifiques à l’IA et connues des RSSI. On peut aussi évoquer le « shadow IA », c’est-à-dire l’autorisation non autorisée d’applications ou d’outils IA par les employés, qui augmente les risques de fuite de données. Mais là encore, nous sommes dans un domaine maîtrisé si les utilisateurs sont correctement sensibilisés sur la charte de sécurité et sur les sanctions qui peuvent leur tomber dessus. D’autres menaces via des services cloud peuvent également être mentionnées mais là encore selon des chemins d’attaque connus.

Il est par contre un point sur lequel l’IA influe davantage, c’est l’échelle et la vitesse à laquelle peuvent opérer les pirates, rendant les attaques plus difficiles à détecter et à contrer

C’est d’ailleurs sur ce point que les RSSI doivent travailler. L’IA apporte de la célérité qu’il faut pouvoir contrer rapidement en mettant constamment à jour des scénarios de détection et de réponse automatisés ainsi que des contrôles continus sur la performance de ces scénarios (une sorte de seconde ligne de défense). Mais encore une fois rien de plus que ce que font les RSSI face aux menaces dont leurs entreprises sont les cibles. 

...

BFM Business Cybersécurité

BFM Business Cybersécurité

Par Frédéric Simottel

Frédéric SIMOTTEL, est éditorialiste High-Tech sur BFM BUSINESS et BFMTV. Il est également rédacteur en chef de l’éditorial de l’ensemble des évènements organisés par BFM Business (BFM Awards, Grands prix de l’accélération digitale, hors séries BFM, etc). Il présente aussi chaque week-end sur BFM Business les émissions « Tech & Co Business », un programme sur la transformation numérique des entreprises, « BFM Stratégie », un cours sur la stratégie des entreprises avec Xavier Fontanet, ancien PDG d’Essilor. Il traite également des sujets high tech chaque jour dans les journaux de l'antenne et intervient quotidiennement dans l’émission du soir « Tech & Co » sur BFM Business. Il intervient enfin sur BFM TV & RMC sur les sujets liés aux technologies. Ingénieur télécoms et réseaux de formation, ce journaliste spécialisé occupe depuis plus de 28 ans une position privilégiée en tant qu’observateur du marché high-tech. Parmi ses sujets de prédilection figurent la stratégie digitale des entreprises, l’évolution de l’écosystème IT, la cybersécurité, l’univers des startups et plus globalement les changements provoqués par l’innovation numérique (IA, Cloud, Infrastructures IT et réseaux, télécoms, mobilité, électroniques embarquée, quantique, etc). Autant de sujets dont ils se fait l’écho sur les différents canaux du groupe Altice Media (Web, TV, radio et évènements). Il intervient enfin depuis de nombreuses années en tant que keynote speaker ou animateur lors d’évènements portant sur l’innovation, le business et les technologies numériques.