La lettre de Frédéric Simottel n°80
Dans la newsletter d’aujourd’hui:
Pour les abonnés gratuits:
L’édito : Non l’IA n’a pas – encore - créé de nouvelles brèches
Pour les abonnés payants:
La Tribune : 2025 : une année rouge pour les fuites de données en France…
Études : 37% des éditeurs européens de cybersécurité sont français
A ne pas manquer sur le web : Le système d’authentification de DeepSeek est connecté à la Chine, déclare Ivan Tsarynny, PDG de Feroot Security.
IA pour les hackers, IA pour les Defenders… il n’y a pas que dans la vie de tous les jours que l’IA générative est source de tous les fantasmes. La cybersécurité n’est pas épargnée. Les RSSI les plus avertis nuancent cependant l’importance donnée à l’IA dans leur domaine de prédilection. Conscients que l’IA a significativement transformé le paysage de la cyber et que cela nécessite une certaine adaptation, ils affirment également que l’IA n’a pas créé de nouvelles brèches fondamentales de sécurité. Mais cela restera un sujet de discussion du Sommet de l’IA qui se tient à Paris les 10 et 11 février.
Le Forum économique mondial de Davos qui réunit chaque année dans la ville Suisse la crème des dirigeants d’entreprises et plusieurs chefs d’Etats ou leurs ministres, a coutume de publier chaque année un rapport sur la cybersécurité. Cette photographie de l’année passée demeure assez intéressante si l’on veut connaître l’état d’esprit de ces organisations sur l’état de la menace et sur leur niveau de prise de conscience du problème cyber. Mais dans l’édition de janvier 2025, une information a fait réagir les experts cyber des entreprises. Si une très large majorité (72%) des dirigeants interrogés signalent une augmentation des risques cyber, considérant les ransomwares comme leur préoccupation majeure, 47% avouent s’inquiéter des avancées de l’IA générative et citent cette technologie comme leur principale préoccupation car elle permettrait des attaques plus sophistiquées et à plus grande échelle. « C’est inexact », lâchent en choeur plusieurs responsables cyber de grandes entreprises internationales que j’ai rencontrés.
Des vulnérabilités amplifiées mais rien de plus
Inexact car pour eux, l’AI n’a pas créé pour le moment de nouvelles brèches ou de nouvelles expositions du système d’information de l’entreprise. Au pire l’IA a amplifié certaines vulnérabilités liées au comportement de l’utilisateur autour des deep fakes, du phishing ou de la fraude par exemple ; grâce à l’IA, ces menaces sont en effet devenues plus convaincantes et plus difficiles à détecter, mais rien d’insurmontable si les utilisateurs sont sensibilisés et les parades bien disposées. De même, si les attaquants utilisent de l’IA, ils le font selon des scénarios et des chemins d’attaque déjà connus.
De nouvelles surfaces d’attaques
Certes l’IA générative a créé de nouvelles surfaces d’attaque via notamment des injections de données malveillantes et des « hallucinations » du modèle mais cela reste des vulnérabilités spécifiques à l’IA et connues des RSSI. On peut aussi évoquer le « shadow IA », c’est-à-dire l’autorisation non autorisée d’applications ou d’outils IA par les employés, qui augmente les risques de fuite de données. Mais là encore, nous sommes dans un domaine maîtrisé si les utilisateurs sont correctement sensibilisés sur la charte de sécurité et sur les sanctions qui peuvent leur tomber dessus. D’autres menaces via des services cloud peuvent également être mentionnées mais là encore selon des chemins d’attaque connus.
Il est par contre un point sur lequel l’IA influe davantage, c’est l’échelle et la vitesse à laquelle peuvent opérer les pirates, rendant les attaques plus difficiles à détecter et à contrer
C’est d’ailleurs sur ce point que les RSSI doivent travailler. L’IA apporte de la célérité qu’il faut pouvoir contrer rapidement en mettant constamment à jour des scénarios de détection et de réponse automatisés ainsi que des contrôles continus sur la performance de ces scénarios (une sorte de seconde ligne de défense). Mais encore une fois rien de plus que ce que font les RSSI face aux menaces dont leurs entreprises sont les cibles.
...