L'IA pour la cybersécurité est une nouveauté brûlante et un pari dangereux

Image du code superposée sur une photo de mains sur un clavier d'ordinateur portable Unsplash

Lorsque j'ai parcouru le sol de l'exposition lors de la conférence massive sur la cybersécurité Black Hat de cette semaine à Las Vegas, j'ai été frappé par le nombre d'entreprises qui se vantent de la façon dont elles utilisent l'apprentissage automatique et l'intelligence artificielle pour contribuer à rendre le monde plus sûr.

Mais certains experts craignent que les fournisseurs ne prêtent pas suffisamment attention aux risques associés à une forte dépendance à ces technologies. Ce qui se passe est un peu inquiétant, et dans certains cas même dangereux, prévient Raffael Marty de la société de sécurité Forcepoint.

La soif d'algorithmes de l'industrie de la sécurité est compréhensible. Elle fait face à un tsunami de cyberattaques alors même que le nombre d'appareils connectés à Internet explose. Dans le même temps, il y a une pénurie massive de cybertravailleurs qualifiés (voir La nouvelle menace insidieuse de la cybersécurité : le stress de la main-d'œuvre).

L'utilisation de l'apprentissage automatique et de l'IA pour aider à automatiser la détection et la réponse aux menaces peut alléger la charge des employés et potentiellement aider à identifier les menaces plus efficacement que d'autres approches logicielles.

Dangers des données

Mais Marty et quelques autres s'exprimant à Black Hat disent que de nombreuses entreprises déploient maintenant des produits basés sur l'apprentissage automatique parce qu'elles estiment qu'elles doivent le faire pour obtenir une audience avec des clients qui ont adhéré au cycle de battage médiatique de l'IA. Et il y a un danger qu'ils négligent les façons dont les algorithmes d'apprentissage automatique pourraient créer un faux sentiment de sécurité.

De nombreux produits en cours de déploiement impliquent un apprentissage supervisé, ce qui oblige les entreprises à choisir et à étiqueter les ensembles de données sur lesquels les algorithmes sont formés, par exemple en marquant le code qui est un logiciel malveillant et le code qui est propre.

Marty dit que l'un des risques est qu'en se précipitant pour mettre leurs produits sur le marché, les entreprises utilisent des informations de formation qui n'ont pas été soigneusement nettoyées des points de données anormaux. Cela pourrait conduire l'algorithme à manquer certaines attaques. Une autre est que les pirates qui accèdent aux systèmes d'une entreprise de sécurité pourraient corrompre les données en changeant d'étiquette afin que certains exemples de logiciels malveillants soient marqués comme du code propre.

Les méchants n'ont même pas besoin de falsifier les données ; au lieu de cela, ils pourraient déterminer les fonctionnalités du code qu'un modèle utilise pour signaler les logiciels malveillants, puis les supprimer de leur propre code malveillant afin que l'algorithme ne les détecte pas.

Un contre plusieurs

Lors d'une session lors de la conférence, Holly Stewart et Jugal Parikh de Microsoft ont signalé le risque d'une dépendance excessive à un seul algorithme maître pour piloter un système de sécurité. Le danger est que si cet algorithme est compromis, aucun autre signal ne signalerait un problème.

Pour vous prémunir contre cela, le service de protection contre les menaces Windows Defender de Microsoft utilise un ensemble varié d'algorithmes avec différents ensembles de données d'entraînement et fonctionnalités. Donc, si un algorithme est piraté, les résultats des autres - en supposant que leur intégrité n'a pas été compromise également - mettront en évidence l'anomalie dans le premier modèle.

Au-delà de ces enjeux. Marty de Forcepoint note qu'avec certains algorithmes très complexes, il peut être très difficile de comprendre pourquoi ils crachent certaines réponses. Ce problème d'explicabilité peut rendre difficile l'évaluation de ce qui motive les anomalies qui surgissent (voir Le sombre secret au cœur de l'IA ).

Rien de tout cela ne signifie que l'IA et l'apprentissage automatique ne devraient pas jouer un rôle important dans un arsenal défensif. Le message de Marty et d'autres est qu'il est vraiment important pour les entreprises de sécurité - et leurs clients - de surveiller et de minimiser les risques associés aux modèles algorithmiques.

Ce n'est pas un mince défi étant donné que les personnes possédant la combinaison idéale d'expertise approfondie en cybersécurité et en science des données sont toujours aussi rares qu'une journée fraîche d'un été à Las Vegas.

cacher