Se préparer aux cyberattaques basées sur l'IA

En association avec Trace sombre

Les cyberattaques continuent de croître en prévalence et en sophistication. Avec la capacité de perturber les opérations commerciales, d'effacer les données critiques et de nuire à la réputation, ils constituent une menace existentielle pour les entreprises, les services critiques et l'infrastructure. La nouvelle vague d'attaques d'aujourd'hui déjoue et dépasse les humains, et commence même à intégrer l'intelligence artificielle (IA). Ce que l'on appelle l'IA offensive permettra aux cybercriminels de diriger des attaques ciblées à une vitesse et à une échelle sans précédent tout en volant sous le radar des outils de détection traditionnels basés sur des règles.

Certaines des organisations les plus importantes et les plus fiables au monde ont déjà été victimes de cyberattaques dommageables, compromettant leur capacité à protéger les données critiques. Avec l'IA offensive à l'horizon, les organisations doivent adopter de nouvelles défenses pour riposter : la bataille des algorithmes a commencé.

Se préparer aux cyberattaques basées sur l'IA

• Télécharger le rapport complet

MIT Technology Review Insights, en association avec la société de cybersécurité de l'IA Darktrace, a interrogé plus de 300 cadres, directeurs et gestionnaires de niveau C dans le monde entier pour comprendre comment ils traitent les cybermenaces auxquelles ils sont confrontés et comment utiliser l'IA pour aider à lutter contre eux.

Dans l'état actuel des choses, 60 % des personnes interrogées signalent que les réponses humaines aux cyberattaques ne parviennent pas à suivre les attaques automatisées, et que les organisations se préparent à relever un défi plus important, des technologies plus sophistiquées sont essentielles. En fait, une écrasante majorité de personnes interrogées (96 %) déclarent avoir déjà commencé à se prémunir contre les attaques alimentées par l'IA, certaines activant les défenses contre l'IA.

Les cyberattaques offensives de l'IA sont redoutables et la technologie est rapide et intelligente. Considérez les deepfakes, un type d'outil d'IA militarisé, qui sont des images ou des vidéos fabriquées représentant des scènes ou des personnes qui n'ont jamais été présentes, voire qui ont même existé.

En janvier 2020, le FBI a averti que la technologie deepfake avait déjà atteint le point où des personnages artificiels pourraient être créés qui pourraient passer des tests biométriques. Au rythme où les réseaux de neurones IA évoluent, a déclaré un responsable du FBI à l'époque, la sécurité nationale pourrait être compromise par de fausses vidéos haute définition créées pour imiter des personnalités publiques afin qu'elles semblent dire les mots que les créateurs de vidéos mettent dans leur bouches manipulées.

Ce n'est qu'un exemple de la technologie utilisée à des fins néfastes. L'IA pourrait, à un moment donné, mener des cyberattaques de manière autonome, déguiser leurs opérations et se fondre dans une activité régulière. La technologie est disponible pour tout le monde, y compris les acteurs de la menace.

Les risques offensifs de l'IA et les développements dans le paysage des cybermenaces redéfinissent la sécurité des entreprises, alors que les humains ont déjà du mal à suivre le rythme des attaques avancées. En particulier, les répondants au sondage ont indiqué que les attaques par e-mail et par hameçonnage leur causaient le plus d'angoisse, près des trois quarts d'entre eux déclarant que les menaces par e-mail étaient les plus inquiétantes. Cela se décompose en 40 % des personnes interrogées qui déclarent trouver les attaques par e-mail et par hameçonnage très préoccupantes, tandis que 34 % les qualifient de quelque peu préoccupantes. Ce n'est pas surprenant, car 94% des logiciels malveillants détectés sont toujours livrés par e-mail. Les méthodes traditionnelles d'arrêt des menaces transmises par e-mail reposent sur des indicateurs historiques, à savoir les attaques déjà observées, ainsi que sur la capacité du destinataire à repérer les signes, qui peuvent tous deux être contournés par des incursions de phishing sophistiquées.

Lorsque l'IA offensive est ajoutée au mélange, les faux e-mails seront presque impossibles à distinguer des communications authentiques de contacts de confiance.

Comment les attaquants exploitent les gros titres

La pandémie de coronavirus a présenté une opportunité lucrative pour les cybercriminels. Les attaquants par e-mail, en particulier, ont suivi un schéma établi de longue date : profiter des gros titres du jour, ainsi que de la peur, de l'incertitude, de la cupidité et de la curiosité qu'ils incitent, pour attirer les victimes dans ce que l'on appelle désormais des attaques de logiciels de peur. Avec des employés travaillant à distance, sans les protocoles de sécurité du bureau en place, les organisations ont vu les tentatives de phishing réussies monter en flèche. Max Heinemeyer, directeur de la chasse aux menaces pour Darktrace, note que lorsque la pandémie a frappé, son équipe a constaté une évolution immédiate des e-mails de phishing. Nous avons vu beaucoup d'e-mails disant des choses comme 'Cliquez ici pour voir quelles personnes de votre région sont infectées', dit-il. Lorsque les bureaux et les universités ont commencé à rouvrir l'année dernière, de nouvelles escroqueries sont apparues au même rythme, avec des e-mails proposant des programmes et des tests de nettoyage covid-19 bon marché ou gratuits, explique Heinemeyer.

Il y a également eu une augmentation des ransomwares, qui a coïncidé avec la montée en puissance des environnements de travail à distance et hybrides. Les méchants le savent maintenant que tout le monde compte sur le travail à distance. Si vous êtes touché maintenant et que vous ne pouvez plus fournir d'accès à distance à votre employé, la partie est terminée, dit-il. Alors qu'il y a peut-être un an, les gens pouvaient encore travailler, pouvaient travailler davantage hors ligne, mais ça fait beaucoup plus mal maintenant. Et nous voyons que les criminels ont commencé à exploiter cela.

Quel est le thème commun ? Changement, changement rapide et, dans le cas de la transition mondiale vers le travail à domicile, complexité. Et cela illustre le problème de la cybersécurité traditionnelle, qui repose sur des approches traditionnelles basées sur les signatures : les défenses statiques ne sont pas très efficaces pour s'adapter au changement. Ces approches extrapolent les attaques d'hier pour déterminer à quoi ressembleront celles de demain. Comment pourriez-vous anticiper la vague de phishing de demain ? Cela ne fonctionne tout simplement pas, dit Heinemeyer.

Télécharger le rapport complet .

Ce contenu a été produit par Insights, la branche de contenu personnalisé de MIT Technology Review. Il n'a pas été écrit par la rédaction de MIT Technology Review.

cacher