L'IA consomme beaucoup d'énergie. Les pirates pourraient le faire consommer plus.

Taylor Vick/Unsplash

Les nouvelles: Un nouveau type d'attaque pourrait augmenter la consommation d'énergie des systèmes d'IA. De la même manière qu'une attaque par déni de service sur Internet cherche à obstruer un réseau et à le rendre inutilisable, la nouvelle attaque force un réseau neuronal profond à immobiliser plus de ressources de calcul que nécessaire et à ralentir son processus de réflexion.

La cible: Ces dernières années, les préoccupations croissantes concernant la consommation d'énergie coûteuse des grands modèles d'IA ont conduit les chercheurs à concevoir des réseaux de neurones plus efficaces. Une catégorie, connue sous le nom d'architectures multi-sorties adaptatives d'entrée, fonctionne en divisant les tâches en fonction de leur difficulté à résoudre. Il dépense ensuite le minimum de ressources de calcul nécessaires pour résoudre chacun.

Supposons que vous ayez une photo d'un lion regardant droit vers l'appareil photo avec un éclairage parfait et une photo d'un lion accroupi dans un paysage complexe, partiellement caché à la vue. Un réseau de neurones traditionnel ferait passer les deux photos à travers toutes ses couches et dépenserait la même quantité de calculs pour étiqueter chacune. Mais un réseau de neurones multi-sorties adaptatif en entrée peut faire passer la première photo à travers une seule couche avant d'atteindre le seuil de confiance nécessaire pour l'appeler ce qu'elle est. Cela réduit l'empreinte carbone du modèle, mais cela améliore également sa vitesse et lui permet d'être déployé sur de petits appareils comme les smartphones et les haut-parleurs intelligents.

L'attaque: Mais ce type de réseau de neurones signifie que si vous modifiez l'entrée, telle que l'image qu'elle alimente, vous pouvez modifier la quantité de calcul dont elle a besoin pour la résoudre. Cela ouvre une vulnérabilité que les pirates pourraient exploiter, comme l'ont souligné les chercheurs du Maryland Cybersecurity Center dans un nouvel article présenté au Conférence internationale sur les représentations de l'apprentissage cette semaine. En ajoutant de petites quantités de bruit aux entrées d'un réseau, ils lui ont fait percevoir les entrées comme plus difficiles et ont augmenté son calcul.

Lorsqu'ils ont supposé que l'attaquant disposait d'informations complètes sur le réseau de neurones, ils ont pu maximiser sa consommation d'énergie. Lorsqu'ils ont supposé que l'attaquant disposait de peu ou pas d'informations, ils ont quand même pu ralentir le traitement du réseau et augmenter la consommation d'énergie de 20 à 80 %. La raison, comme l'ont découvert les chercheurs, est que les attaques se transmettent bien à travers différents types de réseaux de neurones. Concevoir une attaque pour un système de classification d'images suffit à en perturber plusieurs, déclare Yiğitcan Kaya, doctorant et co-auteur de l'article.

La mise en garde : Ce genre d'attaque est encore quelque peu théorique. Les architectures adaptatives en entrée ne sont pas encore couramment utilisées dans les applications du monde réel. Mais les chercheurs pensent que cela changera rapidement en raison des pressions exercées au sein de l'industrie pour déployer des réseaux de neurones plus légers, comme pour la maison intelligente et d'autres appareils IoT. Tudor Dumitraş, le professeur qui a conseillé la recherche, affirme que davantage de travail est nécessaire pour comprendre dans quelle mesure ce type de menace pourrait créer des dommages. Mais, ajoute-t-il, ce document est une première étape vers la sensibilisation : ce qui est important pour moi, c'est d'attirer l'attention des gens sur le fait qu'il s'agit d'un nouveau modèle de menace, et que ce type d'attaques peut être commis.

cacher