Comment le spam améliore l'IA

Ces casse-tête visuels embêtants qui doivent être complétés chaque fois que vous vous inscrivez pour un compte de messagerie Web ou que vous publiez un commentaire sur un blog sont attaqués. Cela ne vient pas seulement d'ordinateurs ou de pirates crachant du spam ; cela vient aussi de chercheurs qui utilisent des énigmes anti-spam pour développer des algorithmes plus intelligents et plus humains.

Chats contre Chiens : Un projet appelé Asirra utilise des photographies de chats et de chiens pour faire la distinction entre les humains et les ordinateurs. Normalement, c'est une tâche difficile pour les ordinateurs, mais un nouvel algorithme peut classer correctement les images 83 % du temps.

Le type de puzzle le plus courant (une série de lettres et de chiffres déformés) est de plus en plus craqué par des logiciels d'IA plus intelligents. Et un informaticien a maintenant développé un algorithme qui peut vaincre même les derniers tests basés sur des photographies.

Connus sous le nom de CAPTCHA (test de Turing public complètement automatisé pour distinguer les ordinateurs et les humains), ces puzzles ont été développés à la fin des années 90 pour séparer les utilisateurs réels des machines qui créent des comptes de messagerie pour envoyer du spam ou se connecter au message. des panneaux pour publier des liens publicitaires. le Test de Turing , du nom du mathématicien Alan Turing, consiste à mesurer l'intelligence en demandant à un ordinateur d'essayer de se faire passer pour une personne réelle.

Les CAPTCHA textuels sont un bon moyen de distinguer les humains des spambots, car les lettres et les chiffres déformés peuvent facilement être lus par de vraies personnes (la plupart du temps) mais sont extrêmement difficiles à déchiffrer pour les ordinateurs. Cependant, les informaticiens considèrent depuis longtemps les CAPTCHA comme un défi intéressant pour l'IA. Les concepteurs de CAPTCHA textuels ont progressivement introduit plus de distorsion pour empêcher les machines de les résoudre. Mais ils doivent équilibrer la sécurité et la convivialité : à mesure que la distorsion augmente, même les vrais êtres humains commencent à trouver les CAPTCHA difficiles à déchiffrer.

Plus tôt cette année, Jeff Yan , un chercheur de l'Université de Newcastle, au Royaume-Uni, a révélé un programme capable de compléter les CAPTCHA textuels utilisés pour protéger les services Hotmail, MSN et Windows Live de Microsoft avec un taux de réussite de 60 %. Cela peut sembler peu, mais c'est important, car un ordinateur peut tenter son attaque des milliers de fois par minute. Yan a retenu le papier jusqu'à ce que Microsoft ait la possibilité de modifier ses CAPTCHA afin qu'ils soient plus difficiles à déchiffrer. Mais au Conférence ACM sur la sécurité informatique et des communications à Alexandria, en Virginie, plus tard ce mois-ci, Yan présentera les détails d'un autre programme qui, selon lui, peut déchiffrer des CAPTCHA textuels encore plus largement utilisés.

Une alternative consiste donc à demander aux utilisateurs de résoudre différents types d'énigmes. Mais un autre article qui sera présenté à la même conférence décrit un algorithme qui pourrait causer des problèmes aux CAPTCHA encore plus récents.

Philippe Golle du Palo Alto Research Center a développé un programme capable de transmettre correctement un CAPTCHA basé sur des images appelé Asirra, développé par Microsoft. Asirra demande aux utilisateurs de classer correctement les images de chats ou de chiens à l'aide d'une base de données de trois millions d'images fournies par des organisations de sauvetage d'animaux. Cette tâche devrait être encore plus difficile pour les ordinateurs que de reconnaître des lettres ondulées, mais le programme de Golle peut identifier correctement les chats ou les chiens montrés par Asirra 83 % du temps.

Golle a formé son programme à l'aide de 8 000 images collectées sur le même site Web. Par essais et erreurs, son logiciel a progressivement appris à distinguer les chats des chiens, sur la base d'une analyse statistique de la couleur et de la texture de chaque photo. Le rose de la langue des chiens et le vert des yeux des chats ont fourni des indices solides, dit Golle, mais ce n'est qu'en étudiant les informations sur la couleur et la texture de tant d'images que son programme a pu s'attaquer au problème. L'apprentissage automatique est très efficace pour agréger des informations, dit Golle.

Cependant, bien que chaque image individuelle ait été reconnue 83 % du temps, le test CAPTCHA complet nécessite l'identification simultanée de 12 images, de sorte que l'attaque ne fonctionne en réalité que 10,3 % du temps.

Golle dit qu'une contre-mesure facile serait pour Asirra de présenter plus de photos, ce qui réduirait encore le taux de réussite de l'attaque. Microsoft n'a pas répondu à nos demandes de commentaires.

Malgré tous ces progrès, il n'est pas clair si de vrais spammeurs utilisent actuellement des attaques d'IA contre de vrais CAPTCHA. Websense Security Labs, à San Diego, a publié des rapports sur les spammeurs qui craquent les CAPTCHA, mais souvent, cela implique simplement que des travailleurs peu rémunérés résolvent manuellement les CAPTCHA.

Luis von Ahn, informaticien à l'Université Carnegie Mellon, qui a aidé à inventer le terme CAPTCHA, dit qu'il n'est pas clair que des CAPTCHA courants aient été brisés par une attaque de machines dans le monde réel. Je ne connais personne qui pense à se débarrasser du CAPTCHA parce que ça ne marche pas, dit-il.

Cependant, von Ahn note que l'utilisation des humains a un coût. Même si les travailleurs ne sont payés que 3 $ pour 1 000 CAPTCHA, cela coûte cher, dit-il, d'autant plus que la plupart des comptes de messagerie Web piratés seront fermés peu de temps après avoir commencé à envoyer du spam. Ainsi, une attaque véritablement automatisée réduirait le coût pour les spammeurs et augmenterait considérablement le nombre d'attaques réussies qu'ils pourraient se permettre, dit-il.

Mais jusqu'à ce que les ordinateurs deviennent beaucoup plus intelligents, les créateurs de CAPTCHA pourront toujours implémenter quelques ajustements simples pour rendre un CAPTCHA beaucoup plus difficile. Je pense qu'il y aura un jour où, essentiellement, les CAPTCHA seront inutiles, dit von Ahn. Mais je ne pense pas que ce soit cette année ou la suivante.

cacher