Les futures élections pourraient être influencées par des chatbots intelligents et armés

Magoz

La bataille contre les robots de propagande est une course aux armements pour notre démocratie. C'est celui que nous sommes peut-être sur le point de perdre. Les robots, de simples scripts informatiques, ont été conçus à l'origine pour automatiser des tâches répétitives telles que l'organisation de contenu ou la maintenance du réseau, épargnant ainsi aux humains des heures d'ennui. Les entreprises et les médias utilisent également des bots pour exploiter des comptes de médias sociaux, pour alerter instantanément les utilisateurs des dernières nouvelles ou promouvoir du matériel nouvellement publié.

Mais ils peuvent également être utilisés pour exploiter un grand nombre de faux comptes, ce qui les rend idéaux pour manipuler les gens. Nos recherches au sein du Computational Propaganda Project étudient la myriade de façons dont les robots politiques utilisant les mégadonnées et l'automatisation ont été utilisés pour répandre la désinformation et déformer le discours en ligne.

Cette histoire faisait partie de notre numéro de septembre 2018

• Voir la suite du problème
• S'abonner

Les robots se sont révélés être l'un des meilleurs moyens de diffuser des points de vue extrémistes sur les réseaux sociaux, mais aussi d'amplifier ces points de vue à partir d'autres comptes authentiques en aimant, partageant, retweetant, encourageant et suivant, tout comme un humain le ferait. Ce faisant, ils jouent avec les algorithmes et récompensent les messages avec lesquels ils ont interagi en leur donnant plus de visibilité.

Cela semblera apprivoisé par rapport à ce qui est en route.

La force du nombre

À la suite de l'ingérence de la Russie dans les élections américaines de 2016, une vague de discussions a éclaté sur la manière de protéger la politique de la propagande. Twitter a supprimé des dizaines de millions de comptes suspects, y compris des robots, cette année, tandis que les régulateurs ont proposé des interdictions de robots et des mesures de transparence, et ont appelé à une meilleure coopération avec les plateformes Internet.

Il peut donc sembler que nous prenons le dessus. Et c'est en partie vrai : les tactiques des bots ont perdu leur nouveauté et n'ont jamais eu de finesse. Autrefois, leur force résidait dans le nombre. Les propagandistes en mobiliseraient des armées pour inonder Internet de messages et de réponses dans le but de submerger le véritable discours démocratique. Comme nous avons créé des contre-mesures techniques plus efficaces pour détecter les comportements de type bot, il est devenu plus facile de les arrêter. Les gens aussi sont devenus plus alertes et efficaces pour les repérer. Le bot moyen fait peu pour dissimuler son caractère robotique, et un rapide coup d'œil à ses habitudes de tweet, ou même à sa photo de profil, peut le révéler.

Cependant, la prochaine génération de bots évolue rapidement. Grâce en grande partie aux progrès du traitement du langage naturel - la même technologie qui rend possibles les interfaces vocales comme Alexa d'Amazon, Google Assistant et Cortana de Microsoft - ces bots se comporteront beaucoup plus comme de vraies personnes.

Certes, ces interfaces conversationnelles sont encore cahoteuses, mais elles s'améliorent et les avantages de pouvoir décoder avec succès le langage humain sont énormes. Les assistants numériques n'en sont qu'une des utilisations : les marques exploitent des chatbots conversationnels pour le service client, et des éditeurs comme CNN les utilisent pour distribuer du contenu multimédia personnalisé.

Ces chatbots se déclarent ouvertement automatisés, mais pas les robots de propagande. Ils se présenteront comme des utilisateurs humains participant à une conversation en ligne dans les sections de commentaires, les discussions de groupe et les babillards électroniques.

Contrairement à la croyance populaire, cela ne se produit pas encore. La plupart des bots réagissent simplement aux mots clés qui déclenchent une réponse passe-partout, qui s'intègre rarement dans le contexte ou la syntaxe d'une conversation donnée. Ces réponses sont souvent faciles à repérer.

Mais c'est de plus en plus difficile. Déjà, certains scripts de bot préprogrammés simples ont réussi à induire les utilisateurs en erreur. Au fur et à mesure que les robots apprennent à comprendre le contexte et l'intention, ils deviennent plus aptes à engager une conversation sans faire exploser leur couverture.

Dans quelques années, les robots conversationnels pourraient rechercher des utilisateurs sensibles et les approcher via des canaux de discussion privés. Ils navigueront avec éloquence dans les conversations et analyseront les données d'un utilisateur pour diffuser une propagande personnalisée. Les robots orienteront les gens vers des points de vue extrémistes et contreront les arguments de manière conversationnelle.

Plutôt que de diffuser de la propagande à tout le monde, ces robots dirigeront leur activité vers des personnes influentes ou des dissidents politiques. Ils attaqueront les individus avec un discours de haine scénarisé, les submergeront de spam ou feront fermer leurs comptes en signalant leur contenu comme abusif.

Idéal pour Google, idéal pour les bots

Il vaut la peine d'examiner exactement comment les techniques d'IA qui alimentent ces types de bots s'améliorent, car les méthodes employées par les entreprises technologiques sont également excellentes pour renforcer les capacités des bots politiques.

Pour fonctionner, le traitement du langage naturel nécessite des quantités importantes de données. Les entreprises technologiques comme Google et Amazon obtiennent ces données en ouvrant leurs algorithmes de traitement du langage au public via des interfaces de programmation d'applications ou des API. Des tiers, comme une banque par exemple, qui souhaitent automatiser les conversations avec leurs clients peuvent envoyer des données brutes, telles que les scripts audio ou texte des appels téléphoniques, à ces API. Les algorithmes traitent le langage et renvoient des données lisibles par machine prêtes à déclencher des commandes. En retour, les entreprises technologiques qui fournissent ces API ont accès à de grandes quantités d'exemples conversationnels, qu'elles peuvent utiliser pour améliorer leur apprentissage automatique et leurs algorithmes.

De plus, presque toutes les grandes entreprises technologiques mettent à la disposition des développeurs des algorithmes open source pour le traitement du langage naturel. Les développeurs peuvent les utiliser pour créer de nouvelles applications propriétaires, par exemple un logiciel pour un robot à commande vocale. Au fur et à mesure que les développeurs font progresser et affinent les algorithmes d'origine, les entreprises technologiques profitent de leurs commentaires.

Le problème est que ces services sont largement accessibles à presque tout le monde, y compris les personnes qui construisent des robots politiques. En fournissant une boîte à outils pour automatiser la conversation, les entreprises technologiques enseignent involontairement à la propagande de parler.

Le pire est encore à venir

Les robots versés dans le langage humain restent pour l'instant des cas particuliers. Cela nécessite toujours une expertise, une puissance de calcul et des données de formation substantielles pour équiper les bots d'algorithmes de traitement du langage à la pointe de la technologie. Mais ce n'est pas hors de portée. Depuis 2010, les partis politiques et les gouvernements ont dépensé plus d'un demi-milliard de dollars dans la manipulation des médias sociaux, les transformant en un secteur hautement professionnalisé et bien financé.

Il reste encore un long chemin à parcourir avant qu'un bot puisse usurper un humain dans une conversation en tête-à-tête. Pourtant, à mesure que les algorithmes évoluent, ces capacités émergeront.

Comme pour toute autre innovation, une fois ces techniques d'IA prêtes à l'emploi, elles se libéreront inévitablement de l'ensemble limité d'applications pour lesquelles elles ont été conçues à l'origine.

Lisa-Maria Neudert est doctorante à l'Oxford Internet Institute et chercheuse au sein du Computational Propaganda Project.

cacher