L'IA peut-elle gagner la guerre contre les fake news ?

Conception Selman

C'était peut-être la première fausse nouvelle de l'histoire d'Internet : en 1984, quelqu'un a posté sur Usenet que l'Union soviétique rejoignait le réseau. C'était un inoffensif Farce du poisson d'avril , loin des campagnes de désinformation militarisées d'aujourd'hui et des fabrications sans scrupules conçues pour générer un profit rapide. En 2017, le contenu en ligne trompeur et malicieusement faux est si prolifique que nous, les humains, avons peu d'espoir de nous sortir du bourbier. Au lieu de cela, il semble de plus en plus probable que les machines devront nous sauver.

Un algorithme destiné à faire briller une lumière dans l'obscurité est AdVerif.ai , qui est géré par une startup du même nom. Le logiciel artificiellement intelligent est conçu pour détecter les histoires bidon, la nudité, les logiciels malveillants et une foule d'autres types de contenu problématique. AdVerif.ai, qui a lancé une version bêta en novembre, travaille actuellement avec des plateformes de contenu et des réseaux publicitaires aux États-Unis et en Europe qui ne veulent pas être associés à des histoires fausses ou potentiellement offensantes.

La société a vu une opportunité en se concentrant sur un produit pour les entreprises plutôt que sur quelque chose pour un utilisateur moyen, selon Or Levi, fondateur d'AdVerif.ai. Bien que les consommateurs individuels ne s'inquiètent peut-être pas de la véracité de chaque article sur lequel ils cliquent, les annonceurs et les plateformes de contenu ont quelque chose à perdre en hébergeant ou en faisant la publicité de mauvais contenus. Et s'ils apportent des modifications à leurs services, ils peuvent être efficaces pour couper les sources de revenus des personnes qui gagnent de l'argent en créant de fausses nouvelles. Ce serait un grand pas dans la lutte contre ce type de contenu, dit Levi.

AdVerif.ai analyse le contenu pour repérer les signes révélateurs que quelque chose ne va pas, comme des titres qui ne correspondent pas au corps, par exemple, ou trop de lettres majuscules dans un titre. Il recoupe également chaque histoire avec sa base de données de milliers d'histoires légitimes et fausses, qui est mise à jour chaque semaine. Les clients voient un rapport pour chaque élément pris en compte par le système, avec des scores qui évaluent la probabilité que quelque chose soit une fausse nouvelle, contienne des logiciels malveillants ou contienne tout ce qu'ils ont demandé au système de surveiller, comme la nudité. Finalement, Levi dit qu'il prévoit d'ajouter la possibilité de repérer les images manipulées et d'avoir un plugin de navigateur.

En testant une version de démonstration d'AdVerif.ai, l'IA a reconnu le Oignon comme satire (qui a trompé beaucoup de gens dans le passé). Les histoires de Breitbart ont été classées comme non fiables, justes, politiques, biaisées, tandis que Cosmopolite était considéré comme de gauche. Il pouvait dire quand un compte Twitter utilisait un logo, mais les liens n'étaient pas associés à la marque qu'il représentait. AdVerif.ai a non seulement découvert qu'un article sur Natural News avec le titre Evidence indique que Bitcoin est un psyop conçu par la NSA pour déployer une monnaie numérique mondiale provenait d'un site sur liste noire, mais l'a identifié comme une fausse nouvelle apparaissant sur d'autres sites sur liste noire sans aucune référence dans des organes de presse légitimes.

Certaines histoires douteuses passent encore. Sur un site appelé Action News 3, un article intitulé NFL Player Photographed Burning an American Flag in Locker Room! n'a pas été pris, bien qu'il ait été avéré être une fabrication . Pour aider le système à apprendre au fur et à mesure, sa liste noire de fausses histoires peut être mise à jour manuellement histoire par histoire.

AdVerif.ai n'est pas la seule startup qui voit une opportunité dans la fourniture d'un sérum de vérité alimenté par l'IA pour les entreprises en ligne. Entreprises de cybersécurité en particulier, ont rapidement ajouté des opérations de repérage de bots et de fausses nouvelles à leur répertoire, soulignant à quel point de nombreuses méthodes ressemblent au piratage. Facebook est peaufiner ses algorithmes pour minimiser les fausses nouvelles dans ses fils d'actualité, et Google s'est associé à un site de vérification des faits — jusqu'à présent avec résultats inégaux . Le Fake News Challenge, un concours organisé par des bénévoles de la communauté de l'IA, lancé à la fin de l'année dernière dans le but d'encourager le développement d'outils qui pourraient aider à lutter contre les reportages de mauvaise foi.

Histoire connexe

Histoire connexe Grâce au machine learning, il devient facile de générer des vidéos réalistes et de se faire passer pour quelqu'un.

Delip Rao, l'un de ses organisateurs et fondateur de Joostware, une entreprise qui crée des systèmes d'apprentissage automatique, a déclaré que la détection de fausses nouvelles avait tellement de facettes que le défi se ferait en plusieurs étapes. La première étape est la détection de position, ou prendre une histoire et déterminer ce que les autres sites d'actualités ont à dire sur le sujet. Cela permettrait aux vérificateurs de faits humains de s'appuyer sur des histoires pour valider d'autres histoires et de passer moins de temps à vérifier des éléments individuels.

Le Fake News Challenge a publié des ensembles de données que les équipes peuvent utiliser, avec 50 équipes soumettant des candidatures. Talos Intelligence, une division de cybersécurité de Cisco, a remporté le défi avec un algorithme correct à plus de 80 %, pas tout à fait prêt pour les heures de grande écoute, mais toujours un résultat encourageant. Le prochain défi pourrait être des images avec du texte superposé (pensez aux mèmes, mais avec de fausses nouvelles), un format souvent promu sur les réseaux sociaux, car son format est plus difficile à décomposer et à comprendre pour les algorithmes.

Nous voulons essentiellement créer les meilleurs outils pour les vérificateurs de faits afin qu'ils puissent travailler très rapidement, a déclaré Rao. Comme des vérificateurs de faits sous stéroïdes.

Même si un système est développé qui est efficace pour repousser la vague de faux contenus, il est peu probable que ce soit la fin de l'histoire. Les systèmes d'intelligence artificielle sont déjà capables de créer de faux textes, ainsi que des images et des vidéos incroyablement convaincantes. (voir Vrai ou faux ? L'IA rend les choses très difficiles à savoir ). Peut-être à cause de cela, une récente Étude Gartner prédit que d'ici 2022, la majorité des habitants des économies avancées verront plus de fausses informations que de vraies. Le même rapport a révélé qu'avant même que cela ne se produise, le contenu falsifié dépassera la capacité de l'IA à le détecter, ce qui changera la façon dont nous faisons confiance aux informations numériques.

Ce que AdVerif.ai et d'autres représentent, alors, ressemble moins au dernier mot dans la guerre contre le faux contenu qu'au premier tour d'une course aux armements, dans laquelle les faux créateurs de contenu obtiennent leur propre IA qui peut déjouer les bonnes IA (voir AI Could Faites-nous reculer de 100 ans en ce qui concerne la façon dont nous consommons les actualités ). En tant que société, nous devrons peut-être encore réévaluer la façon dont nous obtenons nos informations.

cacher