Les algorithmes perceptifs se battent pour détecter davantage de contenu toxique sur le Web

Catégorie: Non classé Posté 20 décembre

Un nouveau concours pourrait aider à nettoyer Internet. Kaggle, un site qui permet aux organisations d'organiser des compétitions de science des données, vient de dévoiler son dernier projet, qui demande aux concurrents de créer des IA qui repèrent commentaires toxiques .

Les concurrents sont invités à construire un système capable de lutter contre différents types de toxicité comme les menaces, l'obscénité, les insultes et la haine basée sur l'identité. Le concours est soutenu par Jigsaw, une partie d'Alphabet, qui dirige une initiative de recherche appelée Conversation AI pour améliorer le discours en ligne. Pour gagner le prix de 35 000 $ sur Kaggle, une entrée devra battre les résultats d'un système construit par Jigsaw, appelé Perspective API. Depuis son lancement mardi, 199 équipes ont rejoint la compétition.

Internet aurait certainement besoin d'outils plus nombreux et de meilleure qualité pour éliminer les menaces et les discours de haine. Facebook, YouTube et Twitter ont tous eu du mal à contrôler ce contenu dans le passé, et la plupart des grandes entreprises technologiques insistent sur le fait que l'IA peut les aider à le nettoyer à l'avenir. Mais aucun d'entre eux n'a encore réussi à le faire, et les gouvernements sont mécontents de ne pas réussir à faire supprimer rapidement les discours de haine.

Les grandes entreprises technologiques essaient cependant. Facebook a lancé un outil appelé Deeptext en 2016 pour détecter les sentiments dans les commentaires afin d'éliminer les contenus inappropriés. Il prend environ 66 000 commentaires une semaine mais a encore des milliers de personnes qui surveillent les flux. Twitter, quant à lui, annoncé cette semaine qu'il interdira les comptes qui envoient des tweets et des messages menaçants.

Peut-être que le concours Kaggle aidera enfin à résoudre le problème.