Comment Facebook utilise l'apprentissage automatique pour lutter contre la propagande d'ISIS et d'Al-Qaïda

Catégorie: Silicon Valley Posté 12 novembre

Facebook affirme avoir trouvé et supprimé de manière proactive 99% du contenu lié au terrorisme sur le site au cours des trois derniers trimestres. Il a donné un aperçu de ses processus dans un article de blog .

Quelques statistiques : Tout d'abord, il est important de noter que lorsqu'il parle de terrorisme, Facebook ne fait référence qu'à l'Etat islamique et à Al-Qaïda. En moyenne, les entreprises affirment qu'elles suppriment désormais le contenu terroriste moins de deux minutes après sa publication, contre 14 heures en moyenne plus tôt cette année. Facebook a pris des mesures sur 9,4 millions d'éléments de contenu au deuxième trimestre 2018, un chiffre qui est tombé à 3 millions au troisième trimestre 2018, grâce à ses efforts du trimestre précédent, a-t-il déclaré.

Systèmes de détection : Facebook a lancé un nouvel outil d'apprentissage automatique qui évalue si les publications signalent un soutien à l'Etat islamique ou à Al-Qaïda. Il produit un score indiquant la probabilité qu'il viole leurs politiques antiterroristes, ceux qui reçoivent des scores plus élevés étant transmis à ses examinateurs humains pour évaluation. Pour les cas les mieux notés, les messages sont supprimés automatiquement. Dans les rares cas où les employés découvrent la possibilité d'un préjudice imminent, Facebook informe immédiatement les forces de l'ordre, a-t-il déclaré.

Libérez les bots : De toute évidence, Facebook tient à faire preuve de fermeté face au terrorisme. Et comme toujours, il s'appuie presque exclusivement sur des algorithmes pour le faire. Cela a beaucoup de sens de son point de vue, car les humains ne pourraient jamais analyser autant d'informations aussi rapidement (et elles coûtent cher). Mais c'est encore un autre rappel du rôle de Facebook en tant que juge, jury et bourreau sur les informations qu'il nous permet de voir.