Voici comment l'IA de Facebook recherche les mauvaises choses

Catégorie: Intelligence artificielle Posté 29 novembre

Le contexte: La grande majorité de la modération de Facebook est désormais effectuée automatiquement par les systèmes d'apprentissage automatique de l'entreprise, ce qui réduit la quantité de contenu déchirant que ses modérateurs doivent examiner. Dans sa dernière rapport sur l'application des normes communautaires , publié plus tôt ce mois-ci, la société a affirmé que 98 % des vidéos et photos terroristes sont supprimées avant que quiconque ait la chance de les voir, et encore moins de les signaler.

Alors, qu'est-ce qu'on voit ici ? L'entreprise a formé ses systèmes d'apprentissage automatique pour identifier et étiqueter des objets dans des vidéos, du banal, comme des vases ou des personnes, au dangereux, comme des armes à feu ou des couteaux. L'IA de Facebook utilise deux approches principales pour rechercher des contenus dangereux. L'une consiste à utiliser des réseaux de neurones qui recherchent les caractéristiques et les comportements d'objets connus et les étiquettent avec différents pourcentages de confiance (comme nous pouvons le voir dans la vidéo ci-dessus).

Formation en cours : Ces réseaux de neurones sont formés sur une combinaison de vidéos pré-étiquetées de ses examinateurs humains, de rapports d'utilisateurs et bientôt de vidéos prises par la police métropolitaine de Londres. Les réseaux de neurones sont capables d'utiliser ces informations pour deviner ce que la scène entière pourrait montrer et si elle contient des comportements ou des images qui doivent être signalés. Il a donné plus de détails sur le fonctionnement de ses systèmes lors d'un point de presse cette semaine.

Alors quoi? Si le système décide qu'un fichier vidéo contient des images ou un comportement problématiques, il peut le supprimer automatiquement ou l'envoyer à un réviseur de contenu humain. S'il enfreint les règles, Facebook peut alors créer un hachage - une chaîne unique de chiffres - pour l'indiquer et le propager dans tout le système afin que tout autre contenu correspondant soit automatiquement supprimé si quelqu'un tente de le télécharger à nouveau. Ces hachages peuvent être partagés avec d'autres entreprises de médias sociaux afin qu'elles puissent également supprimer des copies du fichier incriminé.

Ces vidéos [Metropolitan Police] sont incroyablement utiles pour nous. Les événements terroristes sont rares, heureusement, mais cela signifie que la quantité de données de formation est si petite, a déclaré le directeur de l'ingénierie, Nicola Bortignon, lors d'un appel.

Un point faible : Facebook a encore du mal à automatiser sa compréhension du sens, de la nuance et du contexte du langage. C'est pourquoi l'entreprise compte sur les gens pour signaler l'écrasante majorité des messages d'intimidation et de harcèlement qui enfreignent ses règles : seulement 16 % de ces messages sont identifiés par ses systèmes automatisés. À mesure que la technologie progresse, nous pouvons nous attendre à voir ce chiffre augmenter. Cependant, amener l'IA à vraiment comprendre le langage reste l'un des plus grands défis du domaine .

La plus grande image : En mars, un terroriste a tué 49 personnes dans deux mosquées de Christchurch, en Nouvelle-Zélande. Il a diffusé le massacre en direct sur Facebook, et des vidéos de celui-ci ont circulé sur le site pendant des mois après. C'était un signal d'alarme pour l'industrie. Si cela se reproduisait maintenant, il y a de meilleures chances qu'il soit détecté et retiré plus rapidement.