La vidéo de Logan Paul est un récit édifiant pour les plates-formes qui espèrent que l'IA les sauvera du contenu offensant

Catégorie: Politique technique Posté 03 janvier

La star de YouTube Logan Paul (si vous n'êtes pas familier, il a 15 million abonnés) a mis en ligne une vidéo sur la plateforme au cours du week-end dans laquelle il semblait faire des blagues devant un corps suspendu à un arbre lors d'une visite dans une forêt au Japon où des personnes se sont suicidées. Les images ont accumulé plus de six millions de vues avant que Paul ne les retire.

Pourquoi est-ce important: La vidéo de Paul était pas attrapé par n'importe quel logiciel ou filtre humain de YouTube, ce qui en fait un excellent exemple de contenu qui n'aurait jamais dû être autorisé à une large diffusion, mais qui a néanmoins échappé aux systèmes d'intelligence artificielle de pointe. Ce qui est obscène, c'est d'avoir montré et manqué de respect envers le corps d'une victime suicidée, Tarleton Gillespie, chercheur principal chez Microsoft Research, Raconté Flux d'actualités . C'est le genre de subtilité contextuelle et éthique que les outils automatisés ne pourront probablement jamais approcher.

Aller de l'avant : L'incident montre que malgré les efforts déployés par Facebook et YouTube pour utiliser l'IA pour lutter contre le contenu répréhensible, le problème de modération du contenu ne sera pas résolu en appliquant un peu de logiciel.