Les fausses images se propagent rapidement sur Facebook et ses filtres d'intelligence artificielle les manquent

Catégorie: Silicon Valley Posté 23 février

Il existe une arme de manipulation de masse que Facebook aurait du mal à vaincre : Photoshop.

Fausses photos : le le journal Wall Street explique que les images trafiquées étaient une technique cruciale et d'une simplicité trompeuse utilisée par les propagandistes russes pour diffuser des informations fabriquées lors des élections de 2016.

Les photos sont parfaites : Les gens aiment les images et les partagent plus fréquemment sur les réseaux sociaux que les publications textuelles. Les modifier pour injecter du faux contenu ou des messages trompeurs est un moyen utile de diffuser rapidement de la propagande.

Difficile à bloquer : L'IA peut être en mesure d'identifier des objets dans des images, mais comprendre comment et pourquoi les images ont été modifiées est plus difficile, notamment parce qu'elle nécessite une compréhension du contexte. Et dans tous les cas, Facebook est nerveux à l'idée de censurer le contenu et n'automatise même pas le processus de suppression des messages texte, ce qui devrait être plus facile.

Ensuite : le Journal dit que le réseau social travaille sur des systèmes qui pourraient identifier quand les images sont utilisées hors contexte. Mais attendez-vous à ce que de fausses images circulent sur les fils d'actualité pendant un certain temps encore.