Les données radioactives de Facebook traquent les images utilisées pour former une IA

Catégorie: Intelligence artificielle Posté 06 février

Les nouvelles: Une équipe de Facebook AI Research a développé un moyen pour suivre exactement quelles images dans un ensemble de données ont été utilisés pour former un modèle d'apprentissage automatique. En apportant des modifications imperceptibles aux images, en créant une sorte de filigrane, ils ont pu apporter de minuscules modifications correspondantes au fonctionnement d'un classificateur d'images formé sur ces images, sans nuire à sa précision globale. Cela leur a permis plus tard de faire correspondre les modèles avec les images qui ont été utilisées pour les former.

Pourquoi est-ce important: Facebook appelle la technique des données radioactives car elle est analogue à l'utilisation de marqueurs radioactifs en médecine, qui apparaissent dans le corps sous les rayons X. La mise en évidence des données utilisées pour former une IA rend les modèles plus transparents, en signalant les sources potentielles de biais, comme un modèle formé sur un ensemble d'images non représentatif, ou en révélant quand un ensemble de données a été utilisé sans autorisation ou à des fins inappropriées.

Ne fais pas d'erreur: Un grand défi était de changer les images sans casser le modèle résultant. De minuscules ajustements à l'entrée d'une IA peuvent parfois l'amener à faire des erreurs stupides, comme identifier une tortue comme une arme à feu ou un paresseux comme une voiture de course. Facebook s'est assuré de concevoir ses filigranes pour que cela ne se produise pas. L'équipe a testé sa technique sur ImageNet, un ensemble de données largement utilisé de plus de 14 millions d'images, et a découvert qu'elle pouvait détecter l'utilisation de données radioactives avec une grande confiance dans un modèle particulier, même lorsque seulement 1 % des images avaient été marquées.