Le scandale du grattage de photos d'IBM montre dans quelle bulle étrange vivent les chercheurs en IA

Catégorie: Intelligence artificielle Posté 15 mars

Mardi, NBC a publié un article avec un titre captivant : Le « sale petit secret » de la reconnaissance faciale : des millions de photos en ligne supprimées sans consentement. je lié dans notre dernier numéro d'Algorithme, mais cela vaut la peine d'être revisité aujourd'hui.

L'histoire met en lumière un ensemble de données récent publié par IBM avec 1 million d'images de visages, destiné à aider à développer des algorithmes de reconnaissance faciale plus justes. (J'ai également écrit sur l'actualité à l'époque.) Il s'avère, selon NBC, que ces visages ont été extraits directement du site d'hébergement de photos en ligne Flickr, sans l'autorisation des sujets ou des photographes.

Pour certains d'entre vous, cette pratique semblera immédiatement effrayante et bizarre. Pour d'autres, cela semblera parfaitement normal. Ce que cette histoire a révélé n'était pas tant un sale petit secret, mais plutôt le fossé culturel entre le public et la communauté de l'IA.

Vraiment, pour les initiés de l'industrie, IBM n'a rien fait d'extraordinaire. Les chercheurs en intelligence artificielle récupèrent en permanence des données provenant de divers coins d'Internet pour alimenter les algorithmes d'apprentissage automatique toujours plus gourmands qui en nécessitent d'énormes quantités pour s'entraîner. Les photos Instagram, par exemple, sont une source courante de données d'image ; les hashtags correspondent souvent au contenu des photos, ce qui facilite la génération de données étiquetées. Les articles du New York Times et du Wall Street Journal sont également une source commune de données pour des phrases bien écrites et corrigées. Encore mieux qu'ils soient classés par thème : technologie, business, sport.

En fait, l'extraction de données à partir de sources accessibles au public est tellement une norme de l'industrie qu'elle est enseignée comme une compétence fondamentale (sans éthique) dans la plupart des formations en science des données et en apprentissage automatique. Pendant ce temps, la plupart des plates-formes technologiques sont conçues pour inviter un tel grattage en offrant des API avec un accès direct à leurs données. Jusqu'à récemment, cela se faisait sans arrière-pensée. (Bonjour, Facebook.)

Tout cela ne veut pas dire que le grattage des données est bon ou mauvais. Il existe des façons totalement bénignes ou légitimes d'utiliser la pratique (voir Nous avons analysé 16 625 articles pour déterminer où l'IA se dirige ensuite) ; ça dépend vraiment du contexte. Cette histoire met plutôt en évidence la nécessité pour l'industrie technologique d'adapter ses normes culturelles et ses pratiques standard pour suivre l'évolution rapide de la technologie elle-même, ainsi que la sensibilisation du public à la manière dont ses données sont utilisées.

Il existe aujourd'hui des façons d'utiliser nos données que nous ignorions il y a cinq ou dix ans, déclare Rumman Chowdhury, responsable mondial de l'IA responsable chez Accenture Applied Intelligence. Comment aurions-nous pu [le public] accepter une capacité qui n'existait pas ?

En d'autres termes, cela a peut-être été une pratique viable de gratter allègrement les données des gens, et cela a peut-être déjà été suffisant pour que ces données soient utilisées tant qu'elles étaient accessibles au public, mais l'avènement de l'IA et l'ampleur sans précédent de La monopolisation et la monétisation des données de la Silicon Valley ont toutes changé l'équation. Les technologues ont la responsabilité d'évoluer avec lui et de s'assurer qu'il existe un consensus sociétal large et informé pour leurs pratiques.

Le conseil de Chowdhury à ceux qui ont du mal à naviguer dans les zones grises de la confidentialité des données ? Demandez-vous si la façon dont vous utilisez les données est conforme à l'esprit dans lequel elles ont été initialement générées et partagées. Si vous l'utilisez de manière complètement tangentielle, il est temps de faire une pause et de reconsidérer.

Cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.