Les photos en ligne des gens sont utilisées sans consentement pour former l'IA de reconnaissance faciale

Catégorie: Intelligence artificielle Posté 13 mars

Des photos de visages de personnes sont régulièrement prises sur des sites Web pour aider à développer des algorithmes de reconnaissance faciale, sans le consentement des sujets, un rapport de CNB révèle.

Le dernier exemple : En janvier IBM a publié un ensemble de données de près d'un million de photos extraites du site de partage de photos Flickr, puis annotées avec des informations sur des détails tels que le teint de la peau. La société a proposé cela dans le cadre des efforts visant à réduire le problème (très réel) de biais dans la reconnaissance faciale. Cependant, il n'a obtenu le consentement de personne pour le faire, et il est presque impossible de faire supprimer les photos.

Sale secret : IBM est loin d'être le seul. Alors que les entreprises s'efforcent d'améliorer leur technologie de reconnaissance faciale, elles ont besoin d'accéder à un grand nombre d'images pour alimenter leurs algorithmes. Le simple fait de prendre des images qui ont déjà été téléchargées sur Internet est un moyen très rapide, mais éthiquement discutable, de le faire.

Des progrès rapides: La reconnaissance faciale peut être pratique pour déverrouiller votre téléphone, mais elle peut également être un puissant outil de surveillance. Son utilisation se développe rapidement sans pratiquement aucun contrôle, ce qui conduit à des appels croissants pour que la technologie soit réglementée.

Une tension: Les algorithmes de reconnaissance faciale ont un bilan de précision médiocre lorsqu'il s'agit d'identifier les visages non blancs, et les systèmes peuvent personnes malhonnêtes sur la base, par exemple, de la longueur de leurs cheveux. Une façon de lutter contre cela consiste à ajouter plus d'images, par exemple, de femmes noires ou d'hommes aux cheveux longs, aux données d'entraînement. Mais le faire sans obtenir le consentement des gens avant d'utiliser leurs photos laissera beaucoup de personnes profondément mal à l'aise.

Inscrivez-vous ici à notre newsletter quotidienne The Download pour recevoir votre dose des dernières nouvelles incontournables du monde de la technologie émergente.