Le racisme empoisonne la diffusion d'annonces en ligne, déclare un professeur de Harvard

As-tu déjà été arrêté? Imaginez que la question n'apparaisse pas dans la solitude de vos pensées pendant que vous lisez cet article, mais apparaît explicitement chaque fois que quelqu'un demande votre nom dans un moteur de recherche.

Capture d'écran d'une annonce Google.

Ainsi commence Latanya Sweeney de l'Université Harvard dans un article convaincant affirmant que la discrimination raciale empoisonne la diffusion d'annonces en ligne.

De nombreuses personnes auront fait l'expérience de googler des amis, des collègues et des parents pour découvrir leur présence en ligne - les sites Web sur lesquels ils apparaissent, leurs photos, leurs passe-temps, etc.

L'intérêt de Sweeney réside dans les publicités qui apparaissent à côté de ces résultats. Lorsqu'elle a saisi son nom dans Google, une annonce est apparue avec le libellé :

Latanya Sweeney, arrêtée ? 1) Entrez le nom et l'état 2) Accédez à l'arrière-plan complet. Vérifie instantanément. www.instantcheckmate.com

C'est une formulation suggestive. Il suggère que Latanya Sweeney a un casier judiciaire dont les détails peuvent être consultés en cliquant sur l'annonce. Mais après avoir cliqué sur le lien et payé les frais d'abonnement nécessaires, Sweeney dit qu'elle n'a trouvé aucune trace d'arrestation.

Ce qui est intéressant à ce sujet, c'est que le prénom de Sweeney est également suggestif - qu'elle est noire. La question que pose Sweeney est de savoir si une recherche similaire avec un nom suggérant un profil racial blanc sert également à des annonces mentionnant des dossiers d'arrestation.

La réponse est un puissant réveil. Sweeney dit qu'elle a des preuves que les noms d'identification noirs sont jusqu'à 25 pour cent plus susceptibles d'être signifiés avec une annonce liée à une arrestation. Il y a discrimination dans la diffusion de ces publicités, conclut-elle.

Sweeney a rassemblé ces preuves en collectant plus de 2000 noms suggérant une race. Par exemple, des prénoms tels que Trevon, Lakisha et Darnell suggèrent que le propriétaire est noir tandis que des noms comme Laurie, Brendan et Katie suggèrent que le propriétaire est blanc.

Elle a ensuite entré ces noms de famille plus dans Google.com et Reuters.com et a examiné les annonces qu'ils ont renvoyées. La plupart des noms ont généré des annonces pour les dossiers publics. Cependant, les noms d'identification noire se sont avérés beaucoup plus susceptibles que les noms d'identification blanche de générer des publicités incluant le mot arrestation (60 pour cent contre 48 pour cent). Tout venait de www.instantcheckmate.com .

Elle dit que les résultats sont statistiquement significatifs avec moins de 0,1 pour cent de chances qu'ils aient été générés par hasard.

Sur Reuters.com, les noms d'identification noirs étaient 25 % plus susceptibles d'être signifiés avec une annonce liée à une arrestation.

C'est un résultat extraordinaire et qui soulève plus de questions qu'il n'apporte de réponses. Le plus gros casse-tête, bien sûr, est de savoir ce qui fait que les annonces sont diffusées selon ce modèle. Ici, le mystère du service Adsense de Google obscurcit considérablement les choses.

Sweeney dit qu'il y a essentiellement trois possibilités. L'un est que www.instantcheckmate.com a mis en place les annonces de mention d'arrestation à diffuser jusqu'aux noms d'identification noirs. Une autre est que Google a en quelque sorte biaisé son mécanisme de diffusion d'annonces de cette manière.

Une explication plus insidieuse est que la société dans son ensemble est à blâmer. Si le service Adsense de Google apprend quelles combinaisons d'annonces sont les plus efficaces, il diffusera d'abord les annonces liées aux arrestations à tous les noms au hasard. Mais cela changerait s'il découvrait que les clics sont plus probables lorsque ces annonces sont diffusées contre un nom d'identification noir. En d'autres termes, les résultats reflètent simplement le modèle discriminatoire des clics des gens ordinaires.

Bien sûr, nous ne pouvons pas savoir sans un meilleur aperçu de la boîte noire qu'est Google Adsense.

Il est clair que Sweeney a découvert un grave problème ici étant donné l'impact que la présence en ligne peut avoir sur les perspectives d'emploi d'un individu.

Quelle que soit la cause, Sweeney dit que la technologie peut offrir une sorte de solution. Si les algorithmes derrière Adsense peuvent raisonner sur la maximisation des revenus, elle dit qu'ils devraient être capables de raisonner sur les conséquences juridiques et sociales de certains types de clics.

C'est une idée intéressante et que Google, www.instantcheckmate.com et la société en général devrait considérer plus en détail.

Réf : http://arxiv.org/abs/1301.6822 Discrimination dans la diffusion d'annonces en ligne

Update 4 Feb 2013 14:34 EST

En réponse à cet article de blog, un porte-parole de Google envoie le commentaire suivant :

AdWords ne procède à aucun profilage racial. Nous avons également un politique anti-violence qui stipule que nous n'autoriserons pas les publicités qui plaident contre une organisation, une personne ou un groupe de personnes. Il appartient aux annonceurs individuels de décider quels mots clés ils souhaitent choisir pour déclencher leurs annonces.

Mise à jour 7 février

Instantcheckmate.com envoie la déclaration suivante :

En fait, Instant Checkmate tient à déclarer sans équivoque qu'il n'a jamais pratiqué le profilage racial dans Google AdWords.
Nous n'avons absolument aucune technologie en place pour même associer un nom à une race et n'avons jamais tenté de le faire. L'idée même est contraire aux principes et valeurs les plus ancrés de notre entreprise.

cacher