Pourquoi l'interdiction de la reconnaissance faciale à San Francisco n'est que le début d'un long combat

Une image d'une rue de San Francisco Unsplash

San Francisco est devenu le première ville américaine à interdire l'utilisation de la reconnaissance faciale par son gouvernement . Mais bien que les défenseurs de la vie privée célèbrent, l'ordonnance n'empêche pas les entreprises privées d'utiliser l'identification faciale d'une manière que beaucoup de gens trouvent effrayante.

Cela pourrait cependant être une première étape.

L'utilisation de la technologie de reconnaissance faciale est devenue de plus en plus courante, malgré les preuves qu'elle identifie fréquemment à tort les personnes de couleur . Les militants avertissent que cela pourrait conduire à de fausses arrestations ou être utilisé pour suivre les allées et venues des personnes et cibler les dissidents qui n'ont rien fait de mal .

Ces dernières années, les responsables de San Francisco ont dû remettre en question leur utilisation d'outils de surveillance de haute technologie. En 2009, la police a arrêté une conductrice, Denise Green, et l'a tenue sous la menace d'une arme alors qu'elle fouillait sa voiture , tout cela parce qu'un lecteur de plaque d'immatriculation a dit à tort qu'il avait été volé. Green a intenté un procès et la ville s'est retrouvée lui payer 495 000 $ . De tels épisodes ont sans aucun doute contribué à la pression pour une interdiction, bien que la police de San Francisco n'utilise pas actuellement la technologie de reconnaissance faciale.

À bien des égards, cependant, il n'est pas surprenant que la ville obsédée par la technologie soit la première à restreindre la technologie. [It's like how] Les parents de la Silicon Valley sont les plus susceptibles d'interdire le temps d'écran pour leurs enfants, déclare Laura Noren, éthicienne des données et vice-présidente de la confidentialité et de la confiance chez Sécurité Obsidienne . D'autres villes férues de technologie suivront probablement son exemple, dit Noren, ce qui explique pourquoi les villes voisines d'Oakland et Somerville dans le Massachusetts ont déjà proposé des interdictions similaires. Pourtant, elle pense qu'une interdiction fédérale est peu probable sous l'administration Trump.

Public vs privé

Cependant, l'expérience de la plupart des gens avec l'analyse et la reconnaissance faciales ne se produira pas à cause de la surveillance policière. Ce sera plutôt à cause d'efforts non gouvernementaux, comme caméras de sécurité scolaire ou des magasins qui montrer aux consommateurs des publicités ciblées . Ces utilisations comportent les mêmes risques d'identification erronée et de discrimination, mais des interdictions comme celle de San Francisco ne les interdiront pas.

Dans un exemple des problèmes qui pourraient survenir, un jeune de 18 ans a poursuivi Apple le mois dernier parce que, selon lui, un système de reconnaissance faciale dans l'un de ses magasins l'a faussement lié à des vols. (Selon Apple, il n'utilise pas de tels systèmes dans ses magasins.) Dans un autre cas, les locataires d'Atlantic Plaza Towers, un immeuble d'appartements à New York, luttent contre le projet de leur propriétaire de remplacer un système d'entrée par télécommande par un système de reconnaissance faciale . La technologie est discriminatoire, disent les locataires, car les habitants de la tour sont pour la plupart des personnes de couleur. Pourquoi [le propriétaire] a-t-il choisi notre immeuble pour tester ce système ? Versus 11 autres bâtiments qui ont une composition différente ? demande Icemae Downes, l'une des résidentes.

Une interdiction complète dans le secteur privé est cependant peu probable. De nombreux consommateurs utilisent déjà FaceID pour déverrouiller leur iPhone ou achètent des sonnettes vidéo, comme Nest Hello de Google, qui identifier les personnes familières . Lorsque votre récit est une «surveillance gouvernementale», cela a tendance à avoir une résonance puissante, dit Joseph Jérôme , conseiller politique pour le projet Privacy & Data du Center for Democracy and Technology. Lorsque vous traitez avec le secteur privé, nous commençons à avoir des débats sur ce qui constitue une innovation bénéfique.

De tels débats se compliquent rapidement. Si les entreprises utilisent la technologie de reconnaissance faciale, comment doivent-elles informer les clients ? Quels droits les gens devraient-ils avoir pour se retirer, et dans quelle mesure ce processus devrait-il être facile ? Les données doivent-elles être cédées ou vendues à des tiers ? Telles sont quelques-unes des questions qui ont été soulevées lors de la discussion d'un Projet de loi sur la protection de la vie privée de l'État de Washington qui a échoué plus tôt cette année, selon Jevan Hutson , chercheur en politique technologique à l'Université de Washington. Les deux parties n'ont pas pu s'entendre sur la force des restrictions de confidentialité.

Pourtant, des restrictions sur les utilisations commerciales ont commencé à apparaître, explique Jennifer Lynch, directrice du contentieux de la surveillance à l'Electronic Frontier Foundation. Par example, une loi dans l'Illinois oblige les entreprises à obtenir le consentement avant de collecter tout type de données biométriques. Un projet de loi bipartite avec une exigence plus étroite, le Loi sur la protection des renseignements personnels relative à la reconnaissance faciale commerciale , fait actuellement l'objet d'audiences en commission au Congrès.

Pour sa part, Noren pense que les entreprises poursuivront une exigence de seuil de précision - en fait, proposer que la reconnaissance faciale soit autorisée tant qu'elles peuvent prouver qu'elle ne fait pas trop d'erreurs.

En fin de compte, dit Jérôme, il est trop tôt pour dire à quel point l'ordonnance SF influencera la réglementation commerciale. Je pense que cela alimentera le débat que les États et le gouvernement fédéral ont sur la reconnaissance faciale, mais il n'est pas clair si cela mène à l'action, dit-il. Il y a quelques années, ajoute Jérôme, il y a eu une scission public/privé similaire à propos des drones : de nombreuses villes locales ont restreint leur utilisation par les forces de l'ordre, mais n'ont pas fait grand-chose pour les réglementer à des fins commerciales.

cacher