Les lois et l'éthique ne peuvent pas suivre le rythme de la technologie

Les employeurs peuvent avoir des problèmes juridiques s'ils interrogent les personnes interrogées sur leur religion, leurs préférences sexuelles ou leur affiliation politique. Pourtant, ils peuvent utiliser les médias sociaux pour filtrer les candidats en fonction de leurs croyances, de leur apparence et de leurs habitudes. Les lois interdisent aux prêteurs de discriminer sur la base de la race, du sexe et de la sexualité. Pourtant, ils peuvent refuser d'accorder un prêt à des personnes dont les amis Facebook ont ​​des antécédents de mauvais paiement, si leurs antécédents professionnels sur LinkedIn ne correspondent pas à leurs biographies sur Facebook ou si un algorithme informatique les juge socialement indésirables.

Vivek Wadhwa

Ces lacunes réglementaires existent parce que les lois n'ont pas suivi les progrès de la technologie. Les écarts se creusent à mesure que la technologie progresse de plus en plus rapidement. Et il ne s'agit pas seulement de l'emploi et des prêts, la même chose se produit dans tous les domaines touchés par la technologie.

C'est ainsi que cela doit être, car le droit est, dans ce qu'il y a de mieux et de plus légitime, selon les mots de Gandhi, une « éthique codifiée », déclare Preeta Bansal, une ancienne avocate générale à la Maison Blanche. Elle explique que des lois et des normes d'éthique efficaces sont des lignes directrices acceptées par les membres d'une société et que celles-ci nécessitent le développement d'un consensus social.

Prenez le développement des lois sur le droit d'auteur, qui a suivi la création de l'imprimerie. Lorsqu'elle a été introduite pour la première fois dans les années 1400, l'imprimerie perturbait les élites politiques et religieuses car elle permettait la diffusion des connaissances et le partage des expériences. Elle contribua à accélérer le déclin du Saint Empire romain germanique, par la diffusion des écrits protestants ; la montée du nationalisme et des États-nations, due à une prise de conscience culturelle croissante ; et finalement la Renaissance. Les débats sur la propriété des idées ont fait rage pendant environ 300 ans avant que les premiers statuts ne soient promulgués par la Grande-Bretagne.

De même, la machine à vapeur, la production de masse d'acier et la construction de chemins de fer aux XVIIIe et XIXe siècles ont conduit au développement des droits de propriété immatérielle et du droit des contrats. Celles-ci étaient fondées sur des affaires impliquant la propriété sur la voie, la responsabilité délictuelle pour les dommages causés au bétail et aux employés, et le domaine éminent (le pouvoir de l'État d'acquérir de force des terres pour l'utilité publique).

Nos lois et nos pratiques éthiques ont évolué au fil des siècles. Aujourd'hui, la technologie est sur une courbe exponentielle et touche pratiquement tout le monde, partout. Des changements d'une ampleur qui prenaient autrefois des siècles se produisent maintenant en décennies, parfois en années. Il n'y a pas si longtemps, Facebook était un site de rencontres dans les dortoirs, les téléphones portables étaient destinés aux ultra-riches, les drones étaient des machines de guerre à plusieurs millions de dollars et les superordinateurs étaient destinés à la recherche secrète du gouvernement. Aujourd'hui, les amateurs peuvent construire des drones et les villageois pauvres en Inde accèdent à des comptes Facebook sur des smartphones dotés de plus de puissance de calcul que le Cray 2, un superordinateur qui coûtait 17,5 millions de dollars en 1985 et pesait 2 500 kilogrammes. Une séquence complète du génome humain, qui a coûté 100 millions de dollars en 2002, peut aujourd'hui être réalisée pour 1 000 dollars - et pourrait coûter moins qu'une tasse de café d'ici 2020.

Nous n'avons pas compris ce qui est éthique, et encore moins ce que devraient être les lois, en ce qui concerne les technologies telles que les médias sociaux. Considérez la question de la vie privée. Nos lois remontent à la fin du XIXe siècle, lorsque les journaux ont commencé à publier des informations personnelles et que l'avocat de Boston, Samuel Warren, s'est opposé aux potins sociaux publiés sur sa famille. Cela a conduit son partenaire juridique, le futur juge de la Cour suprême des États-Unis, Louis Brandeis, à écrire l'article de revue de loi The Right of Privacy. Leur idée qu'il existe un droit à être laissé seul, comme il existe un droit à la propriété privée, est sans doute devenue l'article de revue de loi le plus célèbre de tous les temps et a jeté les bases de la loi américaine sur la protection de la vie privée.

Les lacunes dans les lois sur la protection de la vie privée ont augmenté de façon exponentielle depuis lors.

Il y a un tollé général aujourd'hui - comme il devrait y en avoir - à propos de la surveillance de la NSA, mais l'étendue de cette surveillance est dérisoire par rapport aux données que Google, Apple, Facebook et des légions de développeurs d'applications collectent. Nos smartphones suivent nos mouvements et nos habitudes. Nos recherches sur le Web révèlent nos pensées. Avec les appareils portables et les capteurs médicaux qui sont connectés à nos smartphones, les informations sur notre physiologie et notre santé tombent également dans le domaine public. Où délimitons-nous ce qui est légal et éthique ?

Une technologie de rupture : Une imprimerie de 1568. La technologie a provoqué des bouleversements sociaux.

Ensuite, il y a notre ADN. Les tests génomiques deviendront bientôt aussi courants que les tests sanguins, et il ne sera pas facile de protéger nos données génomiques. La société 23andMe s'est heurtée aux régulateurs car elle disait aux gens à quelles maladies ils pouvaient être prédisposés. Le problème était l'exactitude de l'analyse et ce que les gens pouvaient faire avec cette information. La plus grande question, cependant, est de savoir ce que les entreprises font avec les données génomiques. Les sociétés de tests génétiques ont inclus des clauses contractuelles qui leur permettent d'utiliser et de vendre les informations génétiques de leurs clients à des tiers.

La loi de 2008 sur la non-discrimination en matière d'informations génétiques interdit l'utilisation d'informations génétiques dans l'assurance-maladie et l'emploi. Mais il n'offre aucune protection contre la discrimination en matière de soins de longue durée, d'invalidité et d'assurance-vie. Et cela impose peu de limites à l'utilisation commerciale. Il n'y a aucune loi pour empêcher les entreprises d'utiliser des données génomiques agrégées de la même manière que les sociétés de prêt et les employeurs utilisent les données des médias sociaux, ou pour empêcher les spécialistes du marketing de cibler les publicités sur les personnes atteintes de défauts génétiques.

Aujourd'hui, la technologie peut lire votre génome à partir de quelques cellules errantes en moins d'une journée. Mais nous devons encore parvenir à un consensus social sur la manière dont les données médicales privées peuvent être collectées et partagées. Pour la plupart, nous ne savons même pas à qui appartiennent les informations ADN d'un individu. Aux États-Unis, certains États ont commencé à adopter des lois pour dire que vos données ADN sont votre propriété.

Nous aurons des débats similaires sur les voitures autonomes, les drones et les robots. Celles-ci enregistreront également tout ce que nous faisons et soulèveront de nouvelles questions juridiques et éthiques. Que se passe-t-il lorsqu'une voiture autonome a une défaillance logicielle et heurte un piéton, ou la caméra d'un drone surprend quelqu'un en train de se baigner dans une piscine ou de prendre une douche, ou un robot tue un humain en état de légitime défense ?

Thomas Jefferson a dit en 1816, Les lois et les institutions doivent aller de pair avec le progrès de l'esprit humain. Au fur et à mesure que cela devient plus développé, plus éclairé, que de nouvelles découvertes sont faites, de nouvelles vérités révélées, et les mœurs et les opinions changent avec le changement des circonstances, les institutions doivent aussi avancer et suivre le rythme du temps.

Le problème est que l'esprit humain lui-même ne peut pas suivre le rythme des progrès que permettent les ordinateurs.

Vivek Wadhwa est membre de l'Arthur & Toni Rembe Rock Center for Corporate Governance, Université de Stanford, et occupe des postes à la Singularity University et à la Duke's Pratt School of Engineering.

cacher