Les cryptographes ont un problème d'éthique

La semaine dernière, j'ai visité le département informatique du MIT à la recherche d'un cryptographe très connu. Alors que je me frayais un chemin dans le dédale de bureaux, j'ai remarqué une affiche collée au mur, du genre à informer ou à inspirer les étudiants. C'était le code d'éthique de l'Association for Computing Machinery, la plus grande association professionnelle d'informaticiens au monde.

Décrypteur: Une statue du mathématicien Alan Turing travaillant sur la machine Enigma.

Le code est une liste de 16 impératifs moraux. Deux éléments ont immédiatement sauté aux yeux :

1.3 - Soyez honnête et digne de confiance.

1.7 - Respecter la vie privée d'autrui.

Cela m'a fait réfléchir. Il semble que les briseurs de code de la National Security Agency – et peut-être les universitaires qui les assistent souvent – ​​enfreignent clairement et de manière dramatique le code de conduite de leur propre profession.

Au début, cela peut ressembler à de petites pommes de terre. Selon des documents secrets divulgués par un ancien entrepreneur, Edward Snowden, la NSA a rassemblé des enregistrements des communications de tous les Américains et a également déjoué les protocoles de cryptage largement utilisés afin de pouvoir les lire (voir NSA Surveillance Reflects a Broader Interpretation of the Patriot Act ).

Si, comme certains frais , la NSA a enfreint les lois et violé la constitution américaine, puis elle a commis des actes criminels bien pires que de piétiner un code de conduite volontaire. Alternativement, si vous pensez que l'espionnage de la NSA est justifié pour défendre le pays, alors qui se soucie d'une déclaration d'éthique à consonance pieuse de toute façon ?

Mais c'est important. La raison en est que la construction d'une bombe atomique, ou le décryptage du chiffre le plus difficile, est quelque chose que seuls quelques experts peuvent gérer. Les experts sont donc confrontés à des dilemmes moraux particuliers. La façon dont ils les résolvent a à voir exactement avec un sens de l'éthique de groupe, le genre qui est incarné par des codes de conduite ou des credos.

Je pense que c'est vraiment intéressant, dit Bruce Schneier , un expert en sécurité informatique qui a eu accès à certains des documents de Snowden et a critiqué le gouvernement. Les employés de la NSA et leurs collaborateurs d'entreprise enfreignent ce code d'éthique.

Boussole morale : Une copie du code de déontologie de l'Association of Computing Machinery est affichée au MIT.

En fait, de nombreux universitaires sont également impliqués, bien que moins directement. C'est parce que la discipline de la cryptographie est déjà fortement militarisée. Aujourd'hui, le gouvernement américain dépense 10,5 milliards de dollars par an en renseignement électromagnétique et emploie 30 000 personnes pour le faire, selon les documents budgétaires divulgués par Snowden . Les chercheurs universitaires collaborent fréquemment. Ils prennent des congés sabbatiques avec la NSA et obtiennent des fonds de l'armée pour travailler sur des problèmes intéressants. Beaucoup ont commencé sur des projets gouvernementaux.

Toutes les disciplines techniques ne sont pas confrontées aux mêmes écueils, et certaines ont fait des choix différents. Certains grands experts en robotique m'ont dit qu'ils étaient totalement opposés à aider à construire des robots de type Terminator (c'est peut-être pourquoi nous n'en avons pas encore vu). Et dans les laboratoires de biologie américains, vous auriez du mal à trouver n'importe qui faire des recherches visant à nuire à une autre personne, terroriste ou non. Ce n'est tout simplement pas à l'ordre du jour. (Une partie de la raison est que le président Richard Nixon a divulgué et mis fin au programme secret américain de guerre bactériologique en 1969.)

Eugene Spafford, directeur exécutif de l'institut CERIAS à l'Université Purdue et officier de l'ACM, m'a mis en garde contre les jugements éthiques simplistes. Il a déclaré que si une personne pirate des ordinateurs et vole des messages pour empêcher une attaque terroriste, elle n'enfreint pas nécessairement le code de la société, ce qui permet différentes interprétations.

En effet, le code dit que tout principe éthique peut entrer en conflit avec d'autres principes éthiques dans des situations spécifiques. Autrement dit, l'éthique est relative. C'est la logique qui dit qu'un soldat peut tuer à la guerre, même si faire de même en temps de paix est un crime.

Et c'est peut-être pourquoi les cryptographes voient des lignes éthiques floues. La création et la rupture de code ont toujours été liées à la guerre et à la diplomatie. Par exemple, Alan Turing, le brillant mathématicien qui a donné son nom au premier prix annuel de l'ACM, a contribué à déchiffrer l'énigme nazi pendant la Seconde Guerre mondiale, qui a permis aux Alliés de lire les communications allemandes.

Pourtant, quelque chose d'important a changé depuis ces jours. Avant, seuls les diplomates et les espions utilisaient des messages codés. Aujourd'hui, nous le faisons tous. Chaque Gmail que vous envoyez est crypté, tout comme les appels Skype. C'est pourquoi la NSA s'est apparemment assurée de pouvoir briser ce type de cryptographie (voir NSA Leak Leaves Crypto-Math Intact but Highlights Known Workarounds ). Cette rupture ou défaite du cryptage public est un nouvel aléa moral dans lequel les experts sont tombés. Parce qu'ils déploient maintenant la technologie pour nous espionner tous, ils ne peuvent pas si facilement invoquer la sécurité nationale comme un atout éthique.

Snowden, le lanceur d'alerte de la NSA qui s'est enfui en Russie (où il reste) a expliqué comment il a pris sa propre décision morale de parler au public de l'espionnage qui nous affecte tous. Le sien déclaration publique vaut la peine d'être lu. Snowden dit qu'il a choisi de transcender l'obéissance au gouvernement américain afin d'obéir aux règles universelles de conduite humaine.

Je ne sais pas exactement quel code d'éthique Snowden suit. L'ACM, par respect pour la vie privée, a refusé de me dire s'il était membre.

cacher