Microsoft et Google veulent laisser libre cours à l'intelligence artificielle sur nos données les plus privées

L'émergence récente d'une puissante technique d'apprentissage automatique connue sous le nom d'apprentissage en profondeur a rendu les géants de l'informatique tels que Google, Facebook et Microsoft encore plus avides de données. C'est ce qui permet aux logiciels d'apprendre à faire des choses comme reconnaître des images ou comprendre le langage.

Pourtant, de nombreux problèmes où l'apprentissage en profondeur pourrait être le plus précieux impliquent des données difficiles à obtenir ou détenues par des organisations qui ne souhaitent pas les partager. Et comme le dit le PDG d'Apple, Tim Cook, certains consommateurs craignent déjà que les entreprises engloutissent leurs informations personnelles.

De nombreuses personnes qui détiennent des ensembles de données sensibles comme des images médicales ne les partageront tout simplement pas pour des raisons juridiques et réglementaires, déclare Vitali Chmatikov , professeur à Cornell Tech qui étudie la vie privée. Dans un certain sens, nous privons ces personnes des avantages de l'apprentissage en profondeur.

Shmatikov et des chercheurs de Microsoft et de Google travaillent tous sur des moyens de contourner ce problème de confidentialité. En fournissant des moyens d'utiliser et de former les réseaux de neurones artificiels utilisés dans l'apprentissage en profondeur sans avoir à tout engloutir, ils espèrent pouvoir former des logiciels plus intelligents et convaincre les gardiens de données sensibles d'utiliser de tels systèmes.

Shmatikov et son collègue Reza Shokri testent ce qu'ils appellent apprentissage en profondeur préservant la confidentialité . Il offre un moyen de tirer parti de plusieurs organisations, par exemple différents hôpitaux, combinant leurs données pour former des logiciels d'apprentissage en profondeur sans avoir à prendre le risque de les partager.

Chaque organisation forme des algorithmes d'apprentissage en profondeur sur ses propres données, puis ne partage que les paramètres clés du logiciel formé. Ceux-ci peuvent être combinés dans un système qui fonctionne presque aussi bien que s'il était entraîné sur toutes les données à la fois.

La recherche de Cornell a été en partie financée par Google, qui a publié un article sur des expériences similaires et parle avec Shmatikov de ses idées. Les chercheurs de l'entreprise ont inventé un moyen de former les algorithmes d'apprentissage en profondeur de l'entreprise en utilisant des données telles que des images de smartphones sans transférer ces données dans le cloud de Google.

Cela pourrait permettre à l'entreprise d'exploiter plus facilement les informations très personnelles détenues sur nos appareils mobiles, ont-ils écrit. Google a refusé de mettre quelqu'un à disposition pour discuter de cette recherche, mais Shmatikov pense que l'entreprise y travaille toujours.

Le groupe de recherche en cryptographie de Microsoft a développé sa propre solution au problème de confidentialité de l'apprentissage automatique. Il a inventé un moyen d'utiliser un logiciel d'apprentissage en profondeur formé sur des données cryptées et de cracher des réponses cryptées. L'idée est qu'un hôpital, par exemple, pourrait demander à Microsoft d'utiliser l'un de ces CryptoNets pour signaler les scans médicaux contenant d'éventuels problèmes, en évitant le besoin habituel d'exposer les images à l'entreprise.

Les chercheurs de Microsoft ont réussi cette astuce en utilisant une technique appelée cryptage homomorphe , qui permet d'effectuer des opérations mathématiques sur des données cryptées et de produire un résultat crypté (voir 10 Breakthrough Technologies 2011 : Homomorphic Encryption ). Ils ont testé l'idée en utilisant un logiciel d'apprentissage en profondeur qui reconnaît l'écriture manuscrite et un système qui estime le risque de pneumonie d'un patient à partir de ses signes vitaux.

Un CryptoNet nécessite plus de puissance de calcul que les logiciels d'apprentissage en profondeur conventionnels pour effectuer le même travail. Mais Kristin Lauter , qui dirige les recherches sur la cryptographie de Microsoft, affirme que l'écart est suffisamment petit pour que les CryptoNets puissent devenir pratiques pour une utilisation dans le monde réel. Je pense que les secteurs de la santé, de la finance et de la pharmacie sont ceux où cela est le plus susceptible d'être utilisé en premier, dit-elle.

cacher