Comment Apple personnalise Siri sans aspirer vos données

Une femme utilise son assistant vocal sur son téléphone. Kyonntra/Getty Images

Si vous avez un iPhone, vous avez peut-être remarqué un changement dans le comportement de Siri au cours de la dernière année. L'assistant vocal du téléphone se réveillera lorsque vous direz Dis Siri, mais pas lorsque la même phrase proviendra de vos amis ou de votre famille.

La raison pour laquelle Apple a fait cela était sensée : il voulait un moyen d'empêcher tous les iPhones d'une pièce de répondre lorsqu'une personne prononce la phrase de réveil. Vous pourriez penser qu'Apple aurait besoin de collecter une grande partie de vos données audio pour ce faire. Étonnamment, ce n'est pas le cas.

Au lieu de cela, il repose principalement sur une technique appelée apprentissage fédéré, a déclaré le responsable de la confidentialité d'Apple, Julien Freudiger, lors de la conférence Neural Processing Information Systems le 8 décembre. L'apprentissage fédéré est une méthode d'apprentissage automatique préservant la confidentialité qui a été introduit pour la première fois par Google en 2017 . Il permet à Apple de former différentes copies d'un modèle de reconnaissance du locuteur sur tous les appareils de ses utilisateurs, en utilisant uniquement les données audio disponibles localement. Il renvoie ensuite uniquement les modèles mis à jour à un serveur central pour être combinés dans un modèle maître. De cette façon, l'audio brut des demandes Siri des utilisateurs ne quitte jamais leurs iPhones et iPads, mais l'assistant s'améliore en permanence pour identifier le bon haut-parleur.

En plus de l'apprentissage fédéré, Apple utilise également ce qu'on appelle la confidentialité différentielle pour ajouter une couche de protection supplémentaire. La technique injecte une petite quantité de bruit dans toutes les données brutes avant qu'elles ne soient introduites dans un modèle d'apprentissage automatique local. L'étape supplémentaire rend extrêmement difficile pour les acteurs malveillants la rétro-ingénierie des fichiers audio originaux à partir du modèle formé.

Bien qu'Apple ait été utilisation de la confidentialité différentielle depuis 2017, il a été combiné avec l'apprentissage fédéré uniquement à partir d'iOS 13, qui a été déployé au public en septembre de cette année. En plus de personnaliser Siri, les deux techniques sont désormais également utilisées pour quelques autres applications, notamment QuickType (le clavier personnalisé d'Apple) et la fonction Found In Apps, qui analyse votre calendrier et vos applications de messagerie à la recherche des noms des texteurs et des appelants dont les numéros ne sont pas dans votre téléphone. Freudiger a déclaré que la société prévoyait de déployer prochainement les méthodes de confidentialité sur davantage d'applications et de fonctionnalités.

Au cours de la dernière année, l'apprentissage fédéré est devenu de plus en plus populaire au sein de la communauté de recherche en IA, car les préoccupations concernant la confidentialité des données ont augmenté. En mars, Google publié un nouvel ensemble d'outils permettant aux développeurs de mettre en œuvre plus facilement leurs propres modèles d'apprentissage fédérateurs. Parmi de nombreuses autres utilisations, les chercheurs espèrent que cela aidera à surmonter les problèmes de confidentialité dans l'application de l'IA aux soins de santé . Des entreprises comme Owkin, Doc.ai et Nvidia sont intéressées à l'utiliser de cette manière.

Bien que la technique soit encore relativement nouvelle et nécessite d'être affinée, la dernière adoption d'Apple offre une autre étude de cas sur la façon dont elle peut être appliquée à grande échelle. Cela marque également un changement fondamental dans le compromis que l'industrie technologique a traditionnellement supposé entre la confidentialité et l'utilité : en fait, il est désormais possible d'atteindre les deux. Espérons que d'autres entreprises s'y mettent rapidement.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher