Apple défend sa nouvelle technologie anti-abus d'enfants contre les problèmes de confidentialité

Photo de Rebecca Harris sur Unsplash





Apple s'est vanté de quelques publicités emblématiques au cours des 45 ans d'histoire de l'entreprise, du célèbre Publicité du Super Bowl de 1984 pour Mac à la combativité de l'entreprise campagne publicitaire 2019 promettant que ce qui se passe sur votre iPhone reste sur votre iPhone.

Jeudi, Apple a annoncé de nouvelles technologies pour détecter le matériel d'exploitation sexuelle d'enfants (CSAM) directement sur les iPhones - et soudain, il semble que ce qui est sur votre iPhone n'y reste plus toujours simplement. Les nouvelles fonctionnalités controversées frappent au cœur des préoccupations concernant la confidentialité, la surveillance et les crimes technologiques.

Apple affirme que ces nouvelles fonctionnalités préservent la confidentialité tout en luttant contre la maltraitance des enfants. Pour les critiques, cependant, la plus grande question n'est pas de savoir ce que la technologie pourrait faire aujourd'hui ; il s'agit de ce qu'il pourrait devenir demain.



La nouvelle technologie de numérisation d'Apple permettra-t-elle une surveillance encore plus large dans le monde ? Les gouvernements commenceront-ils à exiger qu'Apple recherche toutes sortes de contenus interdits sur les iPhones de leur pays ?

Apple affirme que le nouvel outil de détection, appelé NeuralHash, peut identifier les images d'abus d'enfants stockées sur un iPhone sans décrypter l'image. La société affirme également avoir mis en place plusieurs vérifications pour réduire les risques d'erreurs avant que les images ne soient transmises au Centre national pour les enfants disparus et exploités (NCMEC), puis aux forces de l'ordre. (Par exemple, le scanner doit détecter plusieurs images plutôt qu'une seule.) La fonctionnalité sera déployée aux États-Unis cette année.

Google, Microsoft, Dropbox et d'autres grands services cloud analysent déjà le matériel stocké sur leurs serveurs à la recherche de matériel pédopornographique, de sorte que la prémisse générale n'est pas nouvelle. La différence ici est que certaines des analyses d'Apple se produiront sur l'iPhone lui-même - et Apple affirme qu'il s'agit de la caractéristique pro-vie privée de la nouvelle technologie.

Lors d'un briefing avec des journalistes vendredi, Apple a déclaré que si d'autres services cloud analysent presque tout ce que leurs utilisateurs téléchargent, l'analyse sur l'appareil d'Apple est destinée à envoyer uniquement un hachage illisible à l'entreprise, un code qui identifie les images qui dépeignent la maltraitance des enfants sur la base de une base de données maintenue par NCMEC plutôt qu'Apple.

Apple a également souligné que la fonctionnalité ne s'applique qu'aux personnes qui téléchargent des photos sur iCloud (les téléchargements automatiques sont le paramètre par défaut sur les iPhones, mais peuvent être désactivée ). Les comptes iCloud ne sont actuellement pas cryptés, les forces de l'ordre peuvent donc déjà les consulter.



Pourquoi, alors, Apple ne fait-il pas simplement ce que font les autres grandes entreprises technologiques et ne numérise-t-il pas les images lorsqu'elles sont téléchargées sur le cloud plutôt que lorsqu'elles sont encore sur le téléphone de quelqu'un ? Pourquoi créer un ensemble de technologies nouvelles et complexes alors qu'il pourrait simplement prendre la technologie existante du commerce ?

La prochaine étape d'Apple

Il y a énormément de choses que nous ignorons sur ce que fait Apple maintenant et sur ce qui va suivre. Une théorie populaire est que l'annonce de cette semaine sera le premier de plusieurs mouvements dans les mois à venir.

Le marketing d'Apple se vante de la confidentialité depuis des années. L'iPhone a été l'un des premiers appareils personnels à être automatiquement crypté. iMessage est l'une des applications de messagerie les plus populaires avec un cryptage de bout en bout. Mais de nombreux clients Apple sauvegardent automatiquement tout sur leurs comptes iCloud, et iCloud n'a jamais été crypté. Ainsi, même en 2019, cette célèbre publicité sur la confidentialité de l'iPhone aurait pu utiliser un petit astérisque.



Depuis des années, les gouvernements exercent une énorme pression sur toutes les entreprises technologiques, y compris Apple, pour permettre aux forces de l'ordre un accès spécial à des données autrement cryptées afin d'empêcher ce qu'ils considèrent comme le plus odieux des crimes. La maltraitance des enfants est toujours en tête de liste, suivie de près par le terrorisme. L'adoption publique du cryptage par Apple a rendu le travail de certains flics plus difficile, mais cela a également rendu certains types de surveillance et d'abus de pouvoir plus difficiles.

La grande faille a toujours été iCloud. Les flics doivent travailler dur pour entrer directement dans les iPhones , mais si la plupart des données se trouvent déjà dans un compte iCloud non crypté, un mandat fera l'affaire.

Histoire connexe

Les pirates trouvent des moyens de se cacher à l'intérieur du jardin clos d'Apple

L'approche verrouillée de l'iPhone en matière de sécurité se répand, mais les pirates informatiques avancés ont découvert que des barrières plus élevées sont idéales pour éviter la capture.

Suite à l'annonce de cette semaine, certains experts pensent qu'Apple annoncera bientôt qu'iCloud sera crypté. Si iCloud est crypté mais que l'entreprise peut toujours identifier le matériel pédopornographique, transmettre des preuves aux forces de l'ordre et suspendre le contrevenant, cela peut soulager une partie de la pression politique sur les dirigeants d'Apple.

ça ne soulagerait pas tout la pression : la plupart des mêmes gouvernements qui veulent qu'Apple en fasse plus sur la maltraitance des enfants veulent également plus d'action sur le contenu lié au terrorisme et à d'autres crimes. Mais la maltraitance des enfants est un problème réel et considérable où les grandes entreprises technologiques ont pour la plupart échoué à ce jour.

L'approche d'Apple préserve la confidentialité mieux que toute autre à ma connaissance, déclare David Forsyth, directeur du département d'informatique de l'Université de l'Illinois à Urbana-Champaign, qui a examiné le système d'Apple. À mon avis, ce système augmentera probablement considérablement la probabilité que les personnes qui possèdent ou trafiquent [CSAM] soient trouvées ; cela devrait aider à protéger les enfants. Les utilisateurs inoffensifs devraient subir une perte de confidentialité minimale, voire nulle, car les dérivés visuels ne sont révélés que s'il y a suffisamment de correspondances avec les images CSAM, et uniquement pour les images qui correspondent aux images CSAM connues. La précision du système d'appariement, combinée au seuil, rend très peu probable que des images qui ne sont pas des images CSAM connues soient révélées.

Qu'en est-il de WhatsApp ?

Chaque grande entreprise de technologie est confrontée à l'horrible réalité du matériel pédopornographique sur sa plateforme. Personne ne l'a approché comme Apple.

Comme iMessage, WhatsApp est une plate-forme de messagerie cryptée de bout en bout avec des milliards d'utilisateurs. Comme toute plateforme de cette taille, ils font face à un gros problème d'abus.

J'ai lu les informations publiées par Apple hier et je suis inquiet, Will Cathcart, responsable de WhatsApp tweeté le vendredi. Je pense que c'est une mauvaise approche et un revers pour la vie privée des gens partout dans le monde. Les gens ont demandé si nous allions adopter ce système pour WhatsApp. La réponse est non.

WhatsApp inclut des fonctionnalités de signalement afin que tout utilisateur puisse signaler un contenu abusif à WhatsApp. Bien que les capacités soient loin d'être parfaites, WhatsApp a signalé plus de 400 000 cas au NCMEC l'année dernière.

Il s'agit d'un système de surveillance construit et exploité par Apple qui pourrait très facilement être utilisé pour analyser le contenu privé à la recherche de tout ce qu'eux-mêmes ou un gouvernement décide qu'il veut contrôler, a déclaré Cathcart dans ses tweets. Les pays où les iPhones sont vendus auront des définitions différentes sur ce qui est acceptable. Ce système sera-t-il utilisé en Chine ? Quel contenu considéreront-ils comme illégal là-bas et comment le saurons-nous un jour ? Comment géreront-ils les demandes des gouvernements du monde entier pour ajouter d'autres types de contenu à la liste à analyser ?

Dans son briefing avec les journalistes, Apple a souligné que cette nouvelle technologie de numérisation ne sortait jusqu'à présent qu'aux États-Unis. Mais la société a poursuivi en affirmant qu'elle avait l'habitude de lutter pour la protection de la vie privée et qu'elle comptait continuer à le faire. De cette façon, une grande partie de cela se résume à la confiance en Apple.

La société a fait valoir que les nouveaux systèmes ne peuvent pas être détournés facilement par une action gouvernementale et a souligné à plusieurs reprises que la désactivation était aussi simple que de désactiver la sauvegarde iCloud.

Bien qu'il s'agisse de l'une des plates-formes de messagerie les plus populaires au monde, iMessage a longtemps été critiqué pour son manque de capacités de création de rapports qui sont désormais monnaie courante sur l'Internet social. En conséquence, Apple a historiquement signalé au NCMEC une infime partie des cas signalés par des entreprises comme Facebook.

Au lieu d'adopter cette solution, Apple a construit quelque chose de complètement différent - et les résultats finaux sont une question ouverte et inquiétante pour les faucons de la vie privée. Pour d'autres, c'est un changement radical bienvenu.

La protection étendue d'Apple pour les enfants change la donne, a déclaré John Clark, président du NCMEC, dans un communiqué. La réalité est que la vie privée et la protection des enfants peuvent coexister.

Des enjeux élevés

Une optimiste Je dirais que l'activation du chiffrement complet des comptes iCloud tout en détectant le matériel pédopornographique est à la fois une victoire contre les abus et la confidentialité, et peut-être même une décision politique habile qui émousse la rhétorique anti-chiffrement des responsables américains, européens, indiens et chinois.

Un réaliste s'inquiéterait de ce qui vient ensuite des pays les plus puissants du monde. C'est une garantie virtuelle qu'Apple recevra - et a probablement déjà reçu - des appels des capitales alors que les responsables gouvernementaux commencent à imaginer les possibilités de surveillance de cette technologie de numérisation. La pression politique est une chose, la réglementation et le contrôle autoritaire en sont une autre. Mais cette menace n'est pas nouvelle et n'est pas spécifique à ce système. En tant qu'entreprise avec un palmarès de compromis discrets mais profitables avec la Chine , Apple a beaucoup de travail à faire pour convaincre les utilisateurs de sa capacité à résister aux gouvernements draconiens.

Tout ce qui précède peut être vrai. Ce qui va suivre définira finalement la nouvelle technologie d'Apple. Si cette fonctionnalité est militarisée par les gouvernements pour élargir la surveillance, alors l'entreprise ne tient clairement pas ses promesses en matière de confidentialité.

cacher