La discrimination des données signifie que les pauvres peuvent connaître un Internet différent

L'analyse des données est utilisée pour mettre en œuvre une forme subtile de discrimination, tandis que des ensembles de données anonymes peuvent être extraits pour révéler des données de santé et d'autres informations privées, a averti un chercheur de Microsoft ce matin à Examen de la technologie du MIT conférence EmTech.

Division des données : Kate Crawford s'exprimant aujourd'hui lors de la conférence EmTech au MIT.

Kate Crawford , chercheur principal chez Microsoft Research, a fait valoir que ces problèmes pourraient être résolus avec de nouvelles approches juridiques de l'utilisation des données personnelles.

Dans un nouveau papier , elle et un collègue proposent un système de procédure régulière qui donnerait aux gens plus de droits légaux pour comprendre comment l'analyse des données est utilisée dans les décisions prises à leur encontre, comme le refus d'une assurance maladie ou d'un emploi. C'est le tout début d'une conversation sur la façon de mieux faire cela, a déclaré Crawford, qui est également professeur invité au MIT Center for Civic Media, dans une interview avant l'événement. Les gens pensent que les « données volumineuses » évitent le problème de la discrimination, car vous avez affaire à des ensembles de données volumineuses, mais en fait, les données volumineuses sont utilisées pour des formes de discrimination de plus en plus précises – une forme de redlining des données.

Lors de son discours de ce matin, Crawford a ajouté qu'avec les mégadonnées, vous ne saurez jamais quelles sont ces discriminations, et je pense que c'est là que le problème commence.

Les données sur la santé sont particulièrement vulnérables, selon le chercheur. Les termes de recherche pour les symptômes de la maladie, les achats en ligne de fournitures médicales et même les étiquettes RFID sur les emballages de médicaments peuvent fournir aux sites Web et aux détaillants des informations sur la santé d'une personne.

Comme Crawford et Jason Schultz , professeur à la faculté de droit de l'université de New York, a écrit dans son article : Lorsque ces ensembles de données sont recoupés avec des informations de santé traditionnelles, comme le Big Data est conçu pour le faire, il est possible de générer une image détaillée de la santé d'une personne, y compris renseignements qu'une personne n'a peut-être jamais divulgués à un fournisseur de soins de santé.

Et une récente université de Cambridge étudier , auquel Crawford a fait allusion lors de son discours, a découvert que les attributs personnels très sensibles, notamment l'orientation sexuelle, les traits de personnalité, la consommation de substances addictives et même la séparation des parents, sont hautement prévisibles en analysant ce sur quoi les gens cliquent pour indiquer qu'ils aiment sur Facebook. L'étude a analysé les goûts de 58 000 utilisateurs de Facebook.

De même, les historiques d'achat, les tweets et les informations démographiques, géographiques et autres recueillies sur des utilisateurs individuels du Web, lorsqu'ils sont combinés avec des données provenant d'autres sources, peuvent donner lieu à de nouveaux types de profils qu'un employeur ou un propriétaire pourrait utiliser pour refuser à quelqu'un un emploi ou un appartement.

En réponse à de tels risques, les auteurs de l'article proposent un cadre juridique qu'ils appellent une procédure régulière de big data. En vertu de ce concept, une personne qui a fait l'objet d'une détermination - qu'il s'agisse d'un refus d'assurance maladie, d'un rejet d'une demande d'emploi ou de logement ou d'une arrestation - aurait le droit d'apprendre comment l'analyse des mégadonnées a été utilisée.

Cela impliquerait les types de droits de divulgation et de contre-interrogatoire qui sont déjà inscrits dans les systèmes juridiques des États-Unis et de nombreux autres pays. Avant qu'il puisse y avoir une plus grande acceptation sociale du rôle des mégadonnées dans la prise de décision, en particulier au sein du gouvernement, elles doivent également apparaître justes et avoir un degré acceptable de prévisibilité, de transparence et de rationalité, écrivent les auteurs.

L'analyse des données peut également fausser profondément les choses, note Crawford. Même l'utilisation autrefois réussie des termes de recherche Google pour identifier les épidémies de grippe a échoué l'année dernière, lorsque les cas réels étaient bien en deçà des prédictions. La couverture médiatique accrue liée à la grippe et les bavardages sur la grippe dans les médias sociaux ont été confondus avec des signes de personnes se plaignant d'être malades, ce qui a conduit à des surestimations. C'est là que les données des médias sociaux peuvent devenir compliquées, a déclaré Crawford.

Et il peut y avoir des défauts plus fondamentaux dans ce que les données nous disent. Par exemple, après l'ouragan Sandy, il y a eu peu de tweets provenant de zones durement touchées loin de Manhattan. Si nous commençons à utiliser des ensembles de données de médias sociaux pour prendre le pouls d'une nation ou comprendre une crise - ou l'utiliser réellement pour déployer des ressources - nous obtenons une image faussée de ce qui se passe, a averti Crawford dans son discours.

cacher