Ces faux humains effrayants annoncent une nouvelle ère de l'IA

Avec l'aimable autorisation de Datagen

Vous pouvez voir le peu de chaume arriver sur sa lèvre supérieure, les rides sur son front, les taches sur sa peau. Ce n'est pas une vraie personne, mais il est censé en imiter une, tout comme les centaines de milliers d'autres fabriqués par Datagen, une entreprise qui vend de faux humains simulés.

Ces humains ne sont pas des avatars de jeu ou des personnages animés pour les films. Ce sont des données synthétiques conçues pour nourrir l'appétit croissant des algorithmes d'apprentissage en profondeur. Des entreprises comme Datagen offrent une alternative convaincante au processus coûteux et chronophage de collecte de données du monde réel. Ils le feront pour vous : comme vous le voulez, quand vous le voulez et à un prix relativement bas.

Pour générer ses humains synthétiques, Datagen scanne d'abord des humains réels. Il s'associe à des fournisseurs qui paient les gens pour entrer dans des scanners corporels géants qui capturent chaque détail, de leurs iris à la texture de leur peau en passant par la courbure de leurs doigts. La startup prend ensuite les données brutes et les pompe à travers une série d'algorithmes, qui développent des représentations 3D du corps, du visage, des yeux et des mains d'une personne.

La société, basée en Israël, affirme qu'elle travaille déjà avec quatre grands géants américains de la technologie, bien qu'elle ne divulgue pas lesquels. Son plus proche concurrent, IA de synthèse , propose également des humains numériques à la demande. D'autres entreprises génèrent des données à utiliser dans la finance , Assurance , et soins de santé . Il y a à peu près autant entreprises de données synthétiques car il existe des types de données.

Autrefois considérées comme moins souhaitables que les données réelles, les données synthétiques sont désormais considérées par certains comme une panacée. Les données réelles sont désordonnées et criblées de biais. Les nouvelles réglementations sur la confidentialité des données rendent la collecte difficile. En revanche, les données synthétiques sont vierges et peuvent être utilisées pour créer des ensembles de données plus diversifiés. Vous pouvez produire des visages parfaitement étiquetés, disons, d'âges, de formes et d'ethnies différents pour construire un système de détection de visage qui fonctionne à travers les populations.

Mais les données synthétiques ont leurs limites. S'il ne reflète pas la réalité, il pourrait finir par produire une IA encore pire que des données réelles désordonnées et biaisées, ou il pourrait simplement hériter des mêmes problèmes. Ce que je ne veux pas faire, c'est approuver ce paradigme et dire : 'Oh, cela résoudra tant de problèmes', déclare Cathy O'Neil, spécialiste des données et fondatrice de la société d'audit algorithmique ORCAA. Parce qu'il ignorera aussi beaucoup de choses.

Réaliste, pas réel

L'apprentissage en profondeur a toujours été une question de données. Mais au cours des dernières années, la communauté de l'IA a appris que bon les données sont plus importantes que grand Les données . Même de petites quantités de données correctes et correctement étiquetées peuvent faire plus pour améliorer les performances d'un système d'IA que 10 fois la quantité de données non curées, ou même un algorithme plus avancé.

Cela change la façon dont les entreprises devraient aborder le développement de leurs modèles d'IA, déclare Ofir Chakon, PDG et cofondateur de Datagen. Aujourd'hui, ils commencent par acquérir autant de données que possible, puis peaufinent et ajustent leurs algorithmes pour de meilleures performances. Au lieu de cela, ils devraient faire le contraire : utiliser le même algorithme tout en améliorant la composition de leurs données.

Datagen génère également de faux meubles et environnements intérieurs pour mettre ses faux humains en contexte.

DATAGEN

Mais la collecte de données du monde réel pour effectuer ce type d'expérimentation itérative est trop coûteuse et chronophage. C'est là qu'intervient Datagen. Avec un générateur de données synthétiques, les équipes peuvent créer et tester des dizaines de nouveaux ensembles de données par jour pour identifier celui qui maximise les performances d'un modèle.

Pour garantir le réalisme de ses données, Datagen donne à ses fournisseurs des instructions détaillées sur le nombre de personnes à scanner dans chaque tranche d'âge, tranche d'IMC et origine ethnique, ainsi qu'une liste d'actions à effectuer, comme se promener dans une pièce ou boire un soda. Les fournisseurs renvoient à la fois des images statiques haute fidélité et des données de capture de mouvement de ces actions. Les algorithmes de Datagen étendent ensuite ces données à des centaines de milliers de combinaisons. Les données synthétisées sont parfois ensuite vérifiées à nouveau. Les faux visages sont tracés contre de vrais visages, par exemple, pour voir s'ils semblent réalistes.

Datagen génère désormais des expressions faciales pour surveiller la vigilance du conducteur dans les voitures intelligentes, les mouvements du corps pour suivre les clients dans les magasins sans caisse, et les iris et les mouvements des mains pour améliorer les capacités de suivi des yeux et des mains des casques VR. La société affirme que ses données ont déjà été utilisées pour développer des systèmes de vision par ordinateur desservant des dizaines de millions d'utilisateurs.

Ce ne sont pas seulement les humains synthétiques qui sont fabriqués en série. Clics est une startup qui utilise l'IA synthétique pour effectuer des inspections de véhicules automatisées. À l'aide d'un logiciel de conception, il recrée toutes les marques et tous les modèles de voitures que son IA doit reconnaître, puis les restitue avec différentes couleurs, dommages et déformations dans différentes conditions d'éclairage, sur différents arrière-plans. Cela permet à l'entreprise de mettre à jour son IA lorsque les constructeurs automobiles sortent de nouveaux modèles, et l'aide à éviter les violations de la confidentialité des données dans les pays où les plaques d'immatriculation sont considérées comme des informations privées et ne peuvent donc pas être présentes sur les photos utilisées pour former l'IA.

Click-Ins rend des voitures de différentes marques et modèles dans différents contextes.

CLICK-INS

Surtout.ai travaille avec des sociétés financières, de télécommunications et d'assurance pour fournir des feuilles de calcul de fausses données clients qui permettent aux entreprises de partager leur base de données clients avec des fournisseurs externes d'une manière conforme à la loi. L’anonymisation peut réduire la richesse d’un ensemble de données mais ne parvient toujours pas à protéger adéquatement la vie privée des personnes. Mais les données synthétiques peuvent être utilisées pour générer de faux ensembles de données détaillés qui partagent les mêmes propriétés statistiques que les données réelles d'une entreprise. Il peut également être utilisé pour simuler des données dont l'entreprise ne dispose pas encore, y compris une population de clients plus diversifiée ou des scénarios tels qu'une activité frauduleuse.

Les partisans des données synthétiques affirment que cela peut également aider à évaluer l'IA. Dans un article récent publié lors d'une conférence sur l'IA, Suchi Saria, professeur agrégé d'apprentissage automatique et de soins de santé à l'Université Johns Hopkins, et ses coauteurs ont démontré comment les techniques de génération de données pourraient être utilisées pour extrapoler différentes populations de patients à partir d'un seul ensemble de données. Cela pourrait être utile si, par exemple, une entreprise ne disposait que de données sur la population plus jeune de New York, mais souhaitait comprendre comment son IA fonctionne sur une population vieillissante avec une prévalence plus élevée de diabète. Elle lance maintenant sa propre entreprise, Bayesian Health, qui utilisera cette technique pour aider à tester les systèmes d'IA médicale.

Les limites de faire semblant

Mais les données synthétiques sont-elles surmédiatisées ?

En matière de confidentialité, ce n'est pas parce que les données sont 'synthétiques' et ne correspondent pas directement aux données réelles des utilisateurs qu'elles n'encodent pas des informations sensibles sur de vraies personnes, déclare Aaron Roth, professeur d'informatique et de sciences de l'information à la Université de Pennsylvanie. Il a été démontré que certaines techniques de génération de données reproduisent fidèlement les images ou le texte trouvés dans les données d'entraînement, par exemple, tandis que d'autres sont vulnérables aux attaques qui les obligent à régurgiter entièrement ces données.

Cela pourrait convenir à une entreprise comme Datagen, dont les données synthétiques ne sont pas destinées à dissimuler l'identité des personnes qui ont consenti à être scannées. Mais ce serait une mauvaise nouvelle pour les entreprises qui proposent leur solution comme moyen de protéger des informations financières ou des patients sensibles.

Histoire connexe

L'année où les deepfakes se sont généralisés En 2020, les médias synthétiques basés sur l'IA ont commencé à s'éloigner des coins les plus sombres d'Internet.

La recherche suggère que la combinaison de deux techniques de données synthétiques en particulier - la confidentialité différentielle et réseaux antagonistes génératifs – peut produire les protections de confidentialité les plus solides, déclare Bernease Herman, spécialiste des données à l'Institut eScience de l'Université de Washington. Mais les sceptiques craignent que cette nuance ne soit perdue dans le jargon marketing des fournisseurs de données synthétiques, qui ne seront pas toujours ouverts sur les techniques qu'ils utilisent.

Pendant ce temps, peu de preuves suggèrent que les données synthétiques peuvent atténuer efficacement le biais des systèmes d'IA. D'une part, l'extrapolation de nouvelles données à partir d'un ensemble de données existant qui est biaisé ne produit pas nécessairement des données plus représentatives. Les données brutes de Datagen, par exemple, contiennent proportionnellement moins de minorités ethniques, ce qui signifie qu'elles utilisent moins de points de données réels pour générer de faux humains à partir de ces groupes. Bien que le processus de génération ne soit pas entièrement une conjecture, ces faux humains pourraient encore être plus susceptibles de s'écarter de la réalité. Si vos visages au teint plus foncé ne sont pas des approximations particulièrement bonnes des visages, alors vous ne résolvez pas réellement le problème, dit O’Neil.

D'autre part, des ensembles de données parfaitement équilibrés ne se traduisent pas automatiquement en systèmes d'IA parfaitement équitables, explique Christo Wilson, professeur agrégé d'informatique à la Northeastern University. Si un prêteur de cartes de crédit essayait de développer un algorithme d'IA pour noter les emprunteurs potentiels, il n'éliminerait pas toute discrimination possible en représentant simplement les Blancs ainsi que les Noirs dans ses données. La discrimination pourrait encore s'insinuer à travers les différences entre les candidats blancs et noirs.

Pour compliquer davantage les choses, les premières recherches montrent que, dans certains cas, il peut même ne pas être possible d'obtenir à la fois des et une IA équitable avec des données synthétiques. Dans un article récent publié lors d'une conférence sur l'IA, des chercheurs de l'Université de Toronto et du Vector Institute ont tenté de le faire avec des radiographies pulmonaires. Ils ont constaté qu'ils étaient incapables de créer un système d'IA médicale précis lorsqu'ils ont essayé de créer un ensemble de données synthétiques diversifié en combinant une confidentialité différentielle et des réseaux contradictoires génératifs.

Rien de tout cela ne signifie que les données synthétiques ne doivent pas être utilisées. En fait, cela pourrait bien devenir une nécessité. Alors que les régulateurs sont confrontés à la nécessité de tester les systèmes d'IA pour la conformité légale, cela pourrait être la seule approche qui leur donne la flexibilité dont ils ont besoin pour générer des données de test ciblées à la demande, déclare O'Neil. Mais cela rend les questions sur ses limites encore plus importantes à étudier et à répondre maintenant.

Les données synthétiques sont susceptibles de s'améliorer avec le temps, dit-elle, mais pas par accident.

cacher