À l'intérieur du monde de l'IA qui forge un art magnifique et des deepfakes terrifiants

Nvidia





Au cours des trois dernières semaines, nous avons posé les bases de l'IA. Récapituler:

  • La plupart des avancées et applications de l'IA sont basées sur un type d'algorithme connu sous le nom d'apprentissage automatique qui trouve et réapplique des modèles dans les données.
  • L'apprentissage en profondeur , un sous-ensemble puissant de l'apprentissage automatique, utilise des réseaux de neurones pour trouver et amplifier même les plus petits modèles.
  • Les réseaux de neurones sont des couches de nœuds de calcul simples qui fonctionnent ensemble pour analyser les données, un peu comme les neurones du cerveau humain.

Passons maintenant à la partie amusante. L'utilisation d'un réseau de neurones est vraiment idéale pour apprendre des modèles ; en utiliser deux est vraiment génial pour les créer. Bienvenue dans le monde magique et terrifiant des réseaux antagonistes génératifs, ou GAN.

Les GAN vivent un moment culturel. Ils sont responsables de la première œuvre d'art générée par l'IA vendue chez Christie's , ainsi que la catégorie des fausses images numériques connues sous le nom de deepfakes .



Leur secret réside dans la façon dont deux réseaux de neurones fonctionnent ensemble, ou plutôt, l'un contre l'autre. Vous commencez par alimenter les deux réseaux de neurones avec un grand nombre de données d'entraînement et donnez à chacun une tâche distincte. Le premier réseau, connu sous le nom de générateur, doit produire des sorties artificielles, telles que l'écriture manuscrite, des vidéos ou des voix, en examinant les exemples de formation et en essayant de les imiter. Le second, connu sous le nom de discriminateur, détermine ensuite si les sorties sont réelles en comparant chacune avec les mêmes exemples d'apprentissage.

Histoire connexe

Histoire connexe En opposant les réseaux de neurones les uns aux autres, Ian Goodfellow a créé un puissant outil d'IA. Maintenant, lui et nous tous, devons faire face aux conséquences.

Chaque fois que le discriminateur rejette avec succès la sortie du générateur, le générateur recommence à essayer à nouveau. Pour emprunter une métaphore à mon collègue Martin Giles, le processus imite le va-et-vient entre un faussaire d'images et un détective d'art qui essaient à plusieurs reprises de se déjouer. Finalement, le discriminateur ne peut pas faire la différence entre la sortie et les exemples de formation. En d'autres termes, le mimétisme est indiscernable de la réalité.

Vous pouvez voir pourquoi un monde avec des GAN est à la fois beau et moche. D'une part, la capacité de synthétiser les médias et d'imiter d'autres modèles de données peut être utile dans l'édition de photos, l'animation et Médicament (comme pour améliorer la qualité des images médicales et pallier la rareté des données patients). Il nous apporte aussi des créations joyeuses comme celle-ci :



Et ça:

D'autre part, les GAN peuvent également être utilisés de manière éthiquement répréhensible et dangereuse : pour superposer des visages de célébrités sur le corps de stars du porno , pour faire dire ce que vous voulez à Barack Obama, ou pour falsifier l'empreinte digitale de quelqu'un et d'autres données biométriques, une capacité que des chercheurs de la NYU et de l'État du Michigan ont récemment montré dans un papier .



Heureusement, les GAN ont encore des limitations qui mettent en place des garde-fous. Ils ont besoin de beaucoup de puissance de calcul et de données à portée étroite pour produire quelque chose de vraiment crédible. Afin de produire une image réaliste d'une grenouille, par exemple, un tel système a besoin de centaines d'images de grenouilles d'une espèce particulière, de préférence tournées vers une direction similaire. Sans ces spécifications, vous obtenez vraiment résultats farfelus , comme cette créature de vos cauchemars les plus sombres :

(Vous devriez me remercier de ne pas vous avoir montré les araignées.)



Mais les experts craignent que nous n'ayons vu que la pointe de l'iceberg. Au fur et à mesure que les algorithmes seront de plus en plus raffinés, les vidéos glitchy et les animaux de Picasso appartiendront au passé. Comme Hany Farid, un expert en criminalistique des images numériques, m'a dit un jour, nous sommes mal préparés pour résoudre ce problème.

Ceci est apparu à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.

cacher