L'IA apprend à voir le monde, mais pas comme les humains

La vision par ordinateur a eu un moment. Un algorithme de reconnaissance d'image ne fait plus d'erreurs stupides en regardant le monde : de nos jours, il peut vous dire avec précision qu'une image contient un chat . Mais la façon dont il réussit le tour de la fête n'est peut-être pas aussi familière aux humains que nous le pensions.

La plupart des systèmes de vision par ordinateur identifient les caractéristiques des images à l'aide de réseaux de neurones, qui s'inspirent de notre propre biologie et sont très similaires dans leur architecture. Seulement ici, la détection biologique et les neurones sont remplacés par des fonctions mathématiques. Maintenant, une étude menée par des chercheurs de Facebook et de Virginia Tech indique que malgré ces similitudes, nous devons être prudents en supposant que les deux fonctionnent de la même manière .

Pour voir exactement ce qui se passait lorsque les humains et l'IA analysaient une image, les chercheurs ont étudié où les deux concentraient leur attention. Les deux ont reçu des images floues et ont posé des questions sur ce qui se passait dans l'image : où est le chat ? par exemple. Certaines parties de l'image pouvaient être sélectivement accentuées, une à la fois, et l'homme et l'IA l'ont fait jusqu'à ce qu'ils puissent répondre à la question. L'équipe a répété les tests en utilisant plusieurs algorithmes différents.

Évidemment, ils pourraient tous les deux fournir des réponses, mais le résultat intéressant est de savoir comment ils l'ont fait. Sur une échelle de 1 à -1, où 1 est un accord total et -1 un désaccord total, deux humains ont obtenu en moyenne 0,63 en termes d'endroit où ils ont concentré leur attention sur l'image. Avec un humain et une IA, la moyenne est tombée à 0,26.

En d'autres termes : l'IA et l'humain regardaient tous les deux la même image, les deux se voyaient poser la même question, les deux obtenaient la bonne réponse, mais utilisaient des caractéristiques visuelles différentes pour arriver aux mêmes conclusions.

Il s'agit d'un résultat explicite sur un phénomène auquel les chercheurs avaient déjà fait allusion. En 2014, une équipe de l'Université Cornell et de l'Université du Wyoming a montré qu'il était possible de créer des images qui trompent l'IA en lui faisant voir quelque chose, simplement en créant une image composée des caractéristiques visuelles fortes que le logiciel en est venu à associer à un objet. . Les humains disposent d'un vaste réservoir de connaissances de bon sens sur lesquelles puiser, ce qui signifie qu'ils ne se font pas prendre par de telles astuces. C'est quelque chose que les chercheurs tentent d'intégrer dans une nouvelle génération de logiciels intelligents qui comprennent le monde visuel sémantique.

Mais ce n'est pas parce que les ordinateurs n'utilisent pas la même approche qu'ils sont nécessairement inférieurs. En fait, ils feraient peut-être mieux d'ignorer complètement l'approche humaine.

Les types de réseaux de neurones utilisés dans la vision par ordinateur utilisent généralement une technique connue sous le nom d'apprentissage supervisé pour déterminer ce qui se passe dans une image. En fin de compte, leur capacité à associer une combinaison complexe de motifs, de textures et de formes au nom d'un objet est rendue possible en fournissant à l'IA un ensemble d'images d'entraînement dont le contenu a déjà été étiqueté par un humain.

Mais les équipes de Facebook et de DeepMind de Google ont expérimenté des systèmes d'apprentissage non supervisés qui ingèrent du contenu à partir de vidéos et d'images pour apprendre à quoi ressemblent les visages humains et les objets du quotidien, sans aucune intervention humaine. Magic Pony, récemment acheté par Twitter, évite également l'apprentissage supervisé, apprenant plutôt à reconnaître les modèles statistiques dans les images pour apprendre à quoi devraient ressembler les bords, les textures et d'autres caractéristiques.

Dans ces cas, il est peut-être encore moins probable que la connaissance de l'IA soit générée par un processus imitant celui d'un humain. Une fois inspirée par le cerveau humain, l'IA peut nous battre simplement en étant elle-même.

(Lire la suite: Nouveau scientifique , Le chaînon manquant de l'intelligence artificielle, un logiciel « intelligent » peut être trompé pour voir ce qui n'est pas là)

cacher