Les cerveaux humains et les IA peuvent être piratés avec ces étranges photos modifiées

Catégorie: Intelligence artificielle Posté 01 mars

Les algorithmes de vision par ordinateur ne sont pas les seules formes d'intelligence qui peuvent être trompées par des photos manipulées.

Oh-oh : Les chercheurs ont utilisé une IA pour concevoir les premières photos qui trompent à la fois les humains et les algorithmes de vision par ordinateur, comme ci-dessus : une image non modifiée d'un chat, à gauche, à côté d'une version qui a été modifiée pour ressembler étrangement à un chien.

Pour la science! Trouver les faiblesses humaines de cette manière pourrait améliorer nos systèmes d'IA. Dans le journal qui décrit ces photos manipulées - co-écrites par Ian Goodfellow , le créateur des réseaux antagonistes génératifs (GAN) - les chercheurs soulignent que si nous trouvons une certaine classe d'images altérées qui ne peuvent pas tromper l'esprit humain, cela suggère qu'un mécanisme similaire pourrait exister dans l'apprentissage automatique. La plupart des systèmes d'IA sont vaguement basés sur le cerveau humain, après tout.

Pourquoi est-ce important: Maintenant qu'il y a autocollants pouvant être apposés objets physiques pour confondre les systèmes de vision par ordinateur, les exemples dits contradictoires sont un problème du monde réel. Et si les véhicules autonomes n'ont aucun moyen de s'assurer que leurs systèmes peuvent voir chaque panneau d'arrêt, ils ne seront pas prêts pour la route de si tôt.