Une nouvelle astuce peut usurper une IA de reconnaissance vocale à chaque fois

Catégorie: Intelligence artificielle Posté 10 janvier

Étant donné une forme d'onde audio, les chercheurs peuvent désormais produire une version pratiquement identique qui permet au logiciel de reconnaissance vocale de transcrire entièrement autre chose.

Passé: Des exemples contradictoires ont trompé de nombreux algorithmes de vision par ordinateur. Alors que tous les réseaux de neurones sont sensibles à de telles attaques, les chercheurs ont eu moins de succès avec l'audio. Les attaques précédentes ne pouvaient apporter que des modifications subtiles à ce que le logiciel entend.

Quoi de neuf: Chercheurs de Berkeley montré qu'ils peuvent prendre une forme d'onde et ajouter une couche de bruit qui trompe DeepSpeech, une IA de synthèse vocale à la pointe de la technologie, à chaque fois. La technique peut faire en sorte que la musique ressemble à un discours arbitraire pour l'IA, ou à des voix obscures afin qu'elles ne soient pas transcrites.

Préparez-vous à l'ennui : Imaginez que vous lisez une vidéo musicale de YouTube sur vos haut-parleurs et qu'Alexa entende une commande pour deux tonnes de crème de maïs . Bienvenue dans l'enfer de l'attaque de l'IA.