Le traitement sur l'appareil et l'IA vont de pair

En partenariat avec Qualcomm

Qu'il s'agisse de conduire un véhicule autonome, d'utiliser la reconnaissance faciale pour accéder à votre compte bancaire ou de protéger votre appareil contre les menaces de sécurité en constante évolution, l'intelligence artificielle (IA) joue un rôle plus important dans nos vies. Dans le passé, la puissance du cloud était nécessaire pour ce traitement, mais les appareils périphériques, tels que les smartphones et les drones, sont désormais équipés pour exécuter des opérations d'IA à forte intensité de calcul. En fait, dans de nombreux cas, l'appareil de périphérie est la plate-forme préférée pour exécuter des applications alimentées par l'IA.

La réalité est que plus d'applications d'IA émergent aujourd'hui que la plupart d'entre nous ne le pensent. Lorsqu'un appareil est équipé d'IA, il peut considérablement étendre et améliorer nos vies, que ce soit en capturant des images et des vidéos plus nettes, en communiquant avec nous plus naturellement ou en percevant l'environnement et en nous guidant de manière autonome vers notre destination en toute sécurité.

L'IA est un terme générique conçu pour englober tout ce qui aide un appareil à reproduire le cerveau humain, explique Gary Brotman, directeur de la gestion des produits chez Qualcomm. L'apprentissage automatique (ML) est une large classe de techniques et d'algorithmes permettant de résoudre les problèmes qui rendent l'IA possible. La classe sur laquelle nous nous concentrons est l'apprentissage en profondeur (DL) et les réseaux de neurones récurrents (RNN), exécutés sur l'appareil réel.

L'amélioration significative des algorithmes d'IA et du traitement sur l'appareil, deux ingrédients cruciaux pour rendre l'IA omniprésente, conduit à des expériences utilisateur plus transparentes et plus convaincantes. Cela est particulièrement vrai lorsque les fonctionnalités basées sur l'IA se déplacent vers les véhicules, les appareils ménagers et les capteurs de l'Internet des objets (IoT). Les capacités perceptives et cognitives améliorées grâce aux nombreuses technologies sous l'égide de l'IA, telles que ML, DL et RNN, peuvent désormais fonctionner sur des appareils de pointe modernes.

Par exemple, l'IA sur l'appareil peut améliorer la reconnaissance d'image et le traitement d'image avancé, comme la production d'effets bokeh (un arrière-plan flou flou) et les transferts de style. Les appareils équipés d'IA peuvent également apprendre à reconnaître les mots-clés et les voix, améliorant ainsi leur réponse au consommateur et facilitant la traduction en langue étrangère.

De plus, l'IA peut aider les appareils et les applications à mieux connaître les préférences et l'environnement de l'utilisateur, à comprendre l'intention et à réagir de manière contextuelle. L'IA sur votre appareil se traduit par une expérience plus riche en contexte, déclare Brotman. Et au fil du temps, votre appareil sera en mesure de prédire et de mieux comprendre ce que vous allez faire ensuite.

L'IA dans votre main

L'IA sur l'appareil présente plusieurs avantages importants. La première est la performance. Le traitement sur l'appareil est simplement plus rapide - pas d'aller-retour vers le cloud, déclare Brotman. La confidentialité vient ensuite. Les gens sont à l'aise de partager certaines données personnelles, mais pas toutes. Et le troisième est la fiabilité. Les réseaux mobiles sont omniprésents, mais rien ne garantit que vous aurez toujours une connexion.

Performance: L'exécution d'algorithmes d'IA sur l'appareil, indépendamment du cloud, peut grandement améliorer le temps de réponse et l'efficacité, car les données n'ont pas besoin d'être transférées entre le cloud et l'appareil. Ceci est important car les capacités d'IA mobile ont tendance à être sensibles au facteur temps pour l'expérience utilisateur et la prise de décision.

Les applications d'IA ont tendance à être en temps réel et à mission critique, déclare Jeff Gehlhaar, vice-président de la technologie chez Qualcomm. De nombreux cas d'utilisation de l'IA qui améliorent une expérience ne peuvent pas se permettre de latence.

Un véhicule autonome qui doit freiner, par exemple, ne peut pas se permettre ne serait-ce qu'une milliseconde de latence qui pourrait résulter du traitement dans le cloud. Les décisions doivent être prises en une fraction de seconde pour que le véhicule fonctionne en toute sécurité.

En termes d'expérience utilisateur, une interface utilisateur vocale naturelle ne peut tolérer qu'une certaine latence. Les utilisateurs sont habitués à des réponses immédiates lorsqu'ils utilisent une interface vocale de traitement du langage naturel, et les répercussions des retards du réseau entraîneront de mauvaises expériences.

Confidentialité et sécurité : La conservation de vos données sur l'appareil garantit la confidentialité, et l'IA est également utilisée pour l'authentification biométrique à l'aide de la voix, des empreintes digitales, de l'iris et de la reconnaissance faciale. Utiliser votre visage pour déverrouiller un appareil devient monnaie courante, dit Brotman. Et la reconnaissance faciale 3D émerge pour fournir un degré d'authenticité plus élevé pour permettre les paiements mobiles.

Le traitement des applications d'IA sur l'appareil peut également augmenter la sécurité de l'appareil et des données en maintenant un œil vigilant sur les comportements aberrants. L'IA peut aider à détecter les logiciels malveillants et les comportements anormaux, explique Gehlhaar. Nous pouvons former le réseau de neurones pour voir comment les mauvais acteurs se comportent. Et il peut détecter ces mauvais comportements, comme demander : 'Pourquoi mon application de caméra ouvre-t-elle ma base de données de contacts ?'

Fiabilité: Même dans les régions les plus avancées du monde, la couverture du réseau mobile n'est pas omniprésente. En ce qui concerne certaines capacités basées sur l'IA, cependant, il n'y a pas de place pour l'erreur. Les véhicules autonomes ne peuvent tout simplement pas se permettre de subir une perte de signal sans fil, comme cela pourrait se produire lors de l'entrée dans un tunnel ou un parking. Le traitement sur l'appareil, en plus d'autres fonctionnalités de redondance, sera toujours une exigence pour les utilisations critiques comme la conduite autonome.

Apporter l'IA aux appareils Edge

Bien que ces fonctions d'IA puissent désormais s'exécuter sur l'appareil, le cloud a toujours un rôle, notamment en complément du traitement sur l'appareil. Les applications d'IA s'appuient toujours sur des plates-formes cloud pour gérer le Big Data et former les modèles de réseaux neuronaux qui pilotent l'inférence de l'IA.

Les appareils Edge eux-mêmes doivent également être équipés pour exécuter efficacement les charges de travail d'IA. Par exemple, le traitement doit se dérouler dans les limites de la plate-forme, y compris la consommation d'énergie et les limites thermiques. Les processeurs d'application avec divers moteurs de traitement sont particulièrement bien adaptés pour exécuter efficacement les tâches d'IA. La plate-forme mobile Qualcomm Snapdragon, par exemple, est équipée de trois moteurs de traitement distincts - une unité centrale de traitement (CPU), une unité de traitement graphique (GPU) et un processeur de signal numérique (DSP) avec des capacités de traitement vectoriel - qui jouent tous des rôles clés dans l'IA sur l'appareil.

Avec l'informatique hétérogène, il existe une variété de moteurs différents dans la puce pour traiter le plus efficacement une tâche donnée, explique Pat Lawlor, responsable du personnel de marketing technique chez Qualcomm. Le CPU, le GPU et le DSP ont des forces et des faiblesses différentes, et ils peuvent fonctionner ensemble ou séparément, selon la tâche d'IA. Ils se complètent et les tâches d'IA s'exécutent sur les moteurs appropriés pour des performances élevées à faible puissance.

La puissance de traitement accrue intégrée aux chipsets des périphériques de pointe modernes les aide à gérer le traitement intense. Par exemple, le DSP Qualcomm Hexagon 685, le GPU Adreno 630 et le processeur Kryo 385 du Snapdragon 845 peuvent fournir un traitement de l'IA jusqu'à deux à trois fois plus rapide que la génération précédente. Le Hexagon DSP, par exemple, a été conçu à l'origine pour les charges de travail intensives en mathématiques vectorielles telles que le traitement audio et continue d'être amélioré pour traiter les charges de travail d'IA, telles que l'accélération des réseaux de neurones lors de l'inférence d'IA.

Quelle est la prochaine étape pour l'IA mobile ?

L'IA mobile est un marché en pleine croissance. Avec les progrès continus des réseaux de neurones, des algorithmes DL et de la conception matérielle, nous verrons de grandes améliorations en termes de précision et de vitesse, ainsi que de nouvelles expériences utilisateur immersives.

Dans l'univers plus large de la mobilité, les réseaux sans fil 5G sont également à l'horizon. L'IA améliorera et augmentera la 5G et vice versa, déclare Brotman. La 5G permettra aux appareils de communiquer plus librement entre eux pour partager des données et partager le contexte. Avec ce développement, nous ferons l'expérience d'un univers entièrement connecté d'appareils de périphérie intelligents, facilitant des expériences utilisateur plus personnalisées et en temps réel.

Nos vies d'aujourd'hui sont enrichies par les capacités de nos appareils, et notre avenir sera de plus en plus amélioré par les progrès réalisés dans l'IA. La convergence de ces deux tendances puissantes façonne déjà les expériences dans nos vies personnelles et professionnelles.

Pour en savoir plus sur l'IA sur l'appareil, visitez qualcomm.com/intelligence-artificielle .

cacher