211service.com
Au-delà du cycle de battage publicitaire de l'IA : la confiance et l'avenir de l'IA
Fourni par Nuancer
Les promesses ne manquent pas en matière d'IA. Certains disent que cela résoudra tous les problèmes tandis que d'autres préviennent qu'il entraînera la fin du monde tel que nous le connaissons. Les deux positions jouent régulièrement dans les intrigues hollywoodiennes comme Westworld, noir de carbone, Rapport minoritaire, Sa, et Ex-Machina . Ces histoires sont convaincantes car elles nous obligent, en tant que créateurs et consommateurs de technologie d'IA, à décider si nous faisons confiance à un système d'IA ou, plus précisément, si nous faisons confiance à ce que le système fait avec les informations qui lui ont été fournies.
Ce contenu a été produit par Nuance. Il n'a pas été rédigé par la rédaction de MIT Technology Review.
Joe Petro est CTO chez Nuance.
Ces histoires fournissent également une leçon importante pour ceux d'entre nous qui passent leurs journées à concevoir et à créer des applications d'IA : la confiance est un facteur essentiel pour déterminer le succès d'une application d'IA. Qui veut interagir avec un système auquel il ne fait pas confiance ?
La boîte noire et comprendre les inconnues
Même en tant que technologie naissante, l'IA est incroyablement complexe et puissante, offrant des avantages en effectuant des calculs et en détectant des modèles dans d'énormes ensembles de données avec rapidité et efficacité. Mais ce pouvoir, combiné aux perceptions de la boîte noire de l'IA et à son appétit pour les données des utilisateurs, introduit de nombreuses variables, des inconnues et d'éventuelles conséquences imprévues. Caché dans les applications pratiques de l'IA se cache le fait que la confiance peut avoir un effet profond sur la perception du système par l'utilisateur, ainsi que sur les entreprises, les fournisseurs et les marques associés qui mettent ces applications sur le marché.
Des avancées telles que le cloud omniprésent et la puissance de calcul en périphérie rendent l'IA plus performante et efficace tout en facilitant et en accélérant la création et le déploiement d'applications. Historiquement, l'accent a été mis sur le développement de logiciels et la conception de l'expérience utilisateur. Mais il ne s'agit plus simplement de concevoir un système qui résout X . Il est de notre responsabilité de créer une expérience attrayante, personnalisée, fluide et digne de confiance pour chaque utilisateur.
L'IA est gourmande en données : sachez ce que vous lui fournissez
La capacité à le faire avec succès dépend en grande partie des données des utilisateurs. Les performances du système, la fiabilité et la confiance des utilisateurs dans la sortie du modèle d'IA sont autant affectées par la qualité de la conception du modèle que par les données qui y sont intégrées. Les données sont le carburant qui alimente le moteur d'IA qui convertit virtuellement l'énergie potentielle des données utilisateur en énergie cinétique sous la forme d'informations exploitables et de résultats intelligents. Tout comme remplir une voiture de course de Formule 1 avec un carburant de mauvaise qualité ou contaminé diminuerait les performances et la capacité du pilote à concourir, un système d'IA formé avec des données incorrectes ou inadéquates peut produire des résultats inexacts ou imprévisibles qui brisent la confiance des utilisateurs. Une fois brisée, la confiance est difficile à regagner. C'est pourquoi des pratiques rigoureuses de gestion des données par les développeurs et les fournisseurs d'IA sont essentielles pour créer des modèles d'IA efficaces ainsi que pour créer l'acceptation, la satisfaction et la fidélisation des clients.
La gestion responsable des données établit une chaîne de confiance qui s'étend des consommateurs aux entreprises qui collectent les données des utilisateurs et à ceux d'entre nous qui construisent des systèmes alimentés par l'IA. Il est de notre responsabilité de connaître et de comprendre les lois et politiques de confidentialité et de prendre en compte la sécurité et la conformité lors de la phase de conception primaire. Nous devons avoir une compréhension approfondie de la façon dont les données sont utilisées et qui y a accès. Nous devons également détecter et éliminer les biais cachés dans les données grâce à des tests complets.
Traiter les données des utilisateurs comme un « code source » propriétaire
Traitez les données des utilisateurs comme une propriété intellectuelle (IP) sensible. Il s'agit du code source propriétaire utilisé pour créer des modèles d'IA qui résolvent des problèmes spécifiques, créent des expériences sur mesure et atteignent les résultats souhaités ciblés. Ces données sont dérivées des interactions personnelles des utilisateurs, telles que les conversations entre les consommateurs et les agents d'appel, les médecins et les patients, et les banques et les clients. Il est sensible car il crée des profils d'utilisateurs numériques intimes et très détaillés basés sur des informations privées financières, de santé, biométriques et autres.
Les données des utilisateurs doivent être protégées et utilisées avec autant de soin que toute autre propriété intellectuelle, en particulier pour les systèmes d'IA dans des secteurs hautement réglementés tels que les soins de santé et les services financiers. Les médecins utilisent la parole de l'IA, la compréhension du langage naturel et des agents virtuels conversationnels créés avec les données de santé des patients pour documenter les soins et l'accès guidage diagnostique en temps réel . Dans les services bancaires et financiers, les systèmes d'IA traitent des millions de transactions clients et utilisent l'empreinte vocale biométrique, les mouvements oculaires et les données comportementales (par exemple, la vitesse à laquelle vous tapez, les mots que vous utilisez, la main avec laquelle vous glissez) pour détecter d'éventuelles fraudes ou authentifier les identités des utilisateurs .
Les prestataires de soins de santé et les entreprises créent leur propre porte d'entrée numérique de marque qui offre des expériences utilisateur efficaces et personnalisées par SMS, Web, téléphone, vidéo, applications et autres canaux. Les consommateurs optent également pour des interactions numériques en temps réel qui font gagner du temps. Les organisations de soins de santé et commerciales souhaitent à juste titre contrôler et protéger leurs relations et leurs données avec les patients et les clients dans chaque méthode d'engagement numérique afin de renforcer la notoriété de la marque, les interactions personnalisées et la fidélité.
Chaque fournisseur et développeur d'IA doit non seulement être conscient de la nature intrinsèquement sensible des données des utilisateurs, mais également de la nécessité d'opérer avec des normes éthiques élevées pour construire et maintenir la chaîne de confiance requise.
Voici les questions clés à considérer :
Qui a accès aux données ? Ayez une politique claire et transparente qui comprend des protections strictes telles que la limitation de l'accès à certains types de données et l'interdiction de la revente ou du partage avec des tiers. Les mêmes politiques doivent s'appliquer aux fournisseurs de cloud ou aux autres partenaires de développement.
Où sont stockées les données et pendant combien de temps ? Demandez où se trouvent les données (cloud, périphérie, appareil) et combien de temps elles seront conservées. La mise en œuvre du règlement général sur la protection des données de l'Union européenne, la loi californienne sur la protection de la vie privée des consommateurs et la perspective de protections supplémentaires de la vie privée au niveau des États et du gouvernement fédéral devraient placer les pratiques de stockage et de conservation des données au premier plan lors du développement de l'IA.
Comment les bénéfices sont-ils définis et partagés ? Les applications d'IA doivent également être testées avec divers ensembles de données pour refléter les applications réelles prévues, éliminer les biais involontaires et garantir des résultats fiables.
Comment les données se manifestent-elles dans le système ? Comprendre comment les données circuleront dans le système. Les données sensibles sont-elles consultées et essentiellement traitées par un réseau neuronal sous la forme d'une série de 0 et de 1, ou sont-elles stockées dans leur forme d'origine avec des informations médicales ou d'identification personnelle ? Établissez et suivez des politiques appropriées de conservation et de suppression des données pour chaque type de données sensibles.
Qui peut réaliser une valeur commerciale à partir des données des utilisateurs ? Tenez compte des conséquences potentielles du partage de données à des fins extérieures à la portée ou à la source initiale des données. Tenez compte des fusions et acquisitions possibles, des produits de suivi possibles et d'autres facteurs.
Le système est-il sécurisé et conforme ? Concevoir et construire pour la confidentialité et la sécurité d'abord. Considérez comment la transparence, le consentement de l'utilisateur et les performances du système pourraient être affectés tout au long du cycle de vie du produit ou du service.
La réalité de l'IA en action
Les applications biométriques aident à prévenir la fraude et à simplifier l'authentification. Le système de biométrie vocale VoiceID de HSBC a a empêché avec succès le vol de près de 400 millions de livres sterling (environ 493 millions de dollars) par des escrocs par téléphone au Royaume-Uni. Il compare l'empreinte vocale d'une personne avec des milliers de caractéristiques vocales individuelles dans un enregistrement vocal établi pour confirmer l'identité d'un utilisateur. D'autres entreprises utilisent la biométrie vocale pour valider l'identité des employés des centres d'appels distants avant qu'ils ne puissent accéder aux systèmes et données propriétaires. Le besoin de telles mesures augmente à mesure que les consommateurs effectuent davantage d'interactions numériques et téléphoniques.
Les applications intelligentes offrent un service client sécurisé, personnalisé et axé sur le numérique. Une entreprise mondiale de télécommunications utilise l'IA conversationnelle pour créer des expériences client cohérentes, sécurisées et personnalisées à travers son portefeuille de marques vaste et diversifié. Les clients s'engageant de plus en plus sur les canaux numériques, l'entreprise s'est tournée vers des partenaires technologiques pour étendre sa propre expertise interne tout en s'assurant qu'elle garderait le contrôle de ses données lors du déploiement d'un assistant virtuel pour le service client.
Un des trois principaux détaillants utilise la technologie d'assistant virtuel à commande vocale pour permettre aux acheteurs de télécharger des photos d'articles qu'ils ont vus hors ligne, puis leur présente des articles à envisager d'acheter en fonction de ces images.
Les applications cliniques alimentées par l'IA ambiante améliorent les expériences de soins de santé tout en atténuant l'épuisement professionnel des médecins. EmergeOrtho en Caroline du Nord utilise Nuance Dragon Ambient eXpérience (DAX) pour transformer la façon dont ses pratiques orthopédiques à travers l'État peuvent interagir avec les patients et documenter les soins. L'application de télésanté d'intelligence clinique ambiante capture avec précision chaque interaction médecin-patient dans la salle d'examen ou lors d'un appel de télésanté, puis met automatiquement à jour le dossier de santé du patient. Les patients bénéficient de toute l'attention du médecin tout en rationalisant la paperasserie électronique à l'origine de l'épuisement professionnel que les médecins doivent remplir pour être payé pour la prestation de soins.
Les systèmes d'imagerie diagnostique basés sur l'IA garantissent que les patients reçoivent les soins de suivi nécessaires. Les radiologues de plusieurs hôpitaux utilisent l'IA et le traitement du langage naturel pour identifier et extraire automatiquement des recommandations pour les examens de suivi des cancers suspectés et d'autres maladies visibles sur les radiographies et autres images. La même technologie peut aider à gérer une augmentation de l'arriéré et de l'imagerie de suivi à mesure que les restrictions de covid-19 s'assouplissent, permettant aux prestataires de planifier les procédures, de commencer la récupération des revenus et de maintenir les soins aux patients.
Alors que la transformation numérique s'accélère, nous devons relever les défis auxquels nous sommes confrontés aujourd'hui tout en nous préparant à une abondance d'opportunités futures. Au cœur de cet effort se trouve l'engagement à renforcer la confiance et la gérance des données dans nos projets et organisations de développement de l'IA.