Cinq questions que vous pouvez utiliser pour réduire le battage médiatique de l'IA

Une illustration abstraite montrant les nombres 1-5 et les points d'interrogation Mme Tech

Il y a deux semaines, les Émirats arabes unis ont accueilli Ai Everything, sa première grande conférence sur l'IA et l'une des plus grandes conférences sur les applications de l'IA au monde. L'événement a été un témoignage impressionnant de l'étendue des industries dans lesquelles les entreprises utilisent désormais l'apprentissage automatique. Cela a également servi de rappel important de la façon dont le monde des affaires peut obscurcir et survendre les capacités de la technologie.

En réponse, j'aimerais décrire brièvement les cinq questions que j'utilise généralement pour évaluer la qualité et la validité de la technologie d'une entreprise :

1. Quel est le problème qu'il essaie de résoudre ?

Je commence toujours par l'énoncé du problème. Qu'est-ce que l'entreprise dit qu'elle essaie de faire, et est-ce digne de l'apprentissage automatique ? Peut-être parlons-nous d'Affectiva, qui développe une technologie de reconnaissance des émotions pour suivre et analyser avec précision l'humeur des gens. Conceptuellement, il s'agit d'un problème de reconnaissance de formes et serait donc un problème auquel l'apprentissage automatique pourrait s'attaquer (voir : Qu'est-ce que l'apprentissage automatique ? ). Il serait également très difficile de l'aborder par un autre moyen car il est trop complexe à programmer dans un ensemble de règles.

2. Comment l'entreprise aborde-t-elle ce problème avec l'apprentissage automatique ?

Maintenant que nous avons une compréhension conceptuelle du problème, nous voulons savoir comment l'entreprise va le résoudre. Une entreprise de reconnaissance des émotions pourrait adopter de nombreuses approches pour créer son produit. Il pourrait former un système de vision par ordinateur pour faire correspondre les motifs sur les expressions faciales des gens ou former un système audio pour faire correspondre les motifs sur le ton de la voix des gens. Ici, nous voulons comprendre comment l'entreprise a recadré son énoncé de problème en un problème d'apprentissage automatique et déterminer les données dont elle aurait besoin pour entrer dans ses algorithmes.

Histoire connexe

Histoire connexe

La définition de l'intelligence artificielle évolue constamment et le terme est souvent mutilé, nous sommes donc là pour vous aider.

3. Comment l'entreprise se procure-t-elle ses données de formation ?

Une fois que nous connaissons le type de données dont l'entreprise a besoin, nous voulons savoir comment l'entreprise s'y prend pour les acquérir. La plupart des applications d'IA utilisent l'apprentissage automatique supervisé, qui nécessite des données étiquetées propres et de haute qualité. Qui étiquette les données ? Et si les étiquettes capturent quelque chose de subjectif comme les émotions, suivent-elles une norme scientifique ? Dans le cas d'Affectiva, vous apprendrez que l'entreprise collecte volontairement des données audio et vidéo auprès des utilisateurs et emploie des spécialistes formés pour étiqueter les données de manière rigoureusement cohérente. Connaître les détails de cette partie du pipeline vous aide également à identifier les sources potentielles de collecte de données ou de biais d'étiquetage (voir : Voici comment se produit réellement le biais de l'IA).

4. L'entreprise dispose-t-elle de processus pour auditer ses produits ?

Nous devons maintenant examiner si l'entreprise teste ses produits. Quelle est la précision de ses algorithmes ? Sont-ils audités pour la partialité? À quelle fréquence réévalue-t-il ses algorithmes pour s'assurer qu'ils sont toujours à la hauteur ? Si l'entreprise ne dispose pas encore d'algorithmes qui atteignent la précision ou l'équité souhaitée, quels plans a-t-elle pour s'assurer qu'ils le seront avant le déploiement ?

5. L'entreprise devrait-elle utiliser l'apprentissage automatique pour résoudre ce problème ?

Il s'agit plus d'un jugement. Même si un problème pouvez être résolu avec l'apprentissage automatique, il est important de se demander s'il devrait être. Ce n'est pas parce que vous pouvez créer une plate-forme de reconnaissance des émotions qui atteint au moins 80 % de précision sur différentes races et sexes qu'elle ne sera pas abusée. Les avantages de la disponibilité de cette technologie l'emportent-ils sur les violations potentielles des droits de l'homme liées à la surveillance émotionnelle ? Et l'entreprise a-t-elle mis en place des mécanismes pour atténuer les éventuels impacts négatifs ?

À mon avis, une entreprise avec un produit d'apprentissage automatique de qualité devrait cocher toutes les cases : elle devrait s'attaquer à un problème adapté à l'apprentissage automatique, disposer de processus d'acquisition et d'audit de données robustes, disposer d'algorithmes très précis ou d'un plan pour les améliorer, et être aux prises avec des questions éthiques. Souvent, les entreprises réussissent les quatre premiers tests, mais pas le dernier. Pour moi, c'est un drapeau rouge majeur. Cela démontre que l'entreprise ne réfléchit pas de manière holistique à la façon dont sa technologie peut affecter la vie des gens et a de fortes chances de tirer un Facebook plus tard sur la ligne. Si vous êtes un cadre à la recherche de solutions d'apprentissage automatique pour votre entreprise, cela devrait vous mettre en garde contre un partenariat avec un fournisseur particulier.

Cette histoire a été initialement publiée dans notre newsletter sur l'IA nominée par Webby, The Algorithm. Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous ici. C'est gratuit.

cacher