211service.com
Notre comportement étrange pendant la pandémie perturbe les modèles d'IA
Getty
Au cours de la semaine du 12 au 18 avril, les 10 principaux termes de recherche sur Amazon.com étaient : papier hygiénique, masque facial, désinfectant pour les mains, serviettes en papier, spray Lysol, lingettes Clorox, masque, Lysol, masques de protection contre les germes et masque N95. . Les gens ne cherchaient pas seulement, ils achetaient aussi - et en gros. La majorité des personnes à la recherche de masques ont fini par acheter le Nouveau best-seller Amazon n°1, masque facial, lot de 50 .
Lorsque le covid-19 a frappé, nous avons commencé à acheter des choses que nous n'avions jamais achetées auparavant. Le changement a été soudain : les piliers du top 10 d'Amazon - étuis de téléphone, chargeurs de téléphone, Lego - ont été éliminés des charts en quelques jours seulement. Nozzle, un cabinet de conseil basé à Londres et spécialisé dans la publicité algorithmique pour les vendeurs Amazon, a capturé le changement rapide de ce graphique simple.
Il a fallu moins d'une semaine fin février pour que les 10 principaux termes de recherche Amazon dans plusieurs pays se remplissent de produits liés au covid-19. Vous pouvez suivre la propagation de la pandémie en fonction de ce que nous avons acheté : les articles ont d'abord culminé en Italie, suivis de l'Espagne, de la France, du Canada et des États-Unis. Le Royaume-Uni et l'Allemagne accusent un léger retard. C'est une transition incroyable en l'espace de cinq jours, déclare Rael Cline, PDG de Nozzle. Les effets d'entraînement ont été observés dans toutes les chaînes d'approvisionnement du commerce de détail.
Mais ils ont également affecté l'intelligence artificielle, provoquant des ratés pour les algorithmes qui s'exécutent dans les coulisses de la gestion des stocks, de la détection des fraudes, du marketing, etc. Les modèles d'apprentissage automatique formés sur le comportement humain normal constatent maintenant que la normalité a changé, et certains ne fonctionnent plus comme ils le devraient.
La gravité de la situation dépend de la personne à qui vous parlez. Selon Pactera Edge, un cabinet de conseil mondial en IA, l'automatisation est en chute libre. D'autres disent qu'ils gardent un œil prudent sur les systèmes automatisés qui ne font que tenir le coup, intervenant avec une correction manuelle en cas de besoin.
Ce qui est clair, c'est que la pandémie a révélé à quel point nos vies sont liées à l'IA, exposant une co-dépendance délicate dans laquelle les changements de notre comportement modifient le fonctionnement de l'IA, et les changements dans le fonctionnement de l'IA modifient notre comportement. Cela rappelle également que l'implication humaine dans les systèmes automatisés reste essentielle. Vous ne pouvez jamais vous asseoir et oublier quand vous êtes dans des circonstances aussi extraordinaires, dit Cline.
En savoir plus sur le coronavirus
Notre couverture la plus essentielle de covid-19 est gratuite, y compris :
Qu'est-ce que l'immunité collective ?
Qu'est-ce qu'un test sérologique ?
Comment fonctionne le coronavirus ?
Quels sont les traitements potentiels ?
Quels médicaments fonctionnent le mieux?
Quelle est la bonne façon de faire de la distanciation sociale ?
Autres questions fréquemment posées sur le coronavirus
---
Newsletter : Rapport technique sur le coronavirus
Émission Zoom : Radio Corona
Voir également:
Toute notre couverture covid-19
Le numéro spécial covid-19
Veuillez cliquer ici pour vous abonner et soutenir notre journalisme à but non lucratif.
Les modèles d'apprentissage automatique sont conçus pour répondre aux changements. Mais la plupart sont aussi fragiles ; ils fonctionnent mal lorsque les données d'entrée diffèrent trop des données sur lesquelles ils ont été formés. C'est une erreur de supposer que vous pouvez mettre en place un système d'IA et vous en aller, déclare Rajeev Sharma, vice-président mondial de Pactera Edge : L'IA est un moteur vivant et respirant.
Sharma a parlé à plusieurs entreprises aux prises avec une IA capricieuse. Une entreprise qui fournit des sauces et des condiments aux détaillants en Inde avait besoin d'aide pour réparer son système automatisé de gestion des stocks lorsque des commandes groupées ont enfreint ses algorithmes prédictifs. Les prévisions de ventes du système sur lesquelles l'entreprise s'appuyait pour réapprovisionner les stocks ne correspondaient plus à ce qui se vendait réellement. Il n'a jamais été formé sur un pic comme celui-ci, donc le système était détraqué, dit Sharma.
Une autre entreprise utilise une IA pour évaluer le sentiment des articles de presse et fournit des recommandations d'investissement quotidiennes basées sur les résultats. Mais avec les nouvelles en ce moment plus sombres que d'habitude, les conseils vont être très biaisés, dit Sharma. Et une grande entreprise de streaming qui a eu un afflux soudain d'abonnés avides de contenu a également des problèmes avec ses algorithmes de recommandation, dit-il. L'entreprise utilise l'apprentissage automatique pour suggérer un contenu pertinent et personnalisé aux téléspectateurs afin qu'ils reviennent. Mais le changement soudain des données sur les abonnés rendait les recommandations de son système moins précises.
Bon nombre de ces problèmes liés aux modèles surviennent parce que de plus en plus d'entreprises achètent des systèmes d'apprentissage automatique mais n'ont pas le savoir-faire interne nécessaire pour les entretenir. Le recyclage d'un modèle peut nécessiter une intervention humaine experte.
La crise actuelle a également montré que les choses peuvent empirer par rapport aux scénarios les plus pessimistes assez vanillés inclus dans les ensembles de formation. Sharma pense que davantage d'IA devraient être formées non seulement sur les hauts et les bas de ces dernières années, mais aussi sur des événements anormaux comme la Grande Dépression des années 1930, le krach boursier du lundi noir en 1987 et la crise financière de 2007-2008. Une pandémie comme celle-ci est un déclencheur parfait pour construire de meilleurs modèles d'apprentissage automatique, dit-il.
Même ainsi, vous ne pouvez pas tout préparer. En général, si un système d'apprentissage automatique ne voit pas ce qu'il s'attend à voir, alors vous aurez des problèmes, explique David Excell, fondateur de Featurespace, une société d'analyse comportementale qui utilise l'IA pour détecter la fraude par carte de crédit. Peut-être étonnamment, Featurespace n'a pas vu son IA trop durement touchée. Les gens achètent toujours des choses sur Amazon et s'abonnent à Netflix comme ils l'étaient auparavant, mais ils n'achètent pas d'articles coûteux ou ne dépensent pas dans de nouveaux endroits, qui sont les comportements qui peuvent éveiller les soupçons. Le comportement de consommation des gens est une contraction de leurs anciennes habitudes, dit Excell.
Les ingénieurs de l'entreprise n'ont eu qu'à intervenir pour s'adapter à une augmentation du nombre de personnes achetant du matériel de jardinage et des outils électriques, explique Excell. Ce sont les types d'achats anormaux à prix moyen que les algorithmes de détection de fraude pourraient détecter. Je pense qu'il y a certainement plus de surveillance, dit Excell. Le monde a changé et les données ont changé.
Trouver le bon ton
Phrasee, basée à Londres, est une autre société d'IA qui travaille sur le terrain. Il utilise le traitement du langage naturel et l'apprentissage automatique pour générer une copie marketing par e-mail ou des publicités Facebook au nom de ses clients. S'assurer qu'il obtient le bon ton fait partie de son travail. Son IA fonctionne en générant de nombreuses phrases possibles, puis en les exécutant via un réseau de neurones qui sélectionne les meilleures. Mais parce que la génération de langage naturel peut très mal tourner, Phrasee demande toujours aux humains de vérifier ce qui entre et sort de son IA.
Lorsque le covid-19 a frappé, Phrasee s'est rendu compte qu'une plus grande sensibilité que d'habitude pourrait être nécessaire et a commencé à filtrer le langage supplémentaire. La société a interdit des expressions spécifiques, telles que devenir virales, et n'autorise pas le langage faisant référence à des activités découragées, telles que les tenues de soirée. Il a même éliminé les émoticônes qui peuvent être lues comme trop heureuses ou trop alarmantes. Et il a également abandonné les termes qui peuvent attiser l'anxiété, tels que OMG, soyez prêt, faites le plein et préparez-vous. Les gens ne veulent pas que le marketing les rende anxieux et craintifs - vous savez, comme, cet accord est sur le point d'expirer, pression pression pression, dit Parry Malm, PDG de l'entreprise.
En tant que microcosme pour l'industrie de la vente au détail dans son ensemble, cependant, vous ne pouvez pas battre Amazon. C'est également là que certains des ajustements les plus subtils en coulisses sont effectués. Alors qu'Amazon et les 2,5 millions de vendeurs tiers qu'il prend en charge ont du mal à répondre à la demande, il apporte de petites modifications à ses algorithmes pour aider à répartir la charge.
La plupart des vendeurs Amazon comptent sur Amazon pour exécuter leurs commandes. Les vendeurs stockent leurs articles dans un entrepôt Amazon et Amazon s'occupe de toute la logistique, de la livraison au domicile des personnes et de la gestion des retours. Il promeut ensuite les vendeurs dont il exécute lui-même les commandes. Par exemple, si vous recherchez un article spécifique, comme une Nintendo Switch, le résultat qui apparaît en haut, à côté du bouton bien visible Ajouter au panier, est plus susceptible de provenir d'un fournisseur qui utilise la logistique d'Amazon que d'un fournisseur qui ne le fait pas. 't.
Mais au cours des dernières semaines, Amazon a inversé la tendance, explique Cline. Pour faciliter la demande sur ses propres entrepôts, ses algorithmes semblent désormais plus susceptibles de promouvoir les vendeurs qui gèrent leurs propres livraisons.
Marchés volatils
Ce genre de réglage serait difficile à faire sans intervention manuelle. La situation est tellement instable, dit Cline. Vous essayez d'optimiser le papier toilette la semaine dernière, et cette semaine, tout le monde veut acheter des puzzles ou du matériel de gym.
Les modifications apportées par Amazon à ses algorithmes ont ensuite des répercussions sur les algorithmes que les vendeurs utilisent pour décider de ce qu'ils doivent dépenser pour la publicité en ligne. Chaque fois qu'une page Web contenant des annonces se charge, une enchère ultra-rapide a lieu où les enchérisseurs automatiques décident entre eux qui doit remplir chaque boîte publicitaire. Le montant que ces algorithmes décident de dépenser pour une publicité dépend d'une myriade de variables, mais en fin de compte, la décision est basée sur une estimation de ce que vous, les globes oculaires sur la page, valez pour eux. Il existe de nombreuses façons de prédire le comportement des clients, y compris non seulement des données sur vos achats passés, mais aussi le casier dans lequel les agences de publicité vous ont placé sur la base de votre activité en ligne.
Mais maintenant, l'un des meilleurs prédicteurs pour savoir si quelqu'un qui clique sur une publicité achètera votre produit est le temps que vous dites qu'il faudra pour le livrer, dit Cline. Nozzle parle donc aux clients d'ajuster leurs algorithmes pour en tenir compte. Par exemple, si vous pensez que vous ne pouvez pas livrer plus vite qu'un concurrent, cela ne vaut peut-être pas la peine d'essayer de le surenchérir dans une enchère publicitaire. D'un autre côté, si vous savez que votre concurrent est en rupture de stock, vous pouvez vous lancer à bas prix, en pariant qu'il n'enchérira pas.
Tout cela n'est possible qu'avec une équipe dédiée qui garde un œil sur les choses, explique Cline. Il pense que la situation actuelle est une révélation pour beaucoup de gens qui pensaient que tous les systèmes automatisés pouvaient fonctionner eux-mêmes. Vous avez besoin d'une équipe de science des données qui peut relier ce qui se passe dans le monde à ce qui se passe sur les algorithmes, dit-il. Un algorithme ne relèverait jamais certaines de ces choses.
Avec tout ce qui est connecté, l'impact d'une pandémie s'est fait sentir partout, touchant des mécanismes qui, en des temps plus typiques, restent cachés. Si nous recherchons une doublure argentée, il est maintenant temps de faire le point sur ces systèmes nouvellement exposés et de se demander comment ils pourraient être mieux conçus, rendus plus résistants. Si l'on veut faire confiance aux machines, nous devons les surveiller.