Les algorithmes de tarification peuvent apprendre à s'entendre pour augmenter les prix

Catégorie: Intelligence artificielle Posté 12 février

Si vous magasinez sur Amazon, un algorithme plutôt qu'un humain fixe probablement le prix du service ou de l'article que vous avez acheté. Les algorithmes de tarification sont devenus omniprésents dans la vente au détail en ligne, car les systèmes automatisés sont devenus de plus en plus abordables et faciles à mettre en œuvre. Mais alors que des entreprises comme les compagnies aériennes et les hôtels utilisent depuis longtemps des machines pour fixer leurs prix, les systèmes de tarification ont évolué. Ils sont passés de programmes basés sur des règles à des programmes d'apprentissage par renforcement, où la logique de décider du prix d'un produit n'est plus sous le contrôle d'un humain.

Si vous vous en souvenez, l'apprentissage par renforcement est un sous-ensemble de l'apprentissage automatique qui utilise des pénalités et des récompenses pour inciter un agent d'IA vers un objectif spécifique. AlphaGo l'a utilisé pour battre les meilleurs joueurs humains de l'ancien jeu de société Go. Dans un contexte de tarification, ces systèmes se voient attribuer un objectif tel que la maximisation du profit global ; puis ils expérimentent différentes stratégies dans un environnement simulé pour trouver la stratégie optimale. Un nouveau papier suggère maintenant que ces systèmes pourraient poser un énorme problème : ils apprennent rapidement à s'entendre.

Des chercheurs de l'Université de Bologne en Italie ont créé deux algorithmes de tarification simples basés sur l'apprentissage par renforcement et les ont lâchés dans un environnement contrôlé. Ils ont découvert que les deux algorithmes complètement autonomes ont appris à réagir au comportement de l'autre et ont rapidement tiré le prix des marchandises au-dessus de ce qu'il aurait été si l'un ou l'autre avait fonctionné seul.

Le plus inquiétant est que les algorithmes ne laissent aucune trace d'action concertée, écrivent les chercheurs. Ils apprennent à s'entendre uniquement par essais et erreurs, sans aucune connaissance préalable de l'environnement dans lequel ils opèrent, sans communiquer entre eux et sans être spécifiquement conçus ou instruits pour s'entendre. Cela risque de faire grimper le prix des biens et, en fin de compte, de nuire aux consommateurs.

Ceci est apparu à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.