Facebook utilise des bots pour simuler ce que ses utilisateurs pourraient faire

Catégorie: Intelligence artificielle Posté 15 avril

Facebook a développé une nouvelle méthode pour jouer les conséquences de son code.

Le contexte: Comme toute entreprise de logiciels, le géant de la technologie doit tester son produit chaque fois qu'il propose des mises à jour. Mais les types de méthodes de débogage utilisées par les entreprises de taille normale ne suffisent pas vraiment lorsque vous avez 2,5 milliards d'utilisateurs. Ces méthodes se concentrent généralement sur la vérification de la façon dont un utilisateur unique peut expérimenter la plate-forme et si le logiciel répond aux actions de ces utilisateurs individuels comme prévu. En revanche, jusqu'à 25 % des problèmes majeurs de Facebook n'apparaissent que lorsque les utilisateurs commencent à interagir les uns avec les autres. Il peut être difficile de voir comment l'introduction d'une fonctionnalité ou les mises à jour d'un paramètre de confidentialité pourraient se répercuter sur des milliards d'interactions d'utilisateurs.

SimCity : En réponse, Facebook construit une version réduite de sa plateforme pour simuler le comportement de l'utilisateur. Appelé WW, il aide les ingénieurs à identifier et à corriger les conséquences indésirables des nouvelles mises à jour avant leur déploiement. Il recommande également automatiquement les modifications pouvant être apportées à la plateforme pour améliorer l'expérience de la communauté.

Bot sosies : Facebook simule des centaines à des milliers de ses utilisateurs à la fois avec un mélange de bots codés en dur et basés sur l'apprentissage automatique. Ces derniers sont formés à l'aide d'un algorithme d'apprentissage par renforcement, qui apprend par essais et erreurs pour optimiser leur comportement à la lumière d'un objectif. Les bots sont ensuite amenés à jouer différents scénarios, comme un escroc essayant d'exploiter d'autres utilisateurs ou un pirate essayant d'accéder aux photos privées de quelqu'un. Dans un scénario d'escroquerie, par exemple, les robots escrocs ont pour objectif de trouver les meilleures cibles à arnaquer. Les bots cibles, en revanche, sont codés en dur avec les comportements vulnérables les plus courants présentés par les utilisateurs. Chaque scénario peut n'avoir que quelques bots qui les exécutent, mais le système est conçu pour avoir des milliers de scénarios différents exécutés en parallèle.

Conception automatique : Pendant que les scénarios se déroulent, le système ajuste automatiquement différents paramètres dans la simulation, tels que les paramètres de confidentialité des bots ou les contraintes sur leurs actions. À chaque ajustement, il évalue quelle combinaison de paramètres permet d'obtenir le comportement communautaire le plus souhaité, puis recommande la meilleure version aux développeurs de la plate-forme Facebook.

À l'abri des regards : Afin de créer une simulation aussi réaliste que possible, WW est en fait construit directement sur la plate-forme en direct plutôt que sur une version de test distincte - une autre différence clé par rapport à la plupart des schémas de test. Les robots, cependant, restent dans les coulisses. Alors qu'un utilisateur typique interagit avec Facebook via une interface utilisateur frontale, telle qu'un profil et d'autres fonctionnalités du site Web, les faux utilisateurs de robots peuvent interagir directement avec le code principal. Cela leur permet de coexister avec de vrais utilisateurs et de simuler plus précisément différents scénarios sur la plate-forme sans que ces utilisateurs n'interagissent également avec eux par erreur.

Futur parfait : À l'heure actuelle, la société l'utilise pour tester et améliorer des fonctionnalités qui rendraient beaucoup plus difficile pour les mauvais acteurs de violer les directives de la communauté de la plate-forme. Mais il voit également d'autres applications potentielles pour le système, telles que le test de la manière dont les mises à jour de la plate-forme peuvent affecter l'engagement et d'autres mesures.