L'association de l'IA avec les humains a fait de Glassdoor une réussite dans la guerre contre les trolls

Catégorie: Politique technique Posté 16 janvier

Glassdoor, le site de recherche d'emplois et d'évaluation, a été en mesure de créer un environnement de travail collaboratif pour ses examinateurs de contenu humain et IA.

Le travail de l'IA : Les algorithmes d'apprentissage automatique recherchent la fraude et les blasphèmes sur le site. Cara Barry, qui dirige l'équipe de lutte contre la fraude de Glassdoor, dit le New yorkais que leur logiciel recherche, entre autres, les personnes qui laissent plusieurs avis cinq ou une étoile pour affecter de manière inappropriée le classement d'une entreprise. Il peut également utiliser l'analyse de texte pour trouver des messages inappropriés.

Le travail humain : Les modérateurs humains examinent les messages que les machines et les utilisateurs de Glassdoor ont signalés. Ils recherchent des choses allant de la critique des employés en dessous de la suite C (ce qui n'est pas autorisé sur la plate-forme) aux commentaires racistes sur les collègues.

Le partenariat : Alors que des trous flagrants existent dans les IA qui examinent le contenu pour des entreprises comme Youtube et Facebook, Glassdoor a été en mesure d'utiliser la technologie avec beaucoup de succès. Au lieu d'examiner manuellement tous les messages comme les employés de Glassdoor l'ont fait dans le passé, les humains ne doivent plus en examiner qu'environ la moitié, ce qui allège considérablement leur charge tout en gardant les trolls potentiels à distance.