EmTech Stage : le CTO de Facebook sur la désinformation

La désinformation et les réseaux sociaux sont devenus indissociables ; Alors que des plateformes comme Twitter et Facebook ont ​​atteint une taille mondiale, la menace posée par la diffusion de faux contenus a également augmenté. Au milieu d'une saison électorale instable aux États-Unis et d'une pandémie mondiale qui fait rage, le pouvoir de l'information pour modifier les opinions et sauver des vies (ou les mettre en danger) est pleinement mis en évidence. Dans la première de deux interviews exclusives avec deux des personnes les plus puissantes du monde de la technologie, le rédacteur en chef de Technology Review, Gideon Lichfield, s'entretient avec le directeur technique de Facebook, Mike Schroepfer, pour parler des défis de la lutte contre les contenus faux et préjudiciables sur une plate-forme en ligne utilisée par milliards dans le monde. Cette conversation provient de la conférence virtuelle EmTech MIT et a été modifiée pour plus de longueur et de clarté.

Pour plus de couverture sur ce sujet, consultez l'épisode de cette semaine de Deep Tech et notre couverture de politique technique.

Crédits:

Cet épisode d'EmTech a été produit par Jennifer Strong et Emma Cillekens, avec des remerciements particuliers à Brian Bryson et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Lichfield.

Transcription:

Fort: Salut tout le monde, c'est Jennifer Strong. La semaine dernière, j'ai promis de choisir quelque chose à jouer pour vous d'EmTech, la grande conférence annuelle de notre salle de presse. Alors voilà. À quelques jours des élections américaines, nous allons nous plonger directement dans l'un des sujets les plus controversés du monde de la technologie et au-delà : la désinformation.

Maintenant, une grande partie de cela commence sur les sites Web de complot, mais c'est sur les réseaux sociaux que cela s'amplifie et se propage. Ces entreprises prennent des mesures de plus en plus audacieuses pour interdire certains types de fausses nouvelles et de groupes extrémistes, et elles utilisent la technologie pour filtrer la désinformation avant que les humains ne puissent la voir. Ils prétendent s'améliorer de plus en plus et un jour, ils disent qu'ils pourront à nouveau rendre Internet sûr pour tout le monde. Mais peuvent-ils vraiment faire ça ?

Dans les deux prochains épisodes, nous allons rencontrer les directeurs techniques de Facebook et Twitter. Ils ont tous deux adopté des approches TRÈS différentes en matière de désinformation, en partie parce qu'une grande partie de ce qui se passe sur Facebook se déroule dans des groupes privés, ce qui en fait un problème plus difficile à résoudre. Alors que sur Twitter, presque tout se passe en public. Donc, tout d'abord - Facebook. Voici Gideon Lichfield, le rédacteur en chef de Tech Review. Il est sur la scène principale virtuelle d'EmTech pour une session qui demande : « L'IA peut-elle nettoyer Internet ? Cette conversation a été modifiée pour plus de longueur et de clarté.

Lichfield : Je vais donner la parole à notre premier intervenant, qui est Mike Schroepfer. Connu généralement de tous ses collègues sous le nom de Schrep. Il est le CTO de Facebook. Il travaille chez Facebook depuis 2008 et quand c'était beaucoup plus petit et il est devenu CTO en 2013. L'année dernière, le New York Times a écrit un grand profil de lui, qui est une lecture très intéressante. Il s'intitulait 'Le génie de l'IA de Facebook est maintenant confronté à la tâche de le nettoyer'. Parfois, cela lui fait pleurer. Schrep, bienvenue. Merci de nous avoir rejoint chez EmTech.

Schroepfer : Salut Gédéon, merci. Heureux d'être ici.

Lichfield : Facebook a pris des mesures assez agressives, en particulier au cours des derniers mois. Vous avez pris des mesures contre QAnon, vous avez interdit la négation de l'Holocauste et les publicités anti-vaccination. Mais les gens mettent en garde contre QAnon depuis des années, les gens mettent en garde contre la désinformation anti-vaccination depuis des années. Alors, pourquoi cela vous a-t-il pris si longtemps ? Qu'est-ce qui a changé dans votre façon de penser pour vous inciter à agir ainsi ?

Schroepfer : Ouais, je veux dire, le monde change tout le temps. Il y a beaucoup de données récentes que vous connaissez, sur la montée des croyances antisémites ou le manque de compréhension de l'Holocauste. QAnon, vous le savez, est devenu plus une menace de violence ces dernières années. Et l'idée qu'il y aurait des menaces de violence autour d'une élection américaine est une chose nouvelle. Et donc, en particulier autour des endroits où la société et les choses qui sont des événements critiques, comme une élection, nous faisons tout ce que nous pouvons pour nous assurer que les gens se sentent en sécurité et informés pour prendre la décision qu'ils doivent prendre pour élire qui est au gouvernement. Et donc nous prenons des mesures plus agressives.

Lichfield : Vous avez dit quelque chose tout à l'heure, vous avez dit qu'il y avait beaucoup de données. Et cela résonne en quelque sorte en moi avec quelque chose que j'avais Alex Stamos, l'ancien responsable de la sécurité de Facebook, a-t-il déclaré récemment dans un podcast, que chez Facebook, les décisions sont vraiment prises sur la base de données. Alors est-ce que c'est ce dont vous avez besoin, vous aviez besoin d'avoir des preuves de données écrasantes, mais, vous savez, le déni de l'Holocauste cause des dommages ou le QAnon cause des dommages avant que vous n'agissiez contre lui.

Schroepfer : Ce que je dirais, c'est que c'est ça. Nous exploitons un service qui est utilisé par des milliards de personnes dans le monde et donc une erreur que je ne veux pas faire est de supposer que je comprends ce dont les autres ont besoin, ce que les autres veulent ou ce qui se passe. Et donc, une façon d'éviter cela est de s'appuyer sur l'expertise là où nous l'avons. Donc, vous savez, par exemple, pour les organisations dangereuses, nous avons de nombreuses personnes ayant des antécédents dans la lutte contre le terrorisme, nous sommes allés à West Point, nous avons de nombreuses personnes ayant des antécédents en matière d'application de la loi où vous parlez d'ingérence dans le vote, nous avons des experts ayant des antécédents et le vote et droits.

Et donc vous, vous écoutez les experts, euh, et vous regardez les données et vous, et vous essayez de comprendre ce sujet plutôt que, vous savez, vous ne voulez pas que je prenne ces décisions. Vous, vous voulez une sorte d'experts et vous voulez que les données le fassent. Et parce que ce n'est pas seulement, vous savez, ce problème ici, c'est, ce sont des problèmes de confidentialité, ce sont des problèmes et des lieux, et, et, donc je dirais que nous essayons d'être rigoureux en utilisant une sorte d'expertise et de données là où nous le pouvons, nous ne faisons donc pas d'hypothèses sur ce qui se passe dans le monde ou sur ce dont nous pensons que les gens ont besoin.

Lichfield : Eh bien, parlons un peu plus de QAnon en particulier parce que l'approche que vous adoptez, évidemment, pour gérer ces informations, alors que vous essayez d'entraîner vos IA à reconnaître les choses qui sont nuisibles. Et la difficulté avec cette approche est que la nature de la désinformation ne cesse de changer, c'est spécifique au contexte, n'est-ce pas ? Et la désinformation sur les musulmans au Myanmar, qui a déclenché des émeutes là-bas. Vous ne savez pas que c'est de la désinformation jusqu'à ce qu'elle commence à apparaître. Le problème, il me semble, avec Q Anon, c'est que c'est un tel, ce n'est pas comme ISIS ou quelque chose comme ça. ses croyances ne cessent de changer les comptes, ne cessent de changer. Alors, comment s'attaquer à quelque chose qui est si mal défini comme une menace comme ça ?

Schroepfer : Eh bien, vous savez, je vais en parler et, et je pense que l'un des, d'un point de vue technique, l'un des défis les plus difficiles sur lesquels je me suis concentré ces dernières années, à cause de problèmes similaires en termes de la subtilité, le langage codé et le comportement contradictoire, qui est un discours de haine. Il y a des discours de haine manifestes, ce qui est très évident et vous pouvez utiliser des sortes de phrases que vous avez mises en banque ou, ou, ou des mots-clés. Mais les gens s'adaptent et utilisent un langage codé et ils le font, vous savez, sur une base quotidienne, hebdomadaire. Et vous pouvez même le faire avec des mèmes où vous avez une image, puis vous superposez des mots dessus, et cela change complètement le sens. Tu sens bon aujourd'hui. Et les images de skunk sont très différentes de, vous savez, une fleur, et vous devez tout mettre ensemble.

Et donc, euh, et de la même manière, comme vous le dites, avec QAnon et il peut y avoir de la subtilité et des choses comme ça. C'est pourquoi je me suis tellement concentré sur, vous savez, quelques technologies clés de l'IA. La première est que nous avons considérablement augmenté la puissance de ces classificateurs pour comprendre et traiter des informations nuancées. Vous savez, il y a cinq ou dix ans, les mots-clés étaient probablement ce que nous pouvions faire de mieux. Nous en sommes maintenant au point où nos classificateurs détectent les erreurs dans les données d'étiquetage ou les erreurs que les réviseurs humains commettent parfois. Parce qu'ils sont assez puissants pour saisir la subtilité dans des sujets comme, est-ce un message qui incite à la violence contre un électeur ? Ou expriment-ils simplement leur mécontentement vis-à-vis du vote ou de cette population ? Ce sont deux très… malheureusement, c'est un, c'est une ligne fine quand on regarde à quel point les gens essaient d'être prudents dans le codage du langage pour en quelque sorte le contourner.

Et donc vous voyez des choses similaires avec QAnon et d'autres. Et donc nous avons maintenant des classificateurs qui, vous savez, notre travail de pointe dans plusieurs langues et sont vraiment impressionnants dans ce qu'ils ont fait grâce à des techniques que nous pouvons utiliser comme l'auto-surveillance, euh, pour regarder, vous savez, des milliards de données pour, pour s'entraîner. Et puis l'autre chose que nous avons, c'est que nous utilisons en quelque sorte une technique similaire à celle-ci, qui nous permet de faire, vous savez, la meilleure façon de le décrire comme une sorte de correspondance floue. Qui est en tant que critique humain, passe le temps et dit, vous savez quoi, je pense que ces éléments de désinformation, ou c'est un groupe QAnon, même s'il est codé dans différentes langues, ce que nous pouvons alors faire, c'est en quelque sorte se déployer et trouver des choses qui sont sémantiquement similaires, pas les mots exacts, pas des mots-clés, pas des regex, euh, mais des choses qui sont très proches dans un, dans un espace d'intégration qui sont sémantiquement similaires. Et puis nous pouvons agir sur eux.

Et cela permet ce que j'appelle une réaction rapide. Donc, même si je n'avais aucune idée de ce qu'était cette chose hier, aujourd'hui, si un groupe d'examinateurs humains la trouve, nous pouvons alors amplifier leur travail en quelque sorte sur le réseau et mettre en œuvre de manière proactive à tout moment de nouvelles informations. Juste pour mettre cela en contexte, vous savez, au deuxième trimestre, nous avons supprimé 7 millions de fausses informations sur le COVID. De toute évidence, au quatrième trimestre de l'année dernière, il n'y avait pas de désinformation sur le COVID. Nous avons donc dû en quelque sorte créer de nouvelles techniques de classification pour ce faire. Et ce que j'ai mis au défi de l'équipe, c'est comme de réduire le temps de construction de notre classificateur de ce qui était auparavant de très nombreux mois à, vous savez, quoi, parfois des semaines, des jours, des minutes. La première fois que je vois un exemple, ou la première fois que je lis une nouvelle politique, je veux pouvoir créer un classificateur qui fonctionne à, vous savez, à l'échelle d'un milliard d'utilisateurs. Et, vous savez, nous n'en sommes pas encore là, mais nous progressons rapidement

Lichfield : Bien. Je pense donc que c'est là la question, à quelle vitesse les progrès sont-ils, n'est-ce pas ? Ça, ces 7 millions de statistiques de désinformation. J'ai vu cela cité par un porte-parole de Facebook en réponse à une étude publiée par Avaaz en août. Et il avait examiné la désinformation COVID qui a révélé que les 10 principaux sites Web qui diffusaient de la désinformation avaient quatre fois plus de vues estimées sur Facebook que le contenu équivalent des sites Web de 10 principaux établissements de santé, comme l'OMS, ils ont constaté que seulement 16% des toutes les informations erronées sur la santé, ont-ils analysé, portaient une étiquette d'avertissement de Facebook. Donc, en d'autres termes, vous faites évidemment beaucoup, vous faites beaucoup plus que ce que vous faisiez et vous, et vous êtes toujours, à ce compte, loin derrière la courbe. Comment, et c'est une crise qui tue des gens. Alors, combien de temps vous faudra-t-il pour y arriver, pensez-vous ?

Schroepfer : Ouais, je veux dire, je pense que, vous savez, c'est là que, vous savez, j'aimerais que nous publions plus de données à ce sujet. Parce que ce dont vous aviez vraiment besoin pour comparer des pommes avec des pommes, c'est la portée globale de ces informations, et en quelque sorte quelle est l'information, en quelque sorte, le régime d'exposition de l'utilisateur moyen de Facebook. Et je pense qu'il y a quelques éléments que les gens ne comprennent pas. Le premier est que le fil d'actualité de la plupart des gens est rempli de contenu de leurs amis. Par exemple, les liens d'actualités, ce sont en quelque sorte une minorité des points de vue dans le fil d'actualités des gens et sur Facebook. Je veux dire, le but de Facebook est de se connecter avec vos amis et vous en avez probablement fait l'expérience vous-même. C'est, vous savez, des messages et des photos et des choses comme ça.

Deuxièmement, sur des choses comme la désinformation COVID, comme ce avec quoi vous devez vraiment comparer cela, en le comparant, par exemple, aux vues de notre centre d'information COVID, que nous avons littéralement poussé tout en haut du fil d'actualité afin que tout le monde puisse obtenir des informations sur ça. Nous faisons des choses similaires, euh, pour voter. Nous avons aidé à enregistrer près de deux millions et demi d'électeurs aux États-Unis. Des informations similaires, vous savez, pour des questions de justice raciale compte tenu de tous les événements horribles qui se sont produits cette année. Donc, ce que je n'ai pas, c'est l'étude approfondie de, vous savez, combien de fois quelqu'un a-t-il consulté le centre d'information COVID par rapport à ces autres choses ? Euh, vous savez, mais je suppose que ce serait qu'ils obtiennent beaucoup plus de ces bonnes informations de notre part.

Mais écoutez, vous savez, à chaque fois qu'un de ces trucs s'échappe, je n'ai pas encore fini. C'est pourquoi je suis toujours ici pour faire mon travail, c'est que nous voulons améliorer les choses. Et, et, et oui, j'aurais aimé que ce soit 0 %. J'aimerais que nos classificateurs soient précis à 99,999 %. Ils ne sont pas. Vous savez, mon travail consiste à les amener là aussi vite qu'il est humainement possible. Et quand nous aurons terminé cet appel, c'est ce sur quoi je vais travailler. Ce que je peux faire, c'est simplement regarder l'histoire récente et les progrès du projet. Parce que je ne peux pas réparer le passé, mais je peux réparer aujourd'hui et demain. Quand je regarde des choses comme, vous savez, le discours de haine où, vous savez, en 2017, seulement environ un quart des discours de haine ont été trouvés par nos systèmes, d'abord. Près des trois quarts d'entre eux ont d'abord été trouvés par quelqu'un sur Facebook. Ce qui est affreux, ce qui signifie qu'ils y ont été exposés et ont dû nous le signaler. Et maintenant, le nombre est à 99, 94,5 %. Même au cours du dernier, vous savez, entre le deuxième trimestre de cette année et la même période l'année dernière, nous avons multiplié par 5 la quantité de contenu que nous supprimons pour discours de haine. Et je peux retracer tout cela. Maintenant, ce nombre devrait être 99,99 et nous ne devrions même pas avoir cette conversation parce que vous devriez dire, je n'ai jamais vu ce genre de choses, et je n'en entends jamais parler, parce que c'est parti.

C'est mon objectif, mais je n'y arrive pas encore. Mais si vous regardez juste le dernier, vous savez, chaque fois que je dis quelque chose de 5X en un an, ou ça passe de 24 % à 94 % en deux ans, comme, et je dis, nous avons un, nous ne sommes pas , je ne suis pas à court d'idées, nous déployons toujours des trucs à la pointe de la technologie comme cette semaine, la semaine prochaine, la semaine dernière, alors c'est pourquoi je suis optimiste dans l'ensemble, que nous allons déplacer cela problème dans un endroit où ce n'est pas la première chose dont tu veux me parler mais je n'en suis pas encore là.

Lichfield : C'est un problème technique. C'est aussi évidemment un, un problème de main-d'œuvre. Vous allez évidemment connaître, euh, le, le mémo que Sophie Zhang, qui était une ancienne data scientist de Facebook, a écrit quand elle est partie. Et elle a écrit sur la façon dont elle travaillait dans l'une des équipes, vous avez plusieurs équipes qui travaillent pour essayer d'identifier les informations nuisibles dans le monde. Et sa principale plainte, semble-t-il, était qu'elle avait l'impression que ces équipes manquaient de personnel et qu'elle devait prioriser les décisions quant à savoir s'il fallait traiter, vous savez, la désinformation autour d'une élection dans un pays pour des cas aussi dangereux. Et quand cela, ces décisions que l'on priorisait, cela pouvait parfois prendre des mois pour qu'un problème soit traité et cela pouvait avoir de réelles conséquences. Euh, vous avez, je pense que 15 000 modérateurs humains en ce moment, pensez-vous que vous avez suffisamment de personnes ?

Schroepfer : Je ne pense jamais que nous ayons assez de monde sur quoi que ce soit. Donc je, vous savez, je n'ai pas encore été sur un projet où nous cherchions des choses sur lesquelles travailler et je veux dire ça très sérieusement. Et nous, vous savez, avec 35 000 personnes travaillant là-dessus, vous savez, du côté de la révision et du contenu et de la sûreté et de la sécurité. L'autre chose dont je pense que nous ne parlons pas beaucoup, c'est que si vous allez parler aux chefs de mon équipe d'IA et leur demandez ce que Schrep nous demande de faire depuis trois ans, c'est l'intégrité, c'est la modération du contenu . Ce n'est pas cool wizzy, de nouvelles choses. C'est comme, comment combattons-nous ce problème? Et ça fait des années qu'on y travaille.

J'ai donc pris en quelque sorte les meilleurs et les plus brillants que nous ayons dans l'entreprise et j'ai dit, vous savez, et ce n'est pas comme si je devais leur ordonner de le faire parce qu'ils veulent y travailler. Je dis, nous avons cet énorme problème, nous pouvons aider, allons-y. Avons-nous finit? Non. Suis-je impatient ? Absolument. Est-ce que j'aimerais que plus de gens travaillent dessus? Tout le temps. Vous savez, nous devons faire nos compromis sur ces choses, et donc, vous savez, euh, mais mon travail, vous savez, et ce que nous pouvons faire avec la technologie est en quelque sorte de supprimer certains de ces compromis. Vous savez, chaque fois que nous déployons un nouveau classificateur plus puissant, euh, qui enlève une tonne de travail à nos modérateurs humains, qui peuvent alors aller travailler sur des problèmes de niveau supérieur. Vous savez, au lieu de vous, vous savez, des décisions vraiment faciles, ils passent à la désinformation et à des choses vraiment vagues et évaluent les groupes dangereux et ce genre de déplacement des gens vers le haut de la courbe de difficulté améliore également les choses. Et c'est ce que nous essayons de faire.

Fort: Nous allons faire une courte pause - mais d'abord, je veux suggérer un autre spectacle que je pense que vous aimerez. Brave New Planet pèse le pour et le contre d'un large éventail d'innovations puissantes dans les domaines de la science et de la technologie. Le Dr Eric Lander, qui dirige le Broad Institute du MIT et de Harvard, explore des questions difficiles telles que;

Atterrisseur : Doit-on modifier l'atmosphère terrestre pour prévenir le changement climatique ? Et la vérité et la démocratie peuvent-elles survivre à l'impact des deepfakes ?

Fort: Brave New Planet est de Pushkin Industries. Vous pouvez le trouver partout où vous obtenez vos podcasts. Nous reviendrons juste après cela.

[Publicité]

Fort: Bienvenue dans un épisode spécial de In Machines We Trust. Il s'agit d'une conversation entre Mike Schroepfer de Facebook et le rédacteur en chef de Tech Review, Gideon Lichfield. Cela s'est passé en direct sur la scène virtuelle de notre conférence EmTech, et il a été édité pour plus de longueur et de clarté. Si vous voulez en savoir plus sur ce sujet, y compris notre analyse, veuillez consulter les notes de l'émission ou rendez-nous visite sur Technology Review point com.

Lichfield : Quelques questions que je vais poser du public, comment la désinformation affecte-t-elle le flux de revenus de Facebook ? Et un autre est, euh, à propos de, euh, comment cela affecte-t-il la confiance dans Facebook ? Eh bien, il semble y avoir un manque de confiance sous-jacent envers Facebook et comment mesurez-vous la confiance ? Et le brillant que nous voulons mettre sur ces questions est, clairement, vous vous souciez de la désinformation, clairement beaucoup de gens qui travaillent chez Facebook s'en soucient ou s'en inquiètent, mais il y a, je pense qu'une question sous-jacente que les gens ont est Facebook en tant qu'entreprise s'en soucie-t-il, est-il suffisamment impacté négativement pour qu'il s'attaque sérieusement au problème ?

Schroepfer : Ouais. Je veux dire, écoutez, je suis aussi une personne dans la société. Je me soucie beaucoup de la démocratie et de l'avenir et de l'amélioration de la vie des gens de manière positive. Et je vous mets au défi de trouver, vous savez, quelqu'un qui se sent différemment dans nos bureaux. Et donc nous, oui, nous travaillons chez Facebook, mais nous sommes des gens du monde et je me soucie beaucoup de l'avenir de mes enfants. Et bien, bien, vous demandez, est-ce que nous nous en soucions ? Et la réponse est oui. Um, vous savez, avons-nous les incitations? De quoi avons-nous passé beaucoup de temps à parler aujourd'hui ? Nous avons parlé de désinformation et d'autres choses, vous savez, honnêtement, de quoi préférerais-je parler ? Je préfère parler de réalité virtuelle et des utilisations positives de la RA et de toutes les nouvelles technologies géniales que nous construisons, parce que, vous savez, c'est, c'est normalement ce dont un CTO parlerait.

Donc, c'est évidemment quelque chose qui remet en question la confiance dans l'entreprise, la confiance dans nos produits, qui est un énorme problème pour nous, euh, du point de vue de notre intérêt personnel. Donc, même si vous pensez que j'en ai plein, vous venez, d'un point de vue pratique et intéressé, comme en tant que marque, en tant que produit de consommation que les gens utilisent volontairement tous les jours, lorsque j'essaie de vendre un nouveau produit comme Portal , qui est une caméra pour votre maison, comme les gens font confiance à l'entreprise qui est derrière ce produit et pensent que nous avons, vous savez, leurs meilleures intentions à cœur. S'ils ne le font pas, ce sera un énorme défi pour absolument tout ce que je fais. Donc, je pense que les intérêts ici sont assez alignés. Je ne pense pas qu'il y ait beaucoup de bons exemples de produits de consommation gratuits, qui survivent si les gens ne les aiment pas, n'aiment pas les entreprises ou pensent qu'ils sont mauvais. C'est donc d'un point de vue intéressé, une question cruciale pour nous.

[Crédits]

Fort: Cette conversation avec le CTO de Facebook est le premier de deux épisodes sur la désinformation et les médias sociaux. Dans la partie suivante, nous discutons avec le CTO de Twitter. Si vous souhaitez entendre l'analyse de notre salle de presse sur ce sujet et l'élection, j'ai laissé tomber un lien dans nos notes d'émission. J'espère que vous le vérifierez. Cet épisode d'EmTech a été produit par moi et par Emma Cillekens, avec des remerciements particuliers à Brian Bryson et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Lichfield. Comme toujours, merci pour votre écoute. Je suis Jennifer Strong.

[ID TR]

cacher