Ex-patron de la sécurité de Facebook : Demander à Big Tech de contrôler les discours de haine est une voie dangereuse

Josh Edelson | Avec l'aimable autorisation de l'Université de Stanford

Il y a encore quelques semaines, Alex Stamos était le directeur de la sécurité de Facebook. Il a mené la chasse à la désinformation politique russe sur la plateforme après les élections américaines de 2016. Maintenant à l'Université de Stanford, il a récemment annoncé la création du Stanford Internet Observatory, un projet visant à lutter contre les discours de haine, la propagande et la manipulation en réunissant des chercheurs universitaires, des spécialistes des sciences sociales, des décideurs politiques et les géants de la technologie eux-mêmes.

Comme beaucoup de gens, Stamos pense que les plateformes technologiques comme Facebook et Google ont trop de pouvoir. Mais il n'est pas d'accord avec les appels à les séparer. Et il soutient que ceux-là mêmes qui disent que Facebook et Google sont trop puissants leur donnent Suite pouvoir en insistant sur le fait qu'ils font davantage pour contrôler les discours de haine et la propagande.

C'est une voie dangereuse, prévient-il. Si les pays démocratiques obligent les entreprises technologiques à imposer des limites à la liberté d'expression, les autocratiques le feront aussi. D'ici peu, la technologie permettra la modération en temps réel et à la vitesse de la machine de tout ce que nous disons en ligne. En essayant de freiner Big Tech, nous risquons de créer Big Brother. Alors, quelle est la solution ? J'ai parlé à Stamos dans son bureau de Stanford pour le savoir. (L'interview a été condensée et modifiée pour plus de clarté.)

Tu as dit récemment qu'il est déjà trop tard pour sauver les élections de mi-mandat de 2018 de l'ingérence étrangère. À qui la faute d'avoir laissé cela se produire, compte tenu de tout ce que nous avons appris en 2016 ?

Trois choses se sont produites en 2016. Il y a eu une campagne de désinformation et de propagande par l'Agence de recherche Internet [russe] et des groupes apparentés. Il y a eu la campagne de fuites où le GRU [renseignement militaire russe] a fait irruption dans les e-mails du DNC [Comité national démocrate] et a ensuite planté des histoires [dans les médias]. Et il y a eu une pénétration exploratoire des systèmes électoraux de 21 États.

Le premier problème a été le plus travaillé car il relève entièrement de la responsabilité des plateformes. Ils ont défini ce qu'est une publicité politique et ce qu'est une publicité problématique, ont créé la transparence des publicités, défini ce qui est une coordination inappropriée et ont commencé à appliquer ces règles.

'Les Russes ont pu envoyer leur équipe B pour pirater la DNC. Je ne suis pas sûr que les gens soient prêts pour l'équipe A. '

Sur la campagne de piratage et de fuite du GRU, très peu de choses se sont produites. Il y a eu des mises à niveau de la sécurité au DNC. Je m'attends à ce que la plupart des campagnes soient plus prudentes. Mais il ne semble pas y avoir de mise à niveau globale de la sécurité entre les campagnes et les candidats. Les Russes ont pu envoyer leur équipe B pirater la DNC. Je ne suis pas sûr que les gens soient prêts pour l'équipe A.

Au troisième, nous n'avons presque rien fait. Vous avez encore 10 000 autorités électorales [aux États-Unis] qui organisent des élections. Nous avons un certain nombre d'États sans sauvegarde papier [pour les bulletins de vote]. Il y a beaucoup trop d'autorités responsables de leur propre sécurité pour que nous puissions sécuriser [les élections] sans que le gouvernement fédéral ne fournisse une énorme quantité de ressources. C'est là que je pense que nous avons le plus de vulnérabilité.

Le problème de désinformation/propagande est-il donc en grande partie résolu ?

Dans une société libre, vous n'éliminerez jamais ce problème. Je pense que la chose la plus importante [aux États-Unis] est la transparence de la publicité. Avec ou sans ingérence étrangère, les partis, les campagnes, les PAC [comités d'action politique] ici aux États-Unis divisent l'électorat en petits seaux, et c'est une mauvaise chose. La transparence est un bon début.

La prochaine étape dont nous avons besoin est une législation fédérale pour limiter le ciblage publicitaire. Il existe des milliers d'entreprises dans l'écosystème de la publicité sur Internet. Facebook, Google et Twitter sont les seuls à avoir fait quoi que ce soit, car ils ont obtenu le plus de couverture médiatique et le plus de pression de la part des politiciens. Donc, sans législation, nous allons simplement pousser tous les attaquants dans la longue traîne de la publicité, vers des entreprises qui n'ont pas d'équipes dédiées à la recherche de groupes de désinformation russes.

Facebook a été critiqué pour l'ingérence politique russe aux États-Unis et dans d'autres pays, le génocide au Myanmar , et bien d'autres choses. Pensez-vous que Facebook a pleinement saisi l'étendue de son influence et de sa responsabilité ?

Je pense que l'entreprise comprend certainement son impact. Le plus dur est de le résoudre. Quatre-vingt-dix pour cent des utilisateurs de Facebook vivent en dehors des États-Unis. Plus de la moitié vivent dans des pays non libres ou dans des démocraties sans protection de la parole. L'un des problèmes est de trouver des solutions dans ces pays qui ne vont pas immédiatement dans un endroit très sombre [c'est-à-dire la censure].

'Je pense que [Facebook] comprend certainement son impact. Le plus dur est de le résoudre.

Une autre consiste à déterminer les problèmes derrière lesquels mettre les ressources d'ingénierie. Quelle que soit la taille d'une entreprise, il n'y a qu'un certain nombre de problèmes auxquels vous [pouvez vous attaquer]. L'un des problèmes rencontrés par les entreprises est qu'elles sont dans un mode de lutte contre les incendies où elles sautent d'urgence en urgence.

Donc, au fur et à mesure qu'ils recrutent, cela s'améliore, mais nous avons également besoin d'une discussion externe plus éclairée sur les choses sur lesquelles nous voulons que les entreprises se concentrent - quels sont les problèmes qui doivent absolument être résolus et ceux qui ne le sont pas. Vous avez mentionné un tas de problèmes qui sont en fait très différents, mais les gens les brouillent tous ensemble.

Pensez-vous que les entreprises technologiques ont trop de pouvoir ? Faut-il obliger Facebook à se départir d'Instagram et de WhatsApp, par exemple ?

Si les antitrust pensent qu'il est approprié de forcer le désinvestissement de plates-formes individuelles, c'est à eux de décider. Je ne pense pas que cela résout ces problèmes ou les aggrave. Ce qui aggraverait les choses, c'est de diviser des produits spécifiques. Dix WhatsApps, c'est pire qu'un WhatsApp, et dix Facebook, c'est pire qu'un Facebook, parce que vous perdez les économies d'échelle [et] la capacité d'avoir des équipes bien dotées en personnel qui sont expertes dans ce genre d'abus [discours de haine, propagande, etc. .].

La vérité est que les grandes entreprises ont été les plus réactives. Tout le monde ignore les petites entreprises parce que cela ne fait pas les gros titres. Facebook a fait plus que la grande majorité des autres entreprises.

Comment réglementer dans un monde où la technologie progresse si vite alors que la réglementation évolue si lentement ? Comment une société devrait-elle fixer des limites raisonnables à ce que font les entreprises technologiques ?

Mais en ce moment, la société ne demande pas de limites à ce qu'ils font. Il demande aux entreprises technologiques de le faire Suite . Et je pense que c'est une voie dangereuse. Dans tous les problèmes que vous avez mentionnés - la désinformation russe, le Myanmar - ce que vous dites à ces entreprises, c'est : Nous voulons que vous ayez plus de pouvoir pour contrôler ce que les autres disent et font.

'Dans cinq ou dix ans, il pourrait y avoir... une modération en temps réel et à la vitesse de la machine de tout ce que nous disons en ligne.'

C'est très dangereux, surtout avec l'essor de l'apprentissage automatique. Dans cinq ou dix ans, il pourrait y avoir des systèmes d'apprentissage automatique qui comprennent les langues humaines aussi bien que les humains. Nous pourrions nous retrouver avec une modération en temps réel et à la vitesse de la machine de tout ce que nous disons en ligne. Ainsi, les pouvoirs que nous accordons aux entreprises technologiques en ce moment sont les pouvoirs que ces machines auront dans cinq ans.

Quel est le problème fondamental que l'Observatoire Internet de Stanford essaie de résoudre ?

Il n'y a pas de domaine académique spécifique étudiant les mésusages de la technologie, en dehors des failles hautement techniques. Les départements d'informatique font des recherches sur de nouveaux types d'exploits, de nouveaux types de bugs, des solutions cryptographiques ésotériques, mais vous ne pouvez pas obtenir un doctorat étudiant l'intimidation et le harcèlement et les solutions techniques à ceux-ci. Vous pourriez avoir des politologues qui étudient l'impact des réseaux sociaux sur la démocratie, et des gens du département de psychologie qui étudient l'impact de l'utilisation d'Instagram sur les adolescents suicidaires, mais ils manquent de compétences techniques et d'infrastructures.

Ainsi, l'Observatoire Internet de Stanford sera un programme permanent, composé de scientifiques des données, d'ingénieurs en logiciel, d'enquêteurs et d'analystes qui comprennent comment interagir avec les plates-formes technologiques et comment effectuer des analyses de données à très grande échelle. Ce groupe peut alors fournir des services à des groupes universitaires partout et faire ses propres recherches. Ensuite, nous pouvons catalyser un travail qui ne se produirait probablement pas parce qu'il ne relève pas clairement d'une seule sphère académique.

Quelles sont les solutions sur lesquelles vous travaillez ?

Si vous regardez 2016, ce que vous voyez, ce sont des échecs du renseignement entre le gouvernement américain [et] les gouvernements alliés, et entre ces gouvernements et les plateformes technologiques. Nous devons réfléchir aux responsabilités de ces différents groupes et à la manière dont vous alignez le fait que les entreprises technologiques agissent de manière quasi gouvernementale. Quel type de contrôles devraient-ils mettre en place et à quel moment leur responsabilité commence-t-elle et se termine-t-elle ? Nous travaillons sur des recommandations pour le Congrès pour l'année prochaine.

Nous renforçons également la capacité de surveiller l'utilisation de la désinformation lors de diverses élections. Notre objectif est que cela soit opérationnel pour les élections indiennes et européennes de l'année prochaine.

Les démocrates vont inévitablement être plus réceptifs que les républicains à ce genre de solutions. Comment rendre cela non partisan ?

L'idée que l'ingérence électorale n'aide que les républicains est insensée. Le livre de jeu russe est là-bas. Les faiblesses de notre système ont été démontrées. Nous avons signalé à nos adversaires qu'ils peuvent s'immiscer dans notre élection et nous ne ferons rien pour vraiment punir cela.

'Mon message aux républicains est : 'Réglons ce problème avant que vous n'ayez à avoir votre propre 2016.''

Je m'attends donc pleinement à ce que d'autres adversaires s'impliquent dans les prochaines élections. Chine, Iran, Corée du Nord, l'idée que tous ces pays vont soutenir les républicains est ridicule. Donc mon message aux Républicains est, Réglons ce problème avant que vous n'ayez à avoir votre propre 2016.

Cette discussion doit dépasser Trump. Les républicains se retrouvent avec un gel du cerveau si vous sous-entendez que Trump n'a pas été élu équitablement. Nous devons donc simplement parler des vulnérabilités et de leur impact possible en 2020. Lorsque je parle en privé avec des républicains, ils sont beaucoup plus réceptifs à cela.

Un problème connexe est le manque de connaissances technologiques parmi les politiciens. Comment résolvez-vous cela?

Ces gens ont généralement des employés assez intelligents, mais la plupart des employés n'ont pas travaillé dans la technologie. Nous devons donc inciter les personnes qui ont travaillé dans la technologie à aller travailler à DC. Il y a des exemples comme Chris Soghian [un activiste technologique, qui travaille maintenant pour le sénateur Ron Wyden] où les techniciens vont au Congrès et ont un impact énorme individuellement.

Et ça va dans les deux sens. Nous devons enseigner l'histoire et l'éthique aux informaticiens, et nous devons enseigner aux étudiants en arts libéraux les principes fondamentaux de la technologie afin qu'ils aient la capacité d'être influents. La capacité de parler aux nerds d'une manière qu'ils respectent est extrêmement puissante, et c'est quelque chose qui manque au Congrès en ce moment.

cacher