EmTech Stage : le CTO de Twitter sur la désinformation

Dans la deuxième de deux interviews exclusives, le rédacteur en chef de Technology Review, Gideon Lichfield, s'est entretenu avec Parag Agrawal, directeur de la technologie de Twitter, pour discuter de la montée de la désinformation sur la plate-forme de médias sociaux. Agrawal discute de certaines des mesures que l'entreprise a prises pour riposter, tout en admettant que Twitter essaie d'enfiler une aiguille pour atténuer les dommages causés par de faux contenus sans devenir un arbitre de la vérité. Cette conversation provient de la conférence virtuelle EmTech MIT et a été modifiée pour plus de clarté.

Pour plus de couverture sur ce sujet, consultez l'épisode de cette semaine de Deep Tech et notre couverture de politique technique.

Crédits:

Cet épisode d'EmTech MIT a été produit par Jennifer Strong et Emma Cillekens, avec des remerciements particuliers à Brian Bryson et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Lichfield.

Transcription:

Fort: Salut tout le monde, c'est Jennifer Strong de retour avec la deuxième partie de notre conversation sur la désinformation et les médias sociaux. Si Facebook est un lieu de rencontre où l'on va retrouver sa communauté, YouTube une salle de concert ou les coulisses de quelque chose dont on est fan, alors Twitter est un peu la place publique où l'on va pour savoir ce qui se dit sur quelque chose. Mais quelle responsabilité ces plateformes ont-elles au fur et à mesure que ces conversations se déroulent ? Twitter a déclaré que l'une de ses responsabilités est de s'assurer que la conversation publique est saine. Qu'est-ce que cela signifie et comment mesurez-vous cela?

C'est une question que nous avons posée au directeur de la technologie de Twitter, Parag Agrawal. Le voici, en conversation avec le rédacteur en chef de Tech Review, Gideon Lichfield. Il a été enregistré lors de notre conférence EmTech et a été édité pour plus de longueur et de clarté.

Lichfield : Il y a quelques années, vous avez commencé à parler d'un projet sur des mesures qui mesureraient ce qu'est une conversation publique saine. Je n'en ai pas beaucoup vu depuis. Alors qu'est-ce qui se passe avec ça? Comment mesurez-vous cela?

Agraal : Il y a deux ans, en travaillant avec des gens du laboratoire médiatique du MIT et inspirés par cette réflexion, nous avons lancé un projet de travail avec des universitaires extérieurs à l'entreprise, pour voir si nous pouvions définir quelques métriques ou mesures simples pour indiquer le santé de la conversation publique. Ce que nous avons réalisé en travaillant avec des experts de nombreux endroits, c'est qu'il est très, très difficile de résumer les nuances et les subtilités de ce que nous considérons comme une conversation publique saine en quelques mesures simples à comprendre et faciles à mesurer auxquelles vous pouvez faire confiance. Et cette conversation a informé un changement dans notre approche.

Ce qui a changé, c'est si oui ou non nous sommes normatifs en essayant de résumer les choses à quelques chiffres. Mais ce qui nous reste, c'est que nous réalisons que nous devons travailler avec des chercheurs universitaires en dehors de Twitter, partager davantage de nos données dans un cadre ouvert, où ils peuvent les utiliser pour faire des recherches, pour faire avancer divers domaines. Euh, et il y a un tas de produits liés à l'API que nous allons expédier dans les mois à venir. Et l'une des choses qui ont directement conduit à cette conversation était en avril, comme nous l'avons vu, euh, COVID, euh, nous avons créé un point final pour la conversation liée au COVID auquel les chercheurs universitaires pourraient avoir accès. Euh, nous avons vu des recherches dans quatre pays, accédez-y.

Donc, dans un certain sens, je suis content que nous nous soyons lancés dans cette aventure. Et j'espère toujours qu'avec cette approche ouverte, il y aura des universitaires et notre collaboration avec eux, ce qui nous amènera finalement à comprendre suffisamment la conversation publique et une conversation publique saine pour pouvoir réduire la mesure à quelques métriques . Mais je suis également enthousiasmé par toutes les autres voies de recherche que cette approche nous ouvre.

Lichfield : Avez-vous une idée de ce à quoi ressemblerait un exemple d'une telle métrique ?

Agraal : Donc, quand nous avons commencé à en parler, nous avons émis l'hypothèse qu'il y avait quelques paramètres, est-ce que les gens partagent un sens de la réalité ? Les gens ont-ils des perspectives diverses et peuvent-ils être exposés à des perspectives diverses ? Nous avons pensé que la conversation était civile, n'est-ce pas ? Donc, conceptuellement, ce sont toutes les propriétés que nous désirons dans une conversation publique saine. Le défi consiste à pouvoir les mesurer d'une manière qui puisse évoluer au fur et à mesure que la conversation évolue, d'une manière qui soit fiable et qui puisse résister à l'épreuve du temps, car la conversation d'il y a deux ans était très différente de la conversation d'aujourd'hui. Les défis d'il y a deux ans, tels que nous les comprenions, sont très différents aujourd'hui. Euh, et c'est là que certains des défis et notre compréhension de ce que signifie une organisation publique saine sont encore émergents pour que nous puissions les résumer à ces mesures simples.

Lichfield : Parlons un peu de certaines des choses que vous avez faites au cours des deux dernières années. Je veux dire, il y a eu beaucoup d'attention, évidemment, sur les décisions de signaler certains des tweets de Donald Trump. Je pense que le travail plus systématique que vous avez fait au cours des deux dernières années contre la désinformation, pouvez-vous résumer les principaux points de ce que vous avez fait ?

Agraal : Notre approche n'est pas d'essayer d'identifier ou de signaler toute désinformation potentielle. Mais notre approche est ancrée dans la tentative d'éviter les dommages spécifiques que des informations trompeuses peuvent causer. Nous nous sommes concentrés dans notre approche et nous nous sommes concentrés sur les dommages qui peuvent être causés par la désinformation autour de COVID-19, qui a à voir avec la santé publique, où quelques personnes mal informées peuvent avoir des implications sur tout le monde. De même, nous nous sommes concentrés sur la désinformation concernant ce que nous appelons l'intégrité civique, c'est-à-dire que les personnes ont la capacité de savoir comment participer aux élections.

Donc, un exemple, juste pour clarifier les choses, concerne l'intégrité civique, nous nous soucions et nous prenons des mesures sur le contenu qui pourrait désinformer les gens qui disent que vous devriez voter le 5 novembre, lorsque le jour des élections est le 3 novembre. Et, nous n'essayons pas de déterminer euh ce qui est vrai ou faux quand quelqu'un prend une position politique ou quand quelqu'un dit que le ciel est violet ou bleu, ou rouge d'ailleurs. Notre approche de la désinformation n'est pas non plus axée sur la suppression du contenu comme seule mesure, ce qui est le régime dans lequel nous avons tous opéré pendant de nombreuses années. Mais c'est une approche de plus en plus nuancée avec une gamme d'interventions, où nous nous demandons si certains contenus doivent ou non être amplifiés sans contexte, ou s'il est de notre responsabilité de fournir un certain contexte afin que les gens puissent voir un tas d'informations, mais aussi avoir le capacité et facilité à découvrir toute la conversation et le contexte qui l'entourent, à s'informer sur ce en quoi ils choisissent de croire.

Lichfield : Comment évaluez-vous si quelque chose est nocif sans essayer également de comprendre si c'est vrai, en d'autres termes, COVID spécifiquement par exemple ?

Agraal : C'est une excellente question et je pense que dans certains cas, vous vous fiez à des sources crédibles pour fournir ce contexte. Vous n'avez donc pas toujours à déterminer si quelque chose est vrai ou faux, mais s'il y a un potentiel de préjudice, nous choisissons de ne pas signaler quelque chose comme vrai ou faux, mais nous choisissons d'ajouter un lien vers des sources crédibles ou vers une conversation supplémentaire autour ce sujet, pour fournir aux gens un contexte autour du contenu afin qu'ils puissent être mieux informés, même si ces données pour la compréhension et la connaissance évoluent. Et la conversation publique est essentielle à cette évolution. Nous avons vu des gens apprendre grâce à Twitter, à cause de la façon dont ils se sont informés. Et les experts ont des conversations via Twitter pour faire progresser l'état de notre compréhension de cette maladie également.

Lichfield : Les gens mettent en garde contre QAnon depuis des années. Vous avez commencé à supprimer des comptes QAnon en juillet. Qu'est-ce qui t'a pris autant de temps? Pourquoi avez-vous... qu'est-ce qui a changé dans votre façon de penser ?

Agraal : La façon dont nous pensons à QAnon ou nous avons pensé à QAnon, c'est que nous avons une politique de manipulation coordonnée que nous avons depuis un certain temps, et la façon dont cela fonctionne est que nous travaillons avec les services civils et les groupes de défense des droits de l'homme à travers le monde pour essayer de comprendre qui groupes, ou quelles organisations, ou quel type d'activité s'élève à un niveau de préjudice qui nécessite une action de notre part. Avec le recul, j'aurais aimé que nous agissions plus tôt, mais comme nous avons bien compris la menace, en travaillant avec ces groupes, nous avons pris des mesures et nos actions ont consisté en quelque sorte à diminuer l'amplification de ce contenu et à le signaler d'une manière qui a conduit à diminution très rapide de la quantité de portée de QAnon et du contenu associé obtenu sur la plate-forme de plus de 50 %. Et depuis lors, nous avons constaté des baisses soutenues à la suite de cette décision.

Lichfield : Je reçois pas mal de questions du public, qui demandent en quelque sorte la même chose. Et ils demandent essentiellement, eh bien, je vais les lire. Qui décide de ce qu'est la désinformation ? Pouvez-vous donner une définition clinique claire de la désinformation ? Est-ce que quelque chose doit avoir une intention malveillante pour être de la désinformation ? Comment savez-vous si vos sources crédibles sont véridiques, qu'est-ce qui mesure la crédibilité de ces sources et quelqu'un dit même que j'ai vu de la désinformation dans les soi-disant sources crédibles. Alors, comment définissez-vous cette phrase ?

Agraal : Je pense que c'est la, la question existentielle de notre époque. Définir la désinformation est vraiment, vraiment difficile. Au fur et à mesure que nous apprenons au fil du temps, notre compréhension de la vérité évolue également. Nous essayons de ne pas juger la vérité, nous nous concentrons sur le potentiel de préjudice. Et quand nous disons que nous nous appuyons sur des sources crédibles, nous nous appuyons également sur toute la conversation sur la plate-forme qui parle également de ces sources crédibles et souligne les lacunes potentielles à la suite desquelles les sources crédibles font également évoluer leur pensée ou ce dont elles parlent sur.

Donc, nous nous sommes beaucoup moins concentrés sur ce qui est vrai et ce qui est faux. Nous nous concentrons beaucoup plus sur le potentiel de préjudice résultant de l'amplification de certains contenus sur la plate-forme sans contexte approprié. Et le contexte n'est souvent qu'une conversation supplémentaire qui fournit un point de vue différent sur un sujet afin que les gens puissent voir l'ampleur de la conversation sur notre plateforme et à l'extérieur et prendre leurs propres décisions dans un monde où nous apprenons tous ensemble.

Lichfield : Appliquez-vous une norme différente aux choses qui viennent des leaders mondiaux ?

Agraal : Nous avons une politique concernant le contenu public dans l'intérêt public, c'est dans notre cadre politique. Donc, oui, nous appliquons des normes différentes. Et cela est basé sur la compréhension et la connaissance qu'il y a certains contenus des élus qu'il est important que le public voie et entende. Et que tout le contenu sur Twitter n'est pas seulement sur Twitter. C'est dans les salles de rédaction, c'est dans les conférences de presse, mais souvent le contenu source est sur Twitter. La politique d'intérêt public existe pour s'assurer que le contenu source est accessible. Nous signalons cependant très clairement à tout le monde quand un tel contenu enfreint l'une de nos politiques. Nous prenons la décision audacieuse de le signaler, de l'étiqueter afin que les gens aient le contexte approprié qu'il s'agit bien d'un exemple de violation, afin que les gens puissent examiner ce contenu à la lumière de cette compréhension.

Lichfield : Si vous prenez le président Trump, il y a eu une étude de Cornell montrant que - ils ont mesuré que 38 % des informations erronées sur le COVID le mentionnent. Ils les ont appelés le plus grand moteur de désinformation autour de COVID. Vous avez signalé certains de ses tweets, mais il y a beaucoup de choses qu'il publie qui ne correspondent pas tout à fait à la définition stricte de la désinformation, et qui trompent pourtant les gens sur la nature de la pandémie. Alors, cette exception pour les agents publics, n'est-ce pas saper toute la stratégie ?

Agraal : Chaque agent public a accès à de multiples façons d'atteindre les gens. Twitter en fait partie. Nous existons dans un vaste écosystème. Notre approche de l'étiquetage du contenu nous permet en fait, à la source, de signaler le contenu qui pourrait potentiellement nuire aux gens, et également de fournir aux gens un contexte supplémentaire et une conversation supplémentaire autour de celui-ci. Donc, beaucoup de ces études et je ne connais pas celle que vous avez citée, sont en fait plus larges que Twitter. Et s'ils parlent de Twitter, ils parlent de portée et d'impressions, sans parler des personnes qui sont également exposées à d'autres informations sur le sujet. Maintenant, nous ne pouvons pas décider ce que les gens choisissent de croire, mais nous pouvons présenter du contenu et une diversité de points de vue sur n'importe quel sujet, afin que les gens puissent prendre leurs propres décisions.

Lichfield : Cela ressemble un peu à ce que vous essayez de dire, eh bien, ce n'est pas seulement notre faute. C'est la faute de tout le monde. Et par conséquent, nous ne pouvons pas y faire grand-chose.

Agraal : Je ne crois pas que je dis ça. Ce dont je parle, les sujets de désinformation ont toujours existé dans la société. Nous sommes maintenant une partie essentielle du tissu de la conversation publique, et c'est notre rôle dans le monde. Ce ne sont pas des sujets dont nous pouvons nous dégager. Ce sont des sujets qui resteront d'actualité aujourd'hui et le resteront dans cinq ans. Je ne vis pas dans l'illusion que nous pouvons faire quelque chose qui, comme par magie, dissipe le problème des informations trompeuses. Nous n'avons pas ce genre de pouvoir ou de contrôle. Et j'aimerais honnêtement ne pas vouloir ce pouvoir ou ce contrôle. Mais nous avons le privilège d'écouter les gens, d'avoir un ensemble diversifié de personnes sur notre plate-forme, les exprimant un ensemble diversifié de points de vue, les choses qui comptent vraiment pour tout le monde, et pour nous de pouvoir les présenter avec le bon contexte pour que la société puisse apprendre les unes des autres et aller de l'avant.

Lichfield : Lorsque vous parlez de laisser les gens voir le contenu et tirer leurs propres conclusions ou se forger leur propre opinion, c'est le genre de langage qui est associé, je pense, à la façon dont les plateformes de médias sociaux se présentaient traditionnellement. 'Nous ne sommes qu'un espace neutre, les gens viennent nous utiliser, nous n'essayons pas de juger'. Et cela semble un peu en contradiction avec ce que vous disiez plus tôt au sujet de la volonté de promouvoir une conversation publique saine, ce qui implique clairement beaucoup de jugements de valeur sur ce qui est sain. Alors, comment conciliez-vous ces deux ?

Agraal : Oh, je ne dis pas que nous sommes neutres dans toute cette conversation. Comme je l'ai dit, nous sommes une partie essentielle du tissu de la conversation publique. Et, vous ne voudriez pas que nous décidions de ce qui est vrai ou de ce qui est faux dans le monde. Et honnêtement, nous ne pouvons pas faire cela globalement dans tous les pays dans lesquels nous travaillons à travers toutes les cultures et toutes les nuances qui existent. Nous avons cependant le privilège d'avoir tout le monde sur la plate-forme capable de changer les choses, de donner plus de contrôle aux gens et d'orienter la conversation de manière à ce qu'elle soit en quelque sorte plus réceptive et permette à plus de voix d'être entendues et pour tous de nous d'être mieux informés.

Lichfield : L'une des choses que certains observateurs disent que vous pourriez faire et qui ferait une grande différence serait d'abolir la fonctionnalité des sujets tendances, car c'est là que de nombreuses informations erronées finissent par apparaître. Des choses comme le hashtag QAnon sauvent les enfants, ou il y avait une théorie du complot sur les membres du personnel d'Hillary Clinton truquant le caucus de l'Iowa. Parfois, des choses comme ça se retrouvent dans des sujets tendance, puis elles ont une grande influence. Qu'est ce que tu penses de ça?

Agraal : Je ne sais pas si vous l'avez vu, mais cette semaine, nous avons modifié le fonctionnement des tendances et des sujets d'actualité sur la plateforme. Et l'une des choses que nous avons faites, c'est que nous allons montrer le contexte de toutes les tendances, afin que les gens soient mieux informés lorsqu'ils voient de quoi les gens parlent.

Fort: Nous allons faire une courte pause - mais d'abord… je veux suggérer un autre spectacle que je pense que vous aimerez. Brave New Planet pèse le pour et le contre d'un large éventail d'innovations puissantes dans les domaines de la science et de la technologie. Le Dr Eric Lander, qui dirige le Broad Institute du MIT et de Harvard, explore des questions difficiles comme

Atterrisseur : Doit-on modifier l'atmosphère terrestre pour prévenir le changement climatique ? Et, la vérité et la démocratie peuvent-elles survivre à l'impact des deepfakes ?

Fort: Brave New Planet est de Pushkin Industries. Vous pouvez le trouver partout où vous obtenez vos podcasts. Nous reviendrons juste après cela.

[Publicité]

Fort: Bienvenue dans un épisode spécial de In Machines We Trust. Il s'agit d'une conversation entre le directeur de la technologie de Twitter, Parag Agrawal, et le rédacteur en chef de Tech Review, Gideon Lichfield. Si vous voulez en savoir plus sur ce sujet, y compris notre analyse, veuillez consulter les notes de l'émission ou rendez-nous visite sur Technology Review point com.

Lichfield : L'élection est évidemment très proche. Et je pense que beaucoup de gens se demandent ce qui va se passer, en particulier le jour des élections, alors que des rapports commencent à arriver dans les sondages, on craint que certains politiciens ne répandent des rumeurs de violence ou de fraude électorale ou d'autres, d'autres problèmes , ce qui pourrait déclencher des manifestations et des violences. Et donc c'est quelque chose auquel toutes les plateformes sociales vont devoir réagir très rapidement en temps réel. Qu'est-ce que tu vas faire?

Agraal : Nous avons travaillé sur des élections dans de nombreux pays au cours des quatre dernières années. L'Inde, le Brésil, les grandes démocraties ont appris de chacun d'eux, et nous avons travaillé au fil des ans pour être mieux préparés à ce qui s'en vient. L'année dernière, nous avons modifié la politique visant à interdire toute publicité politique sur Twitter, en prévision de son potentiel de nuisance. Et nous voulions que notre attention soit concentrée, non sur la publicité, mais sur la conversation publique qui se déroule de manière organique pour pouvoir la protéger et l'améliorer, en particulier en ce qui concerne les conversations autour des élections.

Nous avons fait beaucoup de travail sur la technologie pour mieux détecter et comprendre les mauvais acteurs étatiques et leurs tentatives de manipulation des élections, et nous avons été très transparents à ce sujet. Nous avons rendu publiques des centaines d'opérations de ce type dans plus de 10 pays, avec des dizaines de milliers de comptes chacun et des téraoctets de données qui permettent à des personnes extérieures à l'entreprise de l'analyser et de comprendre les schémas de manipulation en jeu. Et nous sommes allés de l'avant avec des changements de produits pour qu'il y ait plus de considération et de réflexion dans la façon dont les gens partagent le contenu et comment les gens amplifient le contenu.

Donc, nous avons fait un tas de ce travail en préparation et à travers les apprentissages en cours de route. Pour obtenir une réponse à propos de la soirée électorale. Nous avons également renforcé les politiques sur notre intégrité civique pour ne permettre à personne, à aucun candidat ou à quiconque de toutes les races de pouvoir prétendre à une élection lorsqu'un vainqueur n'a pas été déclaré. Nous avons également mis en place des mesures strictes pour éviter les incitations à la violence. Et nous avons une équipe prête, qui travaillera 24h/24 et 7j/7 pour nous mettre dans un état agile.

Cela étant dit, nous avons fait beaucoup de travail pour anticiper ce qui pourrait arriver, mais une chose que nous savons avec certitude, c'est que ce qui est susceptible de se produire n'est pas quelque chose que nous avons exactement prévu. Alors, qu'est-ce qui va être important pour nous cette nuit-là et au-delà, et même jusqu'à ce moment-là, être préparé, être agile, répondre aux commentaires que nous recevons sur la plate-forme, répondre à la conversation que vous voyez voir sur et hors plateforme, euh, et essayons de faire de notre mieux pour servir la conversation publique en cette période importante dans ce pays.

Lichfield : Quelqu'un dans, euh, dans le public a demandé quelque chose que je ne pense pas que vous seriez d'accord, à savoir, ont-ils dit, Facebook et Twitter devraient-ils être fermés pendant trois jours avant les élections ? Mais peut-être qu'une version plus modeste de cela serait, y a-t-il une sorte de contenu qui, selon vous, devrait être fermé juste avant une élection ?

Agraal : Cette semaine, l'un des changements les plus importants qui mérite d'être évoqué en détail est que nous avons fait en sorte que les gens aient plus de considération, plus de réflexion lorsqu'ils retweetent. Ainsi, au lieu de pouvoir simplement retweeter facilement du contenu sans commentaire supplémentaire, nous proposons désormais aux utilisateurs d'ajouter un commentaire par défaut lorsqu'ils retweetent. Et c'est pour deux raisons, une pour ajouter des considérations supplémentaires lorsque vous retweetez et amplifiez certains contenus et deux, pour que le contenu soit partagé avec plus de contexte sur ce que vous en pensez afin que les gens comprennent pourquoi vous le partagez, et ce que le contexte autour de l'ensemble de la conversation est. Nous avons également fait changer les tendances que j'ai décrites plus tôt. Ce sont des changements qui visent à rendre la conversation sur Twitter plus réfléchie.

Cela étant dit, Twitter va être un outil très, très puissant pendant la période des élections pour que les gens comprennent ce qui se passe, pour que les gens obtiennent des informations vraiment importantes. Nous avons des étiquettes sur tous les candidats. Nous avons des informations sur la plateforme sur la façon dont ils peuvent voter. Nous avons des commentaires en temps réel provenant de personnes de partout au pays, indiquant aux gens ce qui se passe sur le terrain. Et tout cela est une information importante dont tout le monde dans ce pays doit être conscient à ce moment-là. C'est un moment où chacun de nous est à la recherche d'informations et notre plateforme joue un rôle particulièrement important ce jour-là.

Lichfield : Vous êtes pris dans un endroit difficile, comme le souligne également quelqu'un dans le public, que vous essayez de lutter contre la désinformation, vous voulez également protéger la liberté d'expression en tant que valeur fondamentale, et également aux États-Unis en tant que première amendement. Comment équilibrez-vous ces deux?

Agraal : Notre rôle n'est pas d'être lié par le premier amendement, mais notre rôle est de servir une conversation publique saine et nos actions reflètent des choses qui, selon nous, conduisent à une conversation publique plus saine. Le genre de choses que nous faisons à ce sujet est de nous concentrer moins sur la réflexion sur la liberté d'expression, mais sur la façon dont les temps ont changé. L'un des changements que nous constatons aujourd'hui est que la parole est facile sur Internet. La plupart des gens peuvent parler. Là où notre rôle est particulièrement souligné, c'est qui peut être entendu. La denrée rare aujourd'hui, c'est l'attention. Il y a beaucoup de contenu là-bas. Beaucoup de tweets là-bas, pas tous attirent l'attention, certains sous-ensembles attirent l'attention. Et donc de plus en plus, notre rôle s'oriente vers la façon dont nous recommandons le contenu et ce genre de, est, est, une lutte que nous menons en termes de comment nous nous assurons que ces systèmes de recommandation que nous construisons, comment nous dirigeons l'attention des gens mène à une conversation publique saine et participative.

Lichfield : Eh bien, nous n'avons plus de temps, mais je vous remercie pour cet aperçu vraiment intéressant de votre façon de penser à ces questions très compliquées.

Agraal : Merci Gideon de m'avoir reçu.

[Musique]

Fort: Si vous souhaitez entendre l'analyse de notre salle de presse sur ce sujet et l'élection... J'ai laissé tomber un lien dans nos notes d'émission. J'espère que vous le vérifierez. Cet épisode d'EmTech a été produit par moi et par Emma Cillekens, avec des remerciements particuliers à Brian Bryson et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Lichfield. Comme toujours, merci pour votre écoute. Je suis Jennifer Strong.

[ID TR]

cacher