Pourquoi il est si difficile de rendre la technologie plus diversifiée

Tracy Chou, membre de notre liste 2017 des innovateurs de moins de 35 ans, revient sur les obstacles qu'elle a rencontrés en tant qu'entrepreneur technologique.

Par

• Wudan Yan page d'archives

30 juin 2021

Andréa Daquino

En 2017, MIT Technology Review a honoré Tracy Chou comme l'un de nos 35 innovateurs de moins de 35 ans. À l'époque, Chou travaillait pour exposer les problèmes de diversité de la Silicon Valley. En tant qu'ingénieur chez Pinterest, elle avait publié un article largement diffusé article de blog appelant les entreprises technologiques à partager des données sur le nombre de femmes travaillant dans leurs équipes d'ingénieurs. Elle a recueilli leurs réponses dans un base de données publique cela a révélé à quel point de nombreuses équipes techniques dans les meilleures entreprises étaient encore homogènes.

Environ un an plus tard, Chou a lancé une entreprise appelée Block Party qui cible le harcèlement en ligne en donnant aux utilisateurs de Twitter plus de contrôle sur les tweets qui apparaissent dans leur flux et leurs mentions. Le service a enregistré ses premiers clients payants en janvier.

Cette histoire faisait partie de notre numéro de juillet 2021

• Voir la suite du problème
• S'abonner

Avec sa nouvelle entreprise, Chou veut résoudre certains des problèmes qu'elle a rencontrés de première main dans l'industrie de la technologie, y compris le type de harcèlement en ligne dont elle a été la cible. Ici, nous vérifions avec Chou, qui est basée à San Francisco, pour en savoir plus sur ce qu'il faut pour apporter des changements dans le secteur de la technologie et sur ce à quoi les entrepreneurs comme elle sont confrontés. .

Tracy Chou, comme dit à Wudan Yan : Lors de notre dernière conversation, je venais de quitter Pinterest. J'ai toujours été attiré par les petites entreprises : j'ai rejoint Pinterest alors qu'elle comptait environ 10 employés et je l'ai quittée lorsqu'elle en comptait environ 1 000. Il était temps pour moi de passer à autre chose et de faire quelque chose de nouveau.

J'ai travaillé pour tant de startups et j'en suis venu à reconnaître certains des problèmes structurels liés aux startups et au financement et comment ces facteurs influencent les problèmes à résoudre. Beaucoup de fondateurs travaillent naturellement sur des problèmes qui les concernent directement : il est plus facile de savoir ce qui est important ou ce qui pourrait être amélioré par la technologie.

En pensant à mes prochaines étapes, j'ai pensé aux produits sur lesquels j'ai travaillé et j'ai vérifié cela par rapport à des questions comme, Est-ce que cela m'intéresse ? Y a-t-il quelque chose à faire qui puisse être commercialement viable? Il y a beaucoup de problèmes vraiment importants qui ne seront pas résolus naturellement par une startup.

Je me suis retrouvé sur Block Party, qui rassemble quelques fils différents de mon parcours. J'ai travaillé comme ingénieur dans diverses sociétés de plateformes sociales, et j'ai travaillé sur la surveillance, la modération et l'amélioration de la qualité du contenu, et sur la façon dont la conception des produits influence le comportement de la communauté. Non seulement j'ai créé des outils de modération chez Quora qui examinaient la qualité du contenu, mais j'ai également pris des mesures punitives contre les personnes qui enfreignaient les politiques du site.

J'avais également passé beaucoup de temps à regarder comment le manque de diversité et de représentation dans les équipes signifiait que les produits étaient construits de manière biaisée. Par exemple, les équipes non diversifiées de personnes qui ne sont généralement pas ciblées par les abus et le harcèlement n'ont pas tendance à créer des protections contre cela dans leurs applications.

La dernière partie de mon parcours qui m'a conduit à Block Party était juste d'être davantage ciblée par le harcèlement. Au cours de la dernière année, j'ai certainement eu plus de harcèlement anti-asiatique en ligne. Certains d'entre eux m'étaient vraiment ciblés par des individus, et d'autres fois, j'attirais des trolls simplement en ayant une présence en ligne.

Si vous pouviez renaître comme n'importe qui dans le monde demain, comment concevriez-vous le monde d'aujourd'hui ? Vous ne voudriez pas concevoir un monde extrêmement inégal, où la plupart des gens sont au bas de l'échelle, car cela pourrait très probablement être vous si vous naissiez comme n'importe qui demain.

Je me suis connectée très jeune et, au début, Internet était un moyen amusant de se connecter avec des amis. J'étais sur AOL Instant Messenger, qui était un meilleur moyen de discuter avec mes amis au lycée : je n'avais pas de téléphone portable et je ne pouvais pas monopoliser la ligne téléphonique que je partageais avec ma famille. J'étais également sur certaines plateformes de blogs, comme Xanga et LiveJournal. C'étaient de bons débouchés à l'époque.

Assez tôt, cependant, quelqu'un a créé une page Xanga anonyme dédiée à me haïr. Je pense que c'était quelqu'un de l'école, parce que ça faisait référence à des choses du lycée. Une grande partie de cela me détestait parce que j'avais de bons résultats scolaires. Cela ne me dérangeait pas autant à l'époque que lorsque j'ai vieilli et que j'y ai repensé. À l'époque, je pensais que cette personne était juste anxieuse et jalouse. Je pensais que c'était un peu triste et gâché que quelqu'un écrive des articles complets dédiés à essayer de me faire tomber.

Je ne l'ai pas signalé. A qui l'aurais-je signalé ? Cela ne m'a même pas traversé l'esprit d'aller à mon école et de le signaler. Et je ne voulais pas nécessairement que mes professeurs ou administrateurs scolaires voient la page non plus, car c'était un contenu assez haineux.

Mes parents ne m'ont pas élevé pour être quelqu'un qui était franc et qui défiait le statu quo. Je n'ai certainement pas été encouragé à dénoncer le système de quelque manière que ce soit. Comme beaucoup d'autres enfants d'immigrants asiatiques aux États-Unis, j'ai grandi en croyant que ce n'était pas mon pays, et mes parents et moi essayons ici de trouver des opportunités pour nous-mêmes. Nous n'avions pas de filet de sécurité. J'ai grandi avec une mentalité tête baissée de faire du bon travail, de travailler dur et d'essayer de le faire.

Mon père, qui est ingénieur, m'a donné une expérience de pensée philosophique quand j'étais assez jeune : si vous pouviez renaître comme n'importe qui dans le monde demain, comment concevriez-vous le monde d'aujourd'hui ? Vous ne voudriez pas concevoir un monde extrêmement inégal, où la plupart des gens sont au bas de l'échelle, car cela pourrait très probablement être vous si vous naissiez comme n'importe qui demain. Vous voudriez concevoir un monde beaucoup plus égalitaire. Cela m'a fait penser que je n'aimais pas que le monde soit si inégal et que tant de gens aient beaucoup moins de chance que moi.

Ce sentiment m'a fait prendre le privilège que j'ai et le payer pour rendre le monde un peu plus juste. je suis allé à Stanford; J'ai travaillé dans des entreprises que les gens de la technologie trouvent crédibles. Je peux donc essayer d'amplifier plus de voix ou différentes perspectives.

Histoire connexe

Un Internet féministe serait meilleur pour tout le monde

La vie en ligne pour les femmes est toxique et remplie de haine et de sexisme. Certains militants disent qu'il est temps de réimaginer comment tout cela fonctionne.

Lorsque j'ai décidé de poursuivre Block Party, j'ai fait quelques recherches et parlé à d'autres personnes qui ont travaillé dans la lutte contre le harcèlement et à des personnes qui élaboraient des solutions, pour comprendre à quoi ressemblait le marché. Peu d'entreprises comprenaient la véritable expérience utilisateur de la gestion du harcèlement - on avait l'impression que beaucoup de gens abordaient ce problème sous un angle purement commercial, car ils ne savaient pas ce que c'était que de le vivre eux-mêmes. Certaines personnes construisaient des modèles d'apprentissage automatique pour détecter le contenu toxique et pensaient que cela résoudrait le problème.

En tant que personne qui traite de cela, je comprends beaucoup plus l'impact émotionnel. Il y a certaines choses qui sont émotionnellement pénibles à lire même s'il est peu probable qu'elles soient signalées par un algorithme. Par exemple, j'ai reçu une fois un long message d'un homme qui disait essentiellement, tu devrais sourire plus et alors tu seras plus attirant.

Ce message m'a dérangé pendant quelques semaines avant que je ne réalise à quel point c'était abusif et inapproprié. L'impact a été très émotionnel, et le sens du message - sans parler du point de vue anti-féministe et régressif qu'il contient - va plus loin que ce qui serait capté par n'importe quel algorithme.

Mes difficultés à obtenir un financement pour Block Party ont commencé lorsque j'ai postulé pour être dans la classe d'hiver 2020 pour Y Combinateur , un accélérateur dédié au financement des startups early-stage. Dans la Silicon Valley, si vous recherchez un titre, Y Combinator est l'un des meilleurs que vous puissiez obtenir. J'ai postulé, ironiquement, parce que je prévoyais que YC - qui est composé principalement d'hommes blancs qui ne comprendraient pas nécessairement les problèmes que je voulais aborder - serait très sceptique. Ma pensée était que si j'avais un sceau d'approbation YC, cela pourrait dissiper une partie du scepticisme autour de mon produit.

Je suis allé sur le campus YC à Mountain View, en Californie, pour mon entretien. Ils ont placé les candidats dans différentes pièces avec un panel d'enquêteurs, et chaque pièce avait une liste des enquêteurs imprimée à l'extérieur. Quand je suis allé dans ma chambre, j'ai vu cette liste de noms et j'ai pensé, ça ne va pas être bon. Sur les quatre noms, trois étaient des hommes blancs.

Les entretiens n'ont duré que 10 minutes et mon panel a commencé par demander ce que je construisais. J'ai dit, Block Party construit des outils grand public pour faire face au harcèlement en ligne et donne aux gens plus de contrôle sur leur expérience en ligne. Et la question que j'ai reçue était que vous avez dit que c'est un produit de consommation, mais que le consommateur implique un marché de masse, et c'est un problème de niche. À droite?

Le reste de l'interview ressemblait à peu près à ça : une affirmation forte a suivi avec Right ? Le ton général de l'interview était le suivant : le harcèlement en ligne était un petit problème qui est déjà en train d'être résolu, alors pourquoi travaillez-vous là-dessus ? Je suis sorti de l'entretien livide.

Après que YC m'a rejeté, j'ai levé des fonds de suivi pour prolonger mon financement de pré-amorçage, environ 1,5 million de dollars. Cela peut sembler une bonne somme d'argent sur certains marchés, mais il ne suffit pas d'embaucher des ingénieurs, ce qui signifie que j'ai dû être beaucoup plus créatif dans la façon dont j'ai construit le produit - j'ai dû le construire moi-même. Il n'y a aucune chance que Block Party soit même arrivé là où il est maintenant si je n'étais pas moi-même un ingénieur très fort.

L'été dernier, dans le cadre de Incubateur Fix the Internet de Mozilla , on m'a demandé de faire une AMA Reddit dans le but de développer Block Party. J'ai d'abord repoussé cela parce que ma première réaction a été : Reddit est la ferme des trolls. À un moment donné, je me suis parlé de mon instinct initial. J'ai pensé que ce ne serait peut-être pas si mal ! J'ai vu de bons AMA!

Dans les 10 ou 15 minutes suivant le début de l'AMA, les trolls ont repris le fil, présentant des arguments de mauvaise foi et enterrant toutes mes réponses.

Mais dans les 10 ou 15 minutes suivant le début de l'AMA, des trolls ont repris le fil, présentant des arguments de mauvaise foi et enterrant toutes mes réponses. Ils étaient comme, Écoutez, elle a trop peur pour répondre aux questions. J'avais répondu, mais mes réponses seraient simplement enterrées ou disparaîtraient. Au moment où les modérateurs de Reddit ont verrouillé le fil de nombreuses heures plus tard, il y avait des milliers de commentaires, dont la majorité étaient des choses horribles et terribles. Ce fut une expérience vraiment traumatisante.

Ensuite, il y avait quelques discussions sur 4Chan qui faisaient référence à l'AMA Reddit, ce qui a conduit les trolls 4Chan et Reddit à lancer une attaque contre Block Party. Ils ont soumis un tas de candidatures pour notre liste d'attente via un formulaire d'inscription et ont créé des centaines de comptes avec mon nom et ma photo de profil sur Substack et ont publié du contenu raciste et misogyne. Pendant quelques semaines, c'était un cauchemar partout où j'allais en ligne. Je ne pouvais même pas me reconnecter à Reddit car ma boîte de réception Reddit débordait de harcèlement. C'était ironique que si je construis un logiciel anti-harcèlement, je sois harcelé pour ça.

J'ai un harceleur - un harceleur en ligne qui est passé au harcèlement dans le monde réel - ce qui m'a rendu encore plus craintif. Je me suis demandé, ces trolls vont-ils me doxer ou faire quelque chose de pire ? Quand je suis allé déposer des rapports de police sur mon harceleur, je me suis senti gazé. La police prend des notes comme la victime croit que le suspect est obsédé par elle, ce qui sape la vérité : je reçois des milliers de tweets de cette personne. Il volerait là où j'étais. Il a des enregistrements d'entrée et de sortie à l'aéroport le plus proche de chez moi et m'a dit dans quel motel il a séjourné lorsqu'il a essayé de me trouver à San Francisco.

Quelqu'un qui travaille dans la sécurité privée m'a dit un jour que l'une des meilleures choses que vous puissiez faire dans cette situation est de transformer votre mentalité en une mentalité très proactive : pensez, si vous étiez le harceleur, que feriez-vous ? Cela vous aide à structurer vos défenses. Changer votre mentalité pour être proactif signifie que vous avez de l'agence et c'est vraiment utile. Parce que si vous vous sentez impuissant et attaqué, c'est très débilitant.

Aussi désagréables que soient mes expériences, je considère tout cela comme une recherche d'utilisateurs pour Block Party.

Je veux que le harcèlement en ligne disparaisse, et si je peux participer à la résolution de ce problème, que ce soit avec Block Party ou non, je suis heureux. Je prends toutes les expériences que j'ai eues dans l'ingénierie de produits, en travaillant avec des entreprises de la Silicon Valley, en travaillant sur des plateformes, et mes propres expériences de harcèlement et j'espère en faire quelque chose de positif.

Wudan Yan est un journaliste indépendant basé à Seattle, Washington.

cacher