La communauté de l'IA doit assumer la responsabilité de sa technologie et de ses actions

Céleste Kidd Niall Carson / AP

Lundi, lors de l'ouverture de l'un des plus grands rassemblements de chercheurs en intelligence artificielle au monde, Celeste Kidd s'est adressée à des milliers de participants dans une salle presque deux fois plus grande qu'un terrain de football. Elle ne tirait pas ses coups.

Il n'y a pas de plate-forme neutre, a déclaré le scientifique influent et figure de proue de #metoo aux personnes réunies à la conférence NeurIPS à Vancouver. Les algorithmes qui poussent le contenu en ligne ont de profonds impacts sur ce que nous croyons.

Kidd, professeur de psychologie à l'Université de Californie à Berkeley, est connue dans son domaine pour avoir apporté d'importantes contributions à notre compréhension de la théorie de l'esprit - comment nous acquérons des connaissances et comment nous formons des croyances. Il y a deux ans, elle s'est également fait connaître du monde entier lorsque Time l'a nommée Personne de l'année entre autres qui se sont prononcés contre les abus et le harcèlement sexuels.

Sur scène, Kidd a partagé cinq leçons tirées de ses recherches et a démontré comment les décisions de l'industrie technologique pouvaient influencer les gens à développer de fausses croyances, par exemple nier le changement climatique. Vers la fin de son exposé, elle a également partagé son expérience du harcèlement sexuel en tant qu'étudiante diplômée et adressé directement certains des malentendus qu'elle avait entendus sur le mouvement #metoo de la part des hommes.

Cela peut sembler effrayant d'être un homme dans la technologie en ce moment, a-t-elle déclaré aux participants à la conférence, dont environ 80% sont des hommes cette année. On a le sentiment qu'une carrière pourrait être détruite par des passes maladroites ou des malentendus.

Ce que je veux dire aujourd'hui à tous les hommes présents dans la salle, c'est que vous avez été trompé, a-t-elle déclaré.

Son discours a été ovationné, un moment rare dans l'histoire de la conférence.

Les remarques de Kidd surviennent à un moment où la communauté de l'IA - et l'industrie technologique en général - a été forcée de tenir compte des dommages involontaires de ses technologies. Au cours de la seule année écoulée, une série d'affaires très médiatisées ont révélé comment les deepfakes peuvent abuser des femmes, comment les algorithmes peuvent prendre des décisions discriminatoires en matière de soins de santé et de crédit, et comment le développement de modèles d'IA peut être extrêmement coûteux pour l'environnement. Dans le même temps, la communauté a été secouée par plusieurs scandales d'abus et de harcèlement sexuels , y compris certains incidents survenus à années précédentes de la conférence elle-même . Il a également continué à souffrir d'un nombre effroyable de diversité.

Mais le discours de Kidd a mis en évidence un changement important qui a commencé à se produire, un changement qui a été ressenti de manière palpable dans la pièce ce soir-là. Après son discours, des dizaines de personnes se sont alignées devant les microphones dispersés dans la salle pour la remercier d'avoir parlé de ces problèmes. Des dizaines d'autres se sont rassemblées autour d'elle après la séance, certaines juste pour lui serrer la main en signe de gratitude. Pour les participants qui se souviennent du rassemblement annuel il y a seulement deux ans, il y a une nouvelle ouverture à reconnaître ces défis et une volonté renouvelée de faire mieux.

Le lendemain de son discours, je me suis assis avec Kidd pour parler davantage des deux messages qu'elle a livrés, de leur lien et de ses espoirs pour l'avenir.

Cette interview a été éditée et condensée pour plus de clarté.

Dans la partie recherche de votre exposé, vous avez terminé avec votre message : il n'existe pas de plate-forme neutre. Comment êtes-vous arrivé à cette conclusion de vos recherches ?

Quelque chose que je n'ai réalisé qu'au cours des dernières années - à cause de mes interactions avec mes deux étudiants diplômés - c'est qu'il n'y a pas vraiment de distinction entre les connaissances et les croyances. C'est la même chose, fondamentalement.

Nous nous efforçons maintenant de comprendre comment ces dynamiques que nous avons observées dans les expériences de laboratoire s'étendent au monde réel. Quand quelqu'un va sur Internet sans être sûr de ce qu'il doit croire, qu'est-ce qu'il a tendance à retirer de ces recherches neutres ? Pouvons-nous utiliser ces mêmes types d'idées pour essayer d'expliquer pourquoi les gens croient que la Terre est plate et pourquoi ces idées fausses ne sont pas corrigées ? Ce n'est pas un domaine sur lequel j'ai vu beaucoup d'attention, mais c'est un domaine qui, à mon avis, est très important.

Pourquoi était-il important pour vous de partager votre message lors de cette conférence ?

Une grande partie de ce que nous croyons provient maintenant de sources en ligne. Surtout les enfants - ils forment les éléments constitutifs des connaissances qui façonneront plus tard ce en quoi ils croient, ce qu'ils souhaitent apprendre en aval. Pour les jeunes enfants, il y a aussi des raisons de s'attendre à ce qu'ils consomment plus de lecture automatique et de contenu suggéré que les adultes. Donc, au départ, ils risquent davantage d'être influencés par l'algorithme qui pousse le contenu, car c'est leur seul choix.

Mon discours était destiné à envoyer un message aux personnes travaillant sur les systèmes pour qu'elles soient attentives à la façon dont ces décisions en arrière-plan influencent les croyances d'une personne individuelle, mais aussi la société dans son ensemble. Je ne pense pas que la technologie soit suffisamment sensible à la façon dont les décisions que vous prenez dans les coulisses sur la façon de pousser le contenu ont un impact sur la vie des gens.

Il y a un cri de guerre commun lorsque des questions surgissent sur la façon dont le contenu est proposé : l'affirmation selon laquelle les plateformes sont neutres. Et je pense que c'est malhonnête. Les décisions finales que vous prenez influencent directement ce que les gens croient, et les gens le savent. Donc prétendre que ce n'est pas une chose est malhonnête.

Lorsque nous modifions le comportement des gens, nous modifions leurs croyances. Et ces changements ont des conséquences réelles et concrètes. Lorsqu'un parent cherche des informations pour savoir s'il doit ou non faire vacciner son enfant - s'il s'approche de son ordinateur portable sans se décider et qu'il s'en va décidé, le contenu proposé, les opinions représentées importent vraiment.

Je ne pense pas qu'il soit raisonnable de dire que vous n'êtes pas responsable de ce qu'une mère fait à son enfant - qu'elle décide de le vacciner ou non - parce que ce n'était pas quelque chose que vous avez pris en compte lorsque vous avez construit le système. Je pense que vous avez la responsabilité de considérer quelles sont les répercussions des décisions finales.

Vous avez mentionné dans les questions-réponses privées après votre discours que vous n'avez jamais présenté à la fois vos recherches et vos expériences de harcèlement sexuel dans un forum public. Pourquoi séparez-vous généralement ces deux éléments et pourquoi avez-vous décidé de les combiner ?

Je vais commencer par le second - j'ai fait une exception à la règle dans ce cas parce que je pensais qu'il était très important pour cette communauté d'entendre ce message. L'informatique est un domaine où les femmes ont eu beaucoup de mal pendant longtemps à s'imposer et à s'introduire. Il y a un haut degré d'intérêt au début, puis il y a un tuyau qui fuit. Et je sais que l'une des choses qui font qu'il est très difficile de réussir en tant que femme dans ce domaine est le manque d'opportunités de mentorat.

Je sais qu'il est très courant que les hommes en informatique avec de bonnes intentions craignent d'offenser les femmes. L'implication en aval de cela est que les femmes perdent des opportunités de formation, mais aussi les hommes perdent les idées et l'innovation que les femmes apporteraient. Des études empiriques montrent que la diversité conduit à des taux d'innovation plus élevés. Et l'opportunité de parler à une grande partie de ces hommes dans une même pièce en même temps - j'avais l'impression que c'était important, et je devais le faire.

La raison pour laquelle je ne les mélange généralement pas: je n'ai pas choisi ce qui m'est arrivé ma première année d'études supérieures à Rochester. Je n'ai pas choisi la réponse de l'université. Je voulais une carrière scientifique et je veux protéger cela, donc je ne veux pas parler moins de science parce que je me suis prononcé sur cette question. Mais je suis également conscient que la plupart des gens n'ont pas l'occasion, ils n'ont pas de plate-forme pour s'exprimer. Habituellement, ce qui arrive aux personnes qui ont été harcelées sexuellement au début de leur carrière et qui ont vu leur institution exercer des représailles contre elles, c'est qu'elles disparaissent. Je ne me sentirais pas bien de ne rien faire. Les personnes qui ont un privilège doivent l'utiliser là où elles le peuvent. Et ce fut l'occasion d'utiliser le privilège de donner une conférence à NeurIPS pour aider les femmes plus jeunes qui méritent un traitement égal.

Étiez-vous inquiet de la façon dont ces commentaires atterriraient?

Bien sûr. Mais avoir peur de la réponse n'est pas une raison pour ne pas parler. J'ai parlé un peu de privilège. Je suis également dans une position relativement privilégiée à cette conférence particulière parce qu'il y a tellement de gens dans l'industrie, et je pense que les pressions pour garder les gens silencieux sont plus fortes dans les entreprises qu'elles ne le sont dans le milieu universitaire, du moins dans la technologie en ce moment. Donc, si j'avais peur d'être viré, ce serait une chose supplémentaire qui me ferait taire. L'UC Berkeley était au courant de ma prise de parole sur ces questions avant de m'embaucher, et ils ne m'ont montré que du soutien et des encouragements dans la lutte pour l'équité. En étant dans un endroit qui me soutient comme ça, je peux dire des choses sans craindre de perdre mon emploi et de ne pas pouvoir payer la nourriture de mon enfant. Et c'est l'autre raison pour laquelle j'ai eu envie de parler.

Je m'attendais à ce que certaines personnes soient en colère. C'est 13 000 personnes. Bien sûr, certaines personnes peuvent mal me comprendre. J'ai littéralement parlé du fait que lorsque nous utilisons des mots, ils sont ambigus et que les gens activent différents concepts. Il n'est pas possible de convaincre tout le monde exactement de ce que vous avez en tête.

Même si vous séparez généralement vos discours sur vos recherches et votre activisme, et que vous les séparez en deux sections chez NeurIPS, pour moi, ils abordent vraiment la même chose : comment développer une technologie responsable en prenant plus de responsabilités dans vos décisions et vos actions.

À droite. Vous m'avez dit qu'il y a plus de discussions dans la communauté de l'IA sur les implications éthiques, qu'il y a plus d'appréciation pour le lien entre la technologie et la société. Et je pense qu'une partie de cela vient du fait que la communauté devient plus diversifiée et implique plus de personnes. Ils viennent d'un endroit moins privilégié et sont plus conscients de choses comme les préjugés et l'injustice et comment les technologies qui ont été conçues pour un certain groupe démographique peuvent en fait nuire aux populations défavorisées.

J'espère que cela continue. Nous devons nous parler pour progresser. Et nous méritons tous de nous sentir en sécurité lorsque nous interagissons les uns avec les autres.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher