Les dangers de Tech-Bro AI

Tabitha Goldstaub, cofondatrice de CognitionX , qui aide les entreprises à déployer l'IA, affirme que la diversification du domaine est nécessaire pour s'assurer que les produits fonctionnent réellement bien.
  • Personnel TR page d'archives
24 octobre 2017

Miguel Porlan





Si vous pensez à l'intelligence artificielle et aux composants de base de ce qui fait une IA, vous avez le fait qu'elle a un objectif et qu'elle trouvera ensuite un moyen d'atteindre cet objectif. Il est alors souvent très peu transparent quant à la manière dont il a atteint cet objectif. Si vous intégrez dans une machine un biais inconscient, vous ne savez peut-être pas qu'il est là ; la production pourrait être préjudiciable aux femmes et il est très difficile de déterminer exactement pourquoi cela s'est produit.

Dans la technologie traditionnelle, vous pouvez voir [ce qui s'est passé] : femmes qui meurent dans des accidents de voiture parce que les mannequins de crash-test avaient la forme d'un homme plutôt que la forme d'une femme. [Avec l'IA, il pourrait y avoir] des situations de vie ou de mort similaires, dans des essais de médicaments ou dans des véhicules autonomes et des choses comme ça.

La question de l

Cette histoire faisait partie de notre numéro de novembre 2017



  • Voir la suite du problème
  • S'abonner

Il existe quelques exemples de [préjugés sexistes dans l'IA aujourd'hui] : Annonces Google affichant des annonces [d'emploi] plus rémunératrices pour les hommes que pour les femmes . Nous pouvons émettre l'hypothèse d'autres types de situations qui se produiraient - et si les femmes n'étaient pas aussi capables d'obtenir des prêts, des hypothèques ou des assurances ?

Je n'ai pas une vision dystopique de l'IA. Je ne vois pas de robots tueurs. Je suis tellement plus concentré sur les applications étroites, et je pense que si vous regardez chacune de ces applications étroites, il y a une chance que cela affecte négativement les femmes. Je ne pense pas que l'intelligence artificielle soit le problème ici; c'est le problème supplémentaire plutôt que la cause. Nous parlons du risque que notre sexisme inconscient ou notre racisme inconscient s'infiltre dans les machines que nous construisons.

Comment pouvons-nous amener quiconque construit l'IA à réfléchir à ces choses ? Nous devons amener les consommateurs à exiger une IA éthique. Pas assez de gens voient cela comme plus qu'une simple question de genre ; il s'agit d'un problème de produit réel et fondamental.



— comme dit à Rachel Metz

cacher