Le PDG de Microsoft appelle à une IA responsable et ignore les algorithmes qui régissent déjà nos vies

Le PDG de Microsoft, Satya Nadella, s'inquiète du pouvoir que l'intelligence artificielle exercera sur nos vies. Dans un billet sur Ardoise hier, il a conseillé à l'industrie informatique de commencer à réfléchir dès maintenant à la façon de concevoir des logiciels intelligents pour respecter notre humanité .

L'industrie technologique ne devrait pas dicter les valeurs et les vertus de cet avenir, a-t-il écrit.

Nadella a appelé à une responsabilité algorithmique afin que les humains puissent réparer les dommages involontaires. Il a déclaré que les logiciels intelligents doivent être conçus de manière à nous permettre d'inspecter leur fonctionnement et à les empêcher de discriminer certaines personnes ou d'utiliser des données privées de manière peu recommandable.

Satya Nadella, PDG de Microsoft.

Ce sont des préoccupations nobles et rationnelles, mais les dirigeants technologiques auraient dû en parler il y a quelque temps. Il existe de nombreuses preuves que les algorithmes et les logiciels qui façonnent la vie quotidienne peuvent déjà être marqués par des biais troublants.

Des études de la Federal Trade Commission ont trouvé des signes qui les préjugés raciaux et économiques décriés à l'époque pré-Internet réapparaissent maintenant dans les systèmes alimentant les publicités ciblées et autres services en ligne. Dans le Wisconsin, une bagarre a lieu pour savoir pourquoi le fonctionnement d'un système qui essaie de prédire si un criminel va récidiver— et est utilisé pour déterminer les peines de prison - doit être gardé secret.

Pas plus tard qu'aujourd'hui, l'ACLU a déposé une plainte contre le gouvernement américain au nom de chercheurs avec un plan pour rechercher discrimination raciale dans les annonces d'emploi et de logement en ligne . Ils ne peuvent pas le faire en raison des restrictions des lois fédérales sur le piratage et de la façon dont les entreprises technologiques rédigent leurs conditions générales.

Il est clair que certains des problèmes qui, selon Nadella, pourraient être créés par la future intelligence artificielle sont en fait déjà là. La chercheuse de Microsoft, Kate Crawford, a bien résumé la racine du biais algorithmique dans une récente New York Fois op-ed, écrire ce logiciel peut déjà exacerber les inégalités sur le lieu de travail , chez nous et dans nos systèmes juridiques et judiciaires.

Nadella conclut son article prospectif sur l'intelligence artificielle en disant : La prochaine étape la plus critique dans notre poursuite de l'IA. est de s'accorder sur un cadre éthique et empathique pour sa conception. Quelle meilleure façon d'être prêt pour l'avenir dominé par l'IA que de commencer à travailler maintenant sur l'application d'un cadre éthique et empathique au logiciel stupide qui nous entoure déjà ?

(Lire la suite: Ardoise , Vice , Ars Technica , New York Times )

cacher