Tech Titans unissent leurs forces pour empêcher l'IA de mal se comporter

Lorsqu'il s'agit de surveiller l'intelligence artificielle, les leaders technologiques pensent que le nombre est la sécurité.

Une nouvelle organisation appelée Partenariat sur l'intelligence artificielle au profit des personnes et de la société cherchera à favoriser le dialogue public et à créer des lignes directrices pour le développement de l'IA afin que les systèmes ne se comportent pas mal. Les entreprises impliquées incluent Google et sa filiale DeepMind, Facebook, Amazon, Microsoft et IBM. Le partenariat est fondé sur huit principes ou principes, dont l'idée que l'IA devrait profiter au plus grand nombre de personnes possible ; que le public doit être impliqué dans son développement ; que la recherche doit être menée de manière ouverte ; et que les systèmes d'IA devraient pouvoir expliquer leur raisonnement.

Le fait que des rivaux aussi féroces se réunissent de cette manière montre à quel point les entreprises estiment qu'il est important de dissiper les inquiétudes et les spéculations du public sur les impacts potentiels de l'IA. Ces entreprises récoltent toutes d'énormes bénéfices des progrès de l'IA et ne souhaitent pas voir leur industrie soumise à une réglementation gouvernementale stricte, qui pourrait ralentir ou altérer les progrès de la technologie à un moment critique de son évolution. Mais dans le même temps, les progrès rapides récents ont soulevé des inquiétudes quant au potentiel des systèmes d'IA à discriminer, désavantager et déplacer les gens.

Nous partageons tous le devoir de faire avancer le domaine de manière réfléchie, positive et, surtout, éthique, déclare Mustafa Suleyman, cofondateur de Google DeepMind et coprésident par intérim de l'organisation. Les impacts positifs de l'IA dépendront non seulement de la qualité de nos algorithmes, mais aussi du niveau d'engagement du public, de transparence et de discussion éthique qui s'y déroulera.

L'IA progresse à une vitesse telle qu'il existe des inquiétudes légitimes quant à son déploiement de manière à avoir des effets imprévus ou indésirables. Par exemple, un système d'apprentissage automatique conçu pour identifier une maladie alimentée par des données biaisées pourrait discriminer certaines personnes. Les entreprises impliquées dans le partenariat reconnaissent qu'un contrecoup pourrait émerger en réponse à de tels effets.

L'IA est une technologie extrêmement importante pour Amazon, déclare Rolf Herbrich, directeur de l'apprentissage automatique pour le géant du commerce électronique. [Et] le plus grand atout de l'expérience client est la confiance des clients.

On ne sait pas exactement comment l'organisation s'engagera avec le public ou ceux qui développent l'IA. Il ne cherchera pas tant à faire appliquer ses directives qu'à mener une discussion ouverte, selon Suleyman.

Il existe également des inquiétudes légitimes quant au potentiel de l'IA et des technologies connexes telles que la robotique à déplacer des personnes et à accroître les inégalités (voir Comment la technologie détruit des emplois). Mais les progrès récents ont conduit à des avertissements plus farfelus et futuristes sur le potentiel de l'IA à constituer une menace existentielle pour l'humanité (voir Notre peur de l'intelligence artificielle). L'une des préoccupations des technologues est que ces avertissements pourraient attiser un tollé public injustifié et inspirer des réglementations gouvernementales inutiles.

Avec toute l'hyperbole sur l'IA au cours des deux à quatre dernières années, on craint que dans cette chambre d'écho de l'anxiété, le gouvernement lui-même ne soit mal informé, déclare Eric Horvitz, directeur général de Microsoft Research et autre coprésident de l'organisation.

Le gouvernement a manifesté son intérêt à veiller à ce que l'intelligence artificielle n'ait pas de conséquences fâcheuses, en coordonnant une série d'ateliers cette année visant à explorer ses effets potentiels.

Certaines énigmes éthiques impliquant l'IA seront plus complexes à résoudre que d'autres. Par exemple, il peut s'avérer difficile de concevoir des systèmes qui tiennent compte de différentes perspectives éthiques. Cette question a été soulevée, de manière largement théorique, concernant la comportement des voitures autonomes . Comment rendre les systèmes d'IA plus transparents et responsables est également une question ouverte, et qui peut elle-même nécessiter des progrès dans la technologie (voir AI’s Language Problem ).

L'idée du partenariat a émergé lors d'un événement coordonné à New York en janvier par Facebook pour discuter des questions éthiques entourant l'IA. D'autres entreprises et organisations impliquées dans le développement de l'IA, telles qu'Apple et l'Allen Institute for Artificial Intelligence, ont envisagé de s'impliquer dans l'effort à un certain titre, selon les membres fondateurs.

Oren Etzioni, PDG de l'Allen Institute for Artificial Intelligence, déclare qu'il sera important pour l'organisation d'aborder la question de savoir comment l'IA peut supprimer des emplois. Et il ajoute que le plus grand défi peut être de trouver un moyen pour les concurrents de travailler efficacement ensemble. Ce sont quelques-unes des principales entreprises de haute technologie au monde, dit-il. Ils auront besoin de travailler ensemble ici.

cacher