Google nomme un conseil d'intelligence artificielle pour éviter la controverse, mais cela s'avère controversé

Port Jérémy

Le développement et la commercialisation de l'intelligence artificielle se sont révélés être un champ de mines éthique pour des entreprises comme Google. La société a vu ses algorithmes accusés de perpétuer les préjugés raciaux et sexistes et d'alimenter les efforts de construction d'armes autonomes.

Le géant de la recherche espère maintenant qu'une équipe de philosophes, d'ingénieurs et d'experts politiques l'aidera à surmonter les aléas moraux présentés par l'intelligence artificielle sans scandales de presse, protestations d'employés ou problèmes juridiques.

Kent Walker, vice-président senior pour les affaires mondiales et directeur juridique de Google, a annoncé la création d'un nouvel organisme indépendant chargé d'examiner les pratiques d'IA de l'entreprise lors d'EmTech Digital, une conférence sur l'IA à San Francisco organisée par MIT Technology Review.

Walker a déclaré que le groupe, connu sous le nom de Conseil consultatif externe sur les technologies avancées (ATEAC), examinerait les projets et les plans de l'entreprise et produirait des rapports pour aider à déterminer si l'un d'entre eux contrevenait aux propres principes de l'IA de l'entreprise. Le conseil n'aura pas d'ordre du jour fixe, a déclaré Walker, et il n'aurait pas le pouvoir d'opposer lui-même son veto aux projets. Mais il a dit que les rapports du groupe nous aideraient à rester honnêtes.

Le premier ATEAC mettra en vedette un philosophe, un économiste, un expert en politiques publiques et plusieurs chercheurs en science des données, en apprentissage automatique et en robotique. Plusieurs de ceux qui ont été choisis recherchent activement des problèmes tels que le biais algorithmique. La liste complète est la suivante : Alessandro Acquisti, Bubacarr Bah, De Kai, Dyan Gibbens, Joanna Bryson, Kay Coles James, Luciano Floridi , et Guillaume-Joseph Burns .

Mais c'est aux entreprises technologiques de prouver qu'elles sont sincères en matière d'éthique. L'annonce a déjà provoqué une réaction de la part de certains experts en IA qui remettent en question l'inclusion de Gibbens et James.

Le premier est le fondateur et PDG d'une société de drones, un choix qui semble sourd après que Google a fait face à une réaction des employés et à une tempête de presse négative pour son implication dans Maven, un projet visant à fournir l'IA cloud à l'US Air Force pour l'analyse. de l'imagerie par drone. Les retombées ont incité Google à annoncer une série de Principes de l'IA en premier lieu. Ce dernier est le président du groupe de réflexion conservateur The Heritage Foundation qui a poussé un programme anti-LGBTQ et dont l'organisation a répandu la désinformation sur le changement climatique, entre autres.

L'annonce controversée intervient au milieu d'une série de scandales auxquels Google et d'autres grandes entreprises technologiques ont été confrontées concernant le développement et l'utilisation de l'intelligence artificielle. Par exemple, les algorithmes utilisés pour reconnaissance de visage et filtrage des candidatures ont montré des préjugés raciaux.

Walker a déclaré sur scène que Google examine déjà attentivement ses projets d'IA. Il a noté que la société avait choisi de ne pas fournir de technologie de reconnaissance faciale par crainte qu'elle ne soit utilisée à mauvais escient. Dans un autre cas, il a déclaré que la société avait choisi de publier un algorithme d'IA à lecture labiale malgré les craintes qu'il puisse être utilisé pour la surveillance, car il a été jugé que les avantages potentiels l'emportaient sur les risques.

Chez EmTech, Walker a reconnu que le conseil devrait tenir compte des risques émergents liés à l'IA, et il a identifié la désinformation et la manipulation vidéo alimentée par l'IA comme des préoccupations particulières. Comment le détectons-nous sur nos plateformes ? Nous travaillons très dur là-dessus, a-t-il déclaré. Nous sommes un moteur de recherche, pas un moteur de vérité.

cacher