Google devient pratique sur les dangers de l'IA

Les machines pourraient-elles devenir si intelligentes et puissantes qu'elles constitueraient une menace pour la vie humaine, ou même pour l'humanité dans son ensemble ?

C'est une question qui est devenue à la mode dans certaines parties de la Silicon Valley ces dernières années, bien qu'elle soit plus ou moins inconciliable avec les simples robots et les assistants virtuels glitchy d'aujourd'hui (voir AI Doomsayer Says His Ideas Are Catching On). Certains experts en intelligence artificielle pensent que les spéculations sur les dangers des futurs logiciels super-intelligents nuisent au domaine.

Aujourd'hui, Google, une entreprise fortement investie dans l'intelligence artificielle, tente de trouver une voie médiane. UNE nouveau papier publié aujourd'hui décrit cinq problèmes que les chercheurs devraient étudier pour aider à rendre les futurs logiciels intelligents plus sûrs. Dans un article de blog sur le papier, le chercheur de Google Chris Olah dit qu'ils montrent comment le débat sur la sécurité de l'IA peut être rendu plus concret et productif.

La plupart des discussions précédentes ont été très hypothétiques et spéculatives, écrit-il. Nous pensons qu'il est essentiel d'ancrer les préoccupations dans la recherche réelle sur l'apprentissage automatique et de commencer à développer des approches pratiques pour l'ingénierie des systèmes d'IA qui fonctionnent de manière sûre et fiable.

Olah utilise un robot de nettoyage pour illustrer certains de ses cinq points. Un domaine de préoccupation est d'empêcher les systèmes d'atteindre leurs objectifs en trichant. Par exemple, le robot de nettoyage peut découvrir qu'il peut satisfaire sa programmation pour nettoyer les taches en les cachant au lieu de les supprimer.

Un autre des problèmes posés est de rendre les robots capables d'explorer de nouveaux environnements en toute sécurité. Par exemple, un robot de nettoyage devrait pouvoir expérimenter de nouvelles façons d'utiliser les outils de nettoyage, mais ne pas essayer d'utiliser une vadrouille humide sur une prise électrique.

Olah décrit les cinq problèmes dans un nouvel article co-écrit avec un collègue de Google, Dario Amodei, avec des contributions d'autres personnes de Google, de l'Université de Stanford, de l'Université de Californie à Berkeley et d'OpenAI, un institut de recherche cofondé et partiellement financé par le PDG de Tesla et entrepreneur en série Elon Musc.

Musk, qui comparait autrefois le travail sur l'intelligence artificielle à l'invocation du démon, a fait de la création d'une IA sûre l'un des objectifs fondateurs d'OpenAI (voir What Will It Take to Build a Virtuous AI? ).

Google a également parlé d'un engagement à garantir que les logiciels d'intelligence artificielle n'aient pas de conséquences involontaires. De la société premier article de recherche sur le sujet a été publié ce mois-ci par son groupe DeepMind à Londres. Le leader de DeepMind, Demis Hassabis, a également convoqué un comité d'éthique pour examiner les éventuels inconvénients de l'IA, bien que ses membres n'aient pas été divulgués (voir Comment Google prévoit de résoudre l'intelligence artificielle).

Oren Etzioni, PDG de Institut Allen pour l'IA , se félicite de l'approche décrite dans le nouveau document de Google. Il a précédemment critiqué les discussions sur les dangers de l'IA comme étant trop vagues pour que les scientifiques ou les ingénieurs s'engagent de manière productive. Mais les scénarios présentés par Google sont suffisamment spécifiques pour permettre de véritables recherches, même s'il n'est toujours pas clair si de telles expériences seront pratiquement utiles, dit-il.

Ce sont les bonnes personnes qui posent les bonnes questions, dit Etzioni. Quant aux bonnes réponses, le temps nous le dira.

cacher