Robots militaires : armés, mais à quel point dangereux ?

Une lettre ouverte appelant à l'interdiction des armes létales contrôlées par des machines artificiellement intelligentes a été signé la semaine dernière par des milliers de scientifiques et de technologues, reflétant la préoccupation croissante que les progrès rapides de l'intelligence artificielle pourraient être exploités pour rendre les machines à tuer plus efficaces et moins responsables, à la fois sur le champ de bataille Et hors. Mais les experts sont plus divisés sur la question des robots tueurs que vous ne le pensez.

La lettre, présentée à la Conférence conjointe internationale sur l'intelligence artificielle à Buenos Aires, en Argentine, a été signée par de nombreux chercheurs de premier plan en IA ainsi que par d'éminents scientifiques et entrepreneurs, dont Elon Musk, Stephen Hawking et Steve Wozniak. La lettre indique :

La technologie de l'intelligence artificielle (IA) a atteint un point où le déploiement de tels systèmes est - pratiquement sinon légalement - réalisable en quelques années et non en décennies, et les enjeux sont importants : les armes autonomes ont été décrites comme la troisième révolution dans la guerre, après la poudre à canon et armes nucléaires.

Des progrès rapides ont en effet été réalisés en intelligence artificielle ces dernières années, en particulier dans le domaine de l'apprentissage automatique, qui consiste à apprendre aux ordinateurs à reconnaître des modèles souvent complexes ou subtils dans de grandes quantités de données. Et cela conduit à des questions éthiques sur les applications réelles de la technologie (voir Comment faire des voitures autonomes pour prendre des décisions éthiques).

Pendant ce temps, la technologie militaire a évolué pour permettre d'entreprendre des actions à distance, par exemple en utilisant des drones ou des robots de déminage, ce qui laisse entrevoir la possibilité que ces actions puissent être automatisées.

La question de l'automatisation des armes létales préoccupe depuis un certain temps les scientifiques ainsi que les experts militaires et politiques. En 2012, le département américain de la Défense a publié une directif interdire le développement et l'utilisation d'armes autonomes et semi-autonomes pendant 10 ans. Plus tôt cette année, les Nations Unies ont tenu une réunion pour discuter de la question des armes automatisées létales et de la possibilité d'une telle interdiction.

Mais alors que les drones ou robots militaires pourraient bien devenir plus automatisés, certains disent que l'idée de machines totalement indépendantes capables d'effectuer des missions meurtrières sans assistance humaine est plus fantaisiste. Cependant, avec de nombreux défis fondamentaux restant à relever dans le domaine de l'intelligence artificielle, il est loin d'être clair quand la technologie nécessaire pour des armes entièrement autonomes pourrait réellement arriver.

Nous repoussons les nouvelles frontières de l'intelligence artificielle, déclare Patrick Lin , professeur de philosophie à la California Polytechnic State University. Et beaucoup de gens sont à juste titre sceptiques sur le fait qu'il atteindrait un jour le point où il aurait ce qu'on appelle une autonomie totale. Personne n'est vraiment un expert pour prédire l'avenir.

Lin, qui a témoigné lors de la récente réunion de l'ONU, ajoute que la lettre n'aborde pas le débat éthique complexe derrière l'utilisation de l'automatisation dans les systèmes d'armes. La lettre est utile pour sensibiliser, dit-il, mais elle n'appelle pas tellement au débat; il essaie de mettre fin au débat en disant 'Nous avons compris et vous devez tous suivre.'

Stuart Russel , un éminent chercheur en intelligence artificielle et professeur à l'Université de Californie à Berkeley, rejette cette idée. Ce n'est tout simplement pas vrai qu'il n'y a pas eu de débat, dit-il. Mais il est vrai que les communautés de l'IA et de la robotique ont été pour la plupart parfaitement ignorantes de cette question, peut-être parce que leurs sociétés professionnelles l'ont ignorée.

Un sujet de débat, que la lettre reconnaît, est que les armes automatisées pourraient éventuellement aider à réduire les pertes non désirées dans certaines situations, car elles seraient moins sujettes aux erreurs, à la fatigue ou aux émotions que les combattants humains.

Ceux qui sont derrière la lettre ont cependant peu de temps pour cet argument.

Max Tegmark , physicien du MIT et membre fondateur du Institut du futur de la vie , qui a coordonné la signature de la lettre, affirme que l'idée d'armes automatisées éthiques est un faux-fuyant. Je pense que c'est plutôt hors de propos, franchement, dit-il. Il manque le gros point sur ce que cela va mener si l'on commence cette course aux armements de l'IA. Si vous faites l'hypothèse que seuls les États-Unis vont construire ces armes et que le nombre de conflits restera exactement le même, alors ce serait pertinent.

Le Future of Life Institute a émis un avertissement plus général sur les risques à long terme posés par une IA sans entraves, avertissant qu'elle pourrait poser de graves dangers à l'avenir.

C'est une question tout à fait différente, dit Russell. Bien qu'il existe un lien, si l'on craint de perdre le contrôle des systèmes d'IA à mesure qu'ils deviennent plus intelligents, ce n'est peut-être pas une bonne idée de leur confier nos systèmes de défense.

Alors que de nombreux experts en intelligence artificielle semblent partager cette préoccupation générale, certains la considèrent comme un peu déplacée. Par example, Gary Marcus , spécialiste des sciences cognitives et chercheur en intelligence artificielle à l'Université de New York, a argumenté que les ordinateurs n'ont pas besoin de devenir artificiellement intelligents pour poser de nombreux autres risques sérieux, aux marchés financiers ou aux systèmes de trafic aérien, par exemple.

Lin dit que si le concept de robots tueurs non contrôlés est évidemment inquiétant, la question des armes automatisées mérite une discussion plus nuancée. Émotionnellement, c'est un cas assez simple, dit Lin. Intellectuellement, je pense qu'ils doivent faire plus de travail.

cacher