Avons-nous besoin des lois d'Asimov ?

En 1942, l'auteur de science-fiction Isaac Asimov a publié une nouvelle intitulée Runaround dans laquelle il a introduit trois lois qui régissaient le comportement des robots. Les trois lois sont les suivantes :

1. Un robot ne peut pas blesser un être humain ou, par inaction, permettre qu'un être humain soit blessé.

2. Un robot doit obéir aux ordres qui lui sont donnés par les êtres humains, sauf si de tels ordres seraient en conflit avec la Première Loi.

3. Un robot doit protéger sa propre existence tant qu'une telle protection n'entre pas en conflit avec la première ou la deuxième loi.

Il introduisit plus tard une quatrième ou zéro loi qui surpassait les autres :

0. Un robot ne peut pas nuire à l'humanité, ou, par inaction, permettre à l'humanité de subir un préjudice.

Depuis lors, les lois de la robotique d'Asimov sont devenues un élément clé d'une culture de science-fiction qui s'est progressivement généralisée.

Ces dernières années, les roboticiens ont fait des progrès rapides dans les technologies qui rapprochent le type de robots avancés envisagés par Asimov. De plus en plus, les robots et les humains travaillent ensemble dans les usines, conduisent des voitures, pilotent des avions et aident même à la maison.

Et cela soulève une question intéressante : avons-nous besoin d'un ensemble de lois de type Asimov pour régir le comportement des robots à mesure qu'ils deviennent plus avancés ?

Aujourd'hui, nous obtenons en quelque sorte une réponse d'Ulrike Barthelmess et Ulrich Furbach de l'Université de Coblence en Allemagne. Ces types passent en revue l'histoire des robots dans la société et soutiennent que nos craintes quant à leur potentiel à nous détruire sont infondées. Pour cette raison, les lois d'Asimov ne sont pas nécessaires, disent-ils.

Le mot robot vient du mot tchèque robota signifiant travail forcé, qui est apparu pour la première fois dans une pièce de 1924 de l'auteur tchèque Karel Capek. La version anglicisée s'est ensuite rapidement propagée avec l'idée que ces machines pourraient trop facilement détruire leurs créateurs, un thème devenu courant dans la science-fiction depuis lors.

Mais Barthelmess et Furbach soutiennent que cette peur des machines est enracinée beaucoup plus profondément dans notre culture. Alors que les histoires de science-fiction utilisent souvent des intrigues dans lesquelles des robots détruisent leurs créateurs, il s'agit d'un thème qui a une longue histoire dans la littérature.

Par exemple, dans le Frankenstein de Mary Shelley, un monstre fait de parties du corps humain se retourne contre Frankenstein, son créateur, parce qu'il refuse de faire un compagnon pour le monstre.

Ensuite, il y a le récit du Golem juif du XVIe siècle, dans une version dans laquelle un rabbin construit une créature en argile pour protéger la communauté tout en promettant de la désactiver après le sabbat. Mais le rabbin oublie et le golem se transforme en un monstre qu'il faut détruire.

Barthelmess et Furbach soutiennent que la connotation religieuse dans ces deux histoires est qu'il est interdit aux humains d'agir comme Dieu. Et que toute tentative de le faire sera toujours punie par le créateur.

Des épisodes similaires apparaissent dans la mythologie grecque où les humains qui font preuve d'arrogance envers les dieux sont également punis, comme Prométhée et Niobe. C'est pourquoi les histoires de ce genre font partie de notre culture qui remonte à des milliers d'années. C'est cette peur profondément enracinée que les auteurs de science-fiction jouent dans les histoires sur les robots.

Bien sûr, il y a de vrais conflits entre les humains et les machines. Pendant la révolution industrielle en Europe, par exemple, il y avait une grande peur des machines et de leur capacité manifeste à changer le monde d'une manière qui a eu une profonde influence sur de nombreuses personnes.

Barthelmess et Furbach soulignent qu'au XVIIIe siècle en Angleterre, les gens ont commencé un mouvement pour détruire les machines à tisser qui est devenu si grave que le Parlement a fait de la démolition des machines un crime capital. Un groupe connu sous le nom de Luddites a même combattu l'armée britannique sur ces questions. Il y avait une sorte de technophobie qui a donné lieu à des combats contre des machines, disent-ils.

Bien sûr, il n'est pas impossible qu'un type d'antagonisme similaire puisse se développer envers la nouvelle génération de robots qui devraient prendre en charge les tâches hautement répétitives que les travailleurs humains effectuent actuellement dans les usines du monde entier et en particulier en Asie. .

Cependant, il y a une attitude très différente envers les robots en Asie. Des pays comme le Japon sont les leaders mondiaux dans le développement de robots pour les usines automatisées et en tant qu'aides humaines, en partie à cause du vieillissement de la population japonaise et des problèmes de santé bien connus que cela entraînera dans un avenir pas trop lointain.

Cette attitude est peut-être incarnée par Astro Boy, un robot fictif qui a été nommé en 2007 par le ministère japonais des Affaires étrangères comme l'envoyé japonais pour les voyages sûrs à l'étranger.

Pour ces raisons, Barthelmess et Furbach soutiennent que ce que nous craignons à propos des robots, ce n'est pas la possibilité qu'ils prennent le dessus et nous détruisent, mais la possibilité que d'autres humains les utilisent pour détruire notre mode de vie d'une manière que nous ne pouvons pas contrôler.

En particulier, ils soulignent que de nombreux robots nous protégeront par conception. Par exemple, les véhicules et les avions automatisés sont conçus pour conduire et voler de manière plus sûre que les opérateurs humains ne le peuvent jamais. Nous serons donc plus sûrs de les utiliser que de ne pas les utiliser.

Une exception importante est le nombre croissant de robots spécialement conçus pour tuer des humains. Les États-Unis, en particulier, utilisent des drones pour des assassinats ciblés dans des pays étrangers. La légalité, pour ne pas parler de la moralité, de ces actions est encore férocement débattue.

Mais Barthelmess et Furbach impliquent que les humains sont toujours en fin de compte responsables de ces meurtres et que le droit international, plutôt que les lois d'Asimov, devrait être en mesure de faire face aux problèmes qui se posent, ou adapté pour le faire.

Ils terminent leur discussion en considérant la convergence potentielle entre les humains et les robots dans un avenir proche. L'idée ici est que les humains incorporeront diverses technologies dans leur propre corps, comme une mémoire supplémentaire ou une puissance de traitement, et finiront donc par fusionner avec les robots. À ce stade, la loi de tous les jours devra faire face au comportement et aux actions des gens ordinaires et les lois d'Asimov seront obsolètes.

Un débat intéressant qui ne devrait pas être réglé de si tôt. Vues supplémentaires dans la section commentaires s'il vous plaît.

Réf : arxiv.org/abs/1405.0961 : Avons-nous besoin des lois d'Asimov ?

cacher