Nos enfants robotiques : l'éthique de la création d'une vie intelligente

Deux enfants se noient : votre fils et un étranger. Qui sauveriez-vous en premier ? Votre fils, n'est-ce pas ? Et si l'un des enfants était un robot pensant et sentant ?

Le philosophe Eric Schwitzgebel de l'Université de Californie à Riverside soutient que nos créations hypothétiques nous seraient plus qu'étrangères dans un tribune fascinante pour Temps infini . La relation morale aux robots ressemblera plus à la relation que les parents entretiennent avec leurs enfants, écrit-il, … qu'à la relation entre humains étrangers.

La relation tendue de l'humanité avec l'intelligence artificielle a été un agrafe de la science-fiction depuis que le domaine de l'informatique moderne est né dans les années 1950. Comme le dit Schwitzgebel :

Le statut moral des robots est un thème récurrent dans la science-fiction, du moins jusqu'aux histoires de robots d'Isaac Asimov, et le consensus est clair : si un jour nous parvenons à créer des robots qui ont une vie mentale similaire à la nôtre, avec des plans, des désirs humains et un sens de soi, y compris la capacité de joie et de souffrance, alors ces robots méritent une considération morale similaire à celle accordée aux êtres humains naturels. Les philosophes et les chercheurs en intelligence artificielle qui ont écrit sur cette question sont généralement d'accord.

Ce qui, il y a dix ans à peine, aurait pu sembler une fantaisie scientifique est devenu une question pertinente à mesure que le développement de l'IA et de la robotique progresse rapidement. Il ne se passe presque pas de journée sans des titres qui semblent fantastiques.

Notre propre Will Knight a récemment écrit sur un tout-petit robotique qui apprend à se tenir debout en utilisant des algorithmes ressemblant à du cerveau; il imagine sa tâche avant de l'essayer dans l'espace physique. Aviva Rutkin a écrit pour Nouveau scientifique comment La Silicon Valley recrute des personnes pour servir de formateurs pour ses systèmes d'IA en plein essor. Les formateurs fournissent simultanément une sauvegarde pour l'IA et génèrent une énorme bibliothèque de données de formation que l'IA analysera à l'aide de divers apprentissage automatique algorithmes jusqu'à ce qu'il soit capable de fonctionner avec moins de supervision. Combien de temps maintenant jusqu'à ce que nous franchissions le seuil et créions un robot qui pense ? Ça se sent ?

Si nous créons des robots véritablement conscients, écrit Schwitzgebel, nous sommes […] substantiellement responsables de leur bien-être. C'est la racine de notre obligation spéciale. En d'autres termes : nous les avons mis au monde, pour le meilleur ou pour le pire - ce qui leur arrive après leur création sera toujours, de manière significative, de notre faute.

Il poursuit en citant le monstre de Frankenstein, s'adressant à son créateur :

Je suis ta créature, et je serai même doux et docile envers mon seigneur et roi naturel, si tu fais aussi ta part, celle que tu me dois. Oh, Frankenstein, ne sois pas équitable envers tout le monde, et piétine moi seul, à qui ta justice, et même ta clémence et ton affection, sont le plus dues. Souviens-toi que je suis ta créature : je dois être ton Adam…

Même sans allusion biblique, il est difficile de ne pas ressentir le poids de la responsabilité du Créateur. C'est une pensée entêtante et vertigineuse - dans ce cas, dépassant les préoccupations parentales et dans le domaine de la figure divine.

Donner à nos créations robotiques le même statut moral que nos créations organiques sera cependant un sacré défi. Après tout, nous ne pouvons pas amener les gens à traiter les autres humains avec un niveau universel de dignité et de respect, comment pouvons-nous nous attendre à ce qu'ils accordent une considération morale égale aux bits et aux octets ? Sans parler de donner à nos créations un statut spécial en raison de notre statut unique en tant que créateurs.

Même si nous aimerions prétendre que nos attitudes envers nos enfants sont le résultat d'un raisonnement supérieur ou de principes philosophiques profondément réfléchis, la réalité est désordonnée, hormonale et très organique. Les enfants ont reçu une considération morale particulière de la part de leurs parents bien avant Socrate. C'est une impulsion profonde de traiter nos enfants avec un soin particulier; c'est une impulsion tout aussi profonde de traiter les choses qui nous ressemblent et agissent comme nous avec un soin particulier. Si nous devons donner aux robots un statut moral spécial en tant que progéniture, je dirais que nous ferions également mieux de les concevoir pour qu'ils aient des visages expressifs et seulement quatre membres. Nous ne donnons généralement pas beaucoup de fret moral aux céphalopodes, même s'ils sont extrêmement intelligent .

Quoi qu'il en soit, Schwitzgebel met l'accent sur un aspect des grands débats sur l'IA qui est souvent négligé dans la culture populaire. Ce n'est pas seulement une rébellion de robots dont nous devons nous inquiéter. C'est aussi le poids de la création. Victor Frankenstein n'était clairement pas prêt à le supporter - soyons sûrs que nous le sommes si et quand le moment viendra.

cacher