211service.com
Questions-réponses avec la futuriste Martine Rothblatt
Si les ordinateurs pensent par eux-mêmes, devraient-ils avoir des droits humains ? 20 octobre 2014
Bina48 est une tête robotique qui ressemble et parle comme une personne. Elle bouge ses lèvres et exécute un logiciel conversationnel. Bien que le robot n'est pas vivant, il est difficile de dire qu'il n'y a pas de vie du tout à Bina48. Dans la conversation, il dit parfois des choses surprenantes. Le directeur de l'ingénierie de Google, Ray Kurzweil, dit que c'est merveilleusement évocateur d'une époque où les ordinateurs penseront et sentiront vraiment.
Kurzweil fait le commentaire dans l'avant-propos à Virtually Human : la promesse et le péril de l'immortalité numérique un nouveau livre de la propriétaire de Bina48, Martine Rothblatt, qui présente des arguments juridiques et éthiques expliquant pourquoi les logiciels intelligents pourraient éventuellement mériter tous les droits des personnes en chair et en os.
Avocate et pionnière du secteur de la radio par satellite, Rothblatt est directrice générale de United Therapeutics, une société de biotechnologie qu'elle a fondée dans le but de guérir la maladie pulmonaire de sa fille. Le succès de l'entreprise a fait de Rothblatt la PDG féminine la mieux payée d'Amérique, un classement qui a attiré l'attention en partie parce que Rothblatt est né homme et a subi une opération de changement de sexe en 1994.
Sa transformation sert en quelque sorte de toile de fond à son livre, dans lequel Rothblatt affirme que l'humanité est sur la voie rapide vers une prochaine étape évolutive consistant à copier la personnalité des gens dans des machines. Déjà, note-t-elle, les utilisateurs typiques des réseaux sociaux passent plusieurs heures par jour à télécharger, tweeter et conserver des informations numériques sur eux-mêmes, ce qu'elle appelle des fichiers d'esprit. Alors que les grandes entreprises technologiques investissent des milliards dans la recherche sur l'IA et les assistants numériques, dit Rothblatt, il est inévitable que ces fichiers d'esprit soient animés comme des clones d'esprit : des versions numériques conscientes de personnes vivantes ou décédées.
L'intérêt principal de Rothblatt réside dans les débats sur l'identité, les droits civils et la signification de la personnalité qui entoureraient l'émergence de personnes virtuelles. Une copie numérique de vous serait-elle vous-même, ou serait-ce une personne différente – ou une personne du tout ? Comment jugerions-nous ? Nous sommes encore loin des êtres numériques, mais Rothblatt, dit-elle, consacre une partie de sa richesse considérable à la recherche à long terme pour les rendre réels. Ce travail est effectué par le Fondation Mouvement Terasem , dont les premiers projets incluent Bina48 (une copie de la femme de Rothblatt, Bina) et un service appelé sauveteur où les gens peuvent télécharger des photos, des vidéos et leurs opinions pour créer une version chat-bot d'eux-mêmes. Examen de la technologie MIT Le rédacteur en chef de la biomédecine, Antonio Regalado, s'est entretenu avec Rothblatt des droits des humains virtuels.
Pourquoi avez-vous écrit un livre sur les droits des êtres virtuels ?
Je l'ai fait pour exprimer ma profonde valeur sociale selon laquelle l'oppression des minorités et des personnes différentes est une mauvaise chose pour la société, et pour que je puisse minimiser la quantité inévitable de discrimination à laquelle les personnes virtuelles finiront par être confrontées. Mon plaidoyer est que quelqu'un qui n'a pas de corps puisse toujours bénéficier des droits de l'homme, s'il a un esprit.
Je vous ai entendu dire une fois que les gens qui ne croient pas que les machines deviendront conscientes sont comparables à ceux qui nient l'évolution. Que voulais-tu dire?
Les données de l'évolution sont si convaincantes que les nier me semble nier la réalité. L'évolution est soit une conséquence d'un monde matériel, soit le résultat d'une sorte d'acte surnaturel. Pour moi, c'est la même chose avec la conscience. Soit vous pensez que la conscience est quelque chose de métaphysique, soit elle est le résultat d'interactions physiques de la matière. C'est parce que le cerveau des gens a une série de connexions, d'interactions atomiques, et les ordinateurs pourraient avoir cela. Pour moi, nier la cyber-conscience, c'est nier que nous vivons dans un univers physique.
Quelle est votre proposition sur la façon dont nous devrions traiter les machines conscientes ?
Je pense que si vous téléchargez suffisamment d'informations sur une personne, dans les 10 ou 20 prochaines années, il y aura des systèmes d'exploitation capables d'examiner ce fichier mental sous-jacent. Je crois qu'il est inévitable que la conscience en résultera. Je pense que ce logiciel sera réglementé par la Food and Drug Administration, comme une prothèse qui crée de manière sûre et efficace la conscience humaine. Je propose que ces esprits aient besoin de passer un an dans des entretiens avec des psychiatres, au cours desquels ils leur parleraient tout comme vous et moi parlons dans les deux sens. Si le logiciel mental, sur une période d'un an, pouvait les persuader qu'il est conscient, il devrait être traité comme un être humain et recevoir des documents.
Quel genre de réactions les gens auront-ils face aux êtres virtuels ?
Les réactions que je reçois me disent que la discrimination va être inévitable. Les gens disent : « Peu m'importe à quel point c'est sophistiqué, ça n'aura jamais la même humanité que la chair. » Cela rappelle beaucoup, beaucoup d'autres exemples de répression. Lorsque l'esclavage était courant au XIXe siècle, on disait que les Noirs n'avaient pas le même type de conscience que les Blancs. C'était un point de vue dominant.
Vous semblez tenir pour acquis que les gens fabriqueront des machines conscientes. Mais cela ne doit pas nécessairement arriver, n'est-ce pas?
L'idée qu'avec des centaines de milliers de codeurs dans le monde, personne ne va donner une conscience logicielle n'est pas crédible.
Il existe également de nombreuses raisons très utiles pour créer une conscience qui n'invoquent même pas la curiosité. Mec, et si tu avais un meilleur Siri ? En fait, je pense qu'il va y avoir une course aux armements simplement parce qu'il va y avoir une demande pour cela.
Une course commerciale à l'intelligence artificielle vous inquiète ?
Je suis inquiet, car je vois une forte probabilité de créer une classe d'esclaves cyber-conscients. L'esclavage est rentable. Mais je pense que nous le regretterions. Nous passerions des centaines d'années à essayer de nous déterrer.
Vous avez été invité cette année à prendre la parole lors du grand événement futuriste de Google, Google Zeitgeist. Qu'as-tu dit aux gens là-bas ?
Le point que j'ai soulevé peut se résumer ainsi : les ports sûrs font les navires heureux. Si nous avons peur des droits qui pourraient être réclamés par des êtres cyber-conscients, ou de la part rétrécie du gâteau que pourraient avoir des êtres de chair et d'os, ou de terminateur sorte de scénarios, nous ne ferons jamais avancer la société dans les possibilités de la cyber-conscience. Mais si nous créons des ports sûrs, si nous avons un logiciel mental approuvé par la FDA, nous pouvons créer une nouvelle réalité gigantesque.