Ce qu'il faudra pour que les ordinateurs soient conscients

Un ver est-il conscient ? Que diriez-vous d'un bourdon? Un ordinateur capable de jouer aux échecs ressent-il quelque chose ?

Christophe Koch

Pour Christof Koch, directeur scientifique de l'Allen Institute for Brain Science à Seattle, la réponse à ces questions pourrait résider dans le tissu de l'univers lui-même. La conscience, croit-il, est une propriété intrinsèque de la matière, tout comme la masse ou l'énergie. Organiser la matière de la bonne manière, comme dans le cerveau des mammifères, et voilà , vous pouvez sentir.

Koch, aujourd'hui âgé de 57 ans, a passé près d'un quart de siècle à essayer d'expliquer pourquoi, disons, le soleil est chaud sur votre visage. Mais après avoir écrit trois livres sur la conscience , Koch dit que les chercheurs sont encore loin de savoir pourquoi cela se produit, ou même de s'entendre sur ce que c'est. C'est un problème difficile (voir Cracking the Brain's Codes). C'est l'une des raisons pour lesquelles Koch a quitté son poste chez Caltech en 2011 pour faire partie d'un projet de 500 millions de dollars lancé par le milliardaire Paul Allen, cofondateur de Microsoft.

L'objectif de l'Institut Allen est de construire un atlas détaillé de chaque neurone et synapse du cerveau des mammifères. Cela donnerait aux neurosciences une mine de données similaire à ce que le projet du génome humain a réalisé.

Mais Koch n'a pas abandonné sa recherche d'une grande théorie qui pourrait tout expliquer. En fait, il pense que la conscience pourrait être expliquée par quelque chose appelé théorie de l'information intégrée , qui affirme que la conscience est un produit de structures, comme le cerveau, qui peuvent à la fois stocker une grande quantité d'informations et avoir une densité critique d'interconnexions entre leurs parties.

Pour Koch, la théorie fournit un moyen d'évaluer les degrés de conscience chez les personnes atteintes de lésions cérébrales, dans les espèces du règne animal et même, dit-il, parmi les machines. Nous avons interrogé Koch sur la conscience informatique la semaine dernière pendant Examen de la technologie MIT de la conférence EmTech.

Découvrir les bases biologiques de la conscience sera-t-il en quelque sorte déshumanisant ? Et si tout n'était qu'illusion ?

Je trouve ridicule cette opinion de certaines personnes selon laquelle la conscience est une illusion. Si c'est une illusion, alors c'est l'illusion la plus puissante que nous ayons. Je veux dire, la déduction la plus célèbre de la philosophie occidentale est quoi ? Je pense. Donc je suis. Le fait que vous ayez une expérience consciente est la seule certitude indéniable que vous avez.

Si les scientifiques découvrent la base de la conscience, quels types de technologies pourraient en résulter ?

Nous pourrions avoir un test pour dire qui a conscience et qui n'en a pas. Nous avons des débats très émouvants dans ce pays sur l'avortement. J'aimerais avoir un moyen objectif de tester à quel moment un fœtus commence réellement à avoir une sensation consciente. Ou si un patient [dans le coma] est conscient ou non. Souvent, vous ne savez tout simplement pas. Ce sont des questions que les gens se posent depuis les temps historiques, mais une fois que nous avons une théorie, et une théorie largement acceptée, nous pouvons y répondre. De plus, si je voulais construire une machine qui serait consciente, cela me donnerait un plan.

Donc vous pensez qu'un ordinateur peut être conscient ?

J'ai donné une conférence [la semaine dernière] au MIT sur la théorie de l'information intégrée, développée par Giulio Tononi à l'Université du Wisconsin. C'est une théorie qui fait une prédiction très claire : elle dit que la conscience est une propriété des systèmes complexes qui ont un répertoire cause-effet particulier. Ils ont une façon particulière d'interagir avec le monde, comme le fait le cerveau, ou en principe, comme le pourrait un ordinateur. Si vous deviez construire un ordinateur doté des mêmes circuits que le cerveau, cet ordinateur aurait également une conscience qui lui serait associée. Ce serait quelque chose d'être cet ordinateur. Cependant, il n'en va pas de même pour les simulations numériques.

Si je construisais un modèle logiciel parfait du cerveau, il ne serait jamais conscient, mais une machine spécialement conçue qui imite le cerveau pourrait l'être ?

Correct. Cette théorie dit clairement qu'une simulation numérique ne serait pas consciente, ce qui est étonnamment différent de la croyance fonctionnaliste dominante de 99 % des personnes au MIT ou de philosophes comme Daniel Dennett. Ils disent tous qu'une fois que vous simulez tout, rien d'autre n'est requis, et ça va être conscient.

Je pense que la conscience, comme la masse, est une propriété fondamentale de l'univers. L'analogie, et elle est très bonne, est que vous pouvez faire de très bonnes prévisions météorologiques ces jours-ci. Vous pouvez prédire l'intérieur d'une tempête. Mais il n'est jamais mouillé à l'intérieur de l'ordinateur. Vous pouvez simuler un trou noir dans un ordinateur, mais l'espace-temps ne sera pas déformé. Simuler quelque chose n'est pas la vraie chose.

C'est la même chose avec la conscience. Dans 100 ans, vous pourrez peut-être simuler la conscience sur un ordinateur. Mais il ne ressentira rien. Non. Ce sera noir à l'intérieur. Il n'aura aucune expérience, même s'il peut avoir notre intelligence et notre capacité à parler.

Je ne dis pas que la conscience est une âme magique. C'est quelque chose de physique. La conscience survient toujours sur le physique. Mais il faut un type particulier de matériel pour l'instancier. Un ordinateur composé de transistors, déplaçant une charge sur et hors d'une porte, chaque porte étant connectée à un petit nombre d'autres portes, est juste une structure de cause à effet très différente de celle que nous avons dans le cerveau, où vous avez un neurone connecté à 10 000 neurones d'entrée et se projetant sur 10 000 autres neurones. Mais si vous deviez construire l'ordinateur de la manière appropriée, comme un ordinateur neuromorphique [voir Penser dans le silicium], il pourrait être conscient.

Si je vous mettais dans une pièce avec un ordinateur du futur, seriez-vous capable de déterminer s'il est conscient ?

Je ne pouvais pas de l'extérieur. Je devrais regarder son matériel.

Et le test de Turing ?

La question posée par Turing est Les machines peuvent-elles penser ? Mais en fin de compte, c'est un test opérationnel pour l'intelligence, pas pour la conscience. Si vous avez une conversation intelligente avec un gars dans une autre pièce et qu'après une demi-heure vous ne pouvez pas décider si c'est un ordinateur ou un humain, eh bien, vous dites que c'est aussi intelligent qu'un humain. Mais le test de Turing ne me dira pas si la machine subit quelque chose. Je pourrais demander Êtes-vous conscient ? et la machine pourrait dire Oui, je suis pleinement conscient. Et pourquoi prétendez-vous que je ne le suis pas ? Je suis insulté. Mais je ne pouvais pas vraiment savoir. Je devrais dire, désolé, je dois vous démonter et comprendre comment vous êtes fait et comment vous générez réellement ces différents états physiques.

N'y a-t-il pas une question piège que vous pourriez poser, à laquelle seul un être conscient pourrait répondre ?

Une très bonne question. Chez l'homme, nous avons des tests pratiques de conscience. Si vous avez un grave accident et que vous allez aux urgences, ils vous demanderont : Pouvez-vous bouger les yeux ? Pouvez-vous bouger vos membres? Peux tu parler? Si vous pouvez parler, savez-vous en quelle année nous sommes ? Savez-vous qui est le président ?

Mais comment puis-je vraiment savoir que vous êtes conscient ? C'est le problème du solipsisme. En dernière analyse, je ne sais pas. Mais je sais que ton cerveau ressemble beaucoup au mien. J'ai mis beaucoup de gens dans des scanners, et je sais qu'ils ont tous un cerveau, et que leur cerveau se comporte comme le mien. Il y a donc une inférence parfaitement raisonnable que vous aussi êtes conscient.

Mais plus ces systèmes diffèrent de moi, plus il est difficile de faire ce pas par inférence. Par exemple, prenez une abeille. Est-ce que ça fait quelque chose d'être une abeille et de voler dans les rayons dorés du soleil et d'avoir du nectar ? Je trouve très difficile de savoir si une abeille est consciente ou non. Et un ordinateur est encore plus radicalement différent. Il n'y a aucun comportement sur lequel je peux le juger. Je devrais regarder son matériel sous-jacent.

Pensez-vous que nous construirons un jour des machines conscientes ?

Je ne sais pas pourquoi nous le ferions. Mais il ne fait aucun doute dans mon esprit que nous allons construire des machines intelligentes capables de passer le test de Turing bien avant de comprendre la véritable base biologique de l'intelligence humaine. Et je pense qu'il y a des dangers associés à cela que la plupart des gens, étant de joyeux optimistes, ignorent complètement.

Quels périls ?

Vous ne regardez pas de films de science-fiction ? IA en fuite bien sûr. Pensez au marché financier, à toutes ces machines de trading, aux flash crashs. Les gens vont abuser de l'intelligence informatique, maximiser aveuglément pour un certain objectif. Cela conduira à une concentration de plus en plus grande du pouvoir entre de moins en moins de personnes. Nous le voyons déjà, cela va conduire à un chômage massif. Et peut-être 30 ou 40 ans plus tard, je pense qu'il y a vraiment un danger existentialiste pour l'espèce, au niveau des armes nucléaires ou d'une frappe de météorite.

Le tout sans que la machine en soit consciente ? Dans les films, le moment où l'IA devient folle est le même moment où elle acquiert une conscience de soi consciente.

C'est parce que les gens veulent faire une histoire engageante. Si l'ennemi ne sent rien, s'il n'y a rien, il ne fait pas un bon adversaire.

cacher