Podcast : Peut-on apprendre à une machine à penser ?

Ariel Davis





L'intelligence artificielle est devenue une si grande partie de nos vies que vous seriez pardonné de perdre le compte des algorithmes avec lesquels vous interagissez. Mais l'IA qui alimente vos prévisions météo, votre filtre Instagram ou votre liste de lecture Spotify préférée est bien loin de la machines à penser hyper intelligentes les pionniers de l'industrie réfléchissent depuis des décennies.

L'apprentissage en profondeur, la technologie à l'origine du boom actuel de l'IA , peut former des machines pour qu'elles deviennent des maîtres dans toutes sortes de tâches. Mais il ne peut en apprendre qu'un seul à la fois. Et parce que la plupart des modèles d'IA forment leurs compétences sur des milliers ou des millions d'exemples existants, ils finissent par reproduire des modèles dans les données historiques, y compris les nombreuses mauvaises décisions que les gens ont prises, comme la marginalisation des personnes de couleur et des femmes.

Pourtant, des systèmes comme le champion du jeu de société AlphaZero et le générateur de faux texte de plus en plus convaincant GPT-3 ont attisé les flammes du débat sur le moment où les humains créeront un intelligence artificielle générale — des machines capables d'effectuer plusieurs tâches à la fois, de penser et de raisonner par elles-mêmes.



L'idée divise. Au-delà de la réponse à comment nous pourrions développer des technologies capables de bon sens ou d'auto-amélioration se pose encore une autre question : à qui profite réellement la réplication de l'intelligence humaine dans un esprit artificiel ?

La majeure partie de la valeur générée par l'IA aujourd'hui revient aux entreprises d'un milliard de dollars qui disposent déjà d'une quantité fantastique de ressources, déclare Karen Hao, journaliste senior en IA du MIT Technology Review et auteur de L'algorithme . Et nous n'avons pas vraiment compris comment convertir cette valeur ou distribuer cette valeur à d'autres personnes.

Dans cet épisode de Deep Tech, Hao et Will Douglas Heaven, notre rédacteur en chef pour l'IA, rejoignent notre rédacteur en chef, Gideon Lichfield, pour discuter des différentes écoles de pensée sur la question de savoir si une intelligence artificielle générale est même possible, et ce qu'elle prendrait pour y arriver.



Découvrez plus d'épisodes de Deep Tech ici.

Afficher les notes et les liens :

Transcription complète de l'épisode :

Gédéon Lichfield : L'intelligence artificielle est maintenant si omniprésente que vous ne pensez probablement même pas au fait que vous l'utilisez. Vos recherches sur le Web. Google Traduction. Des assistants vocaux comme Alexa et Siri. Ces petits filtres mignons sur Snapchat et Instagram. Ce que vous voyez – et ne voyez pas – sur les réseaux sociaux. Alertes de fraude de votre compagnie de carte de crédit. Recommandations d'Amazon. Listes de lecture Spotify. Sens de circulation. Les prévisions météorologiques. Tout est IA, tout le temps.

Et c'est tout ce que nous pourrions appeler une IA stupide. Pas de véritable intelligence. De véritables machines à copier : des algorithmes qui ont appris à faire des choses vraiment spécifiques en étant entraînés sur des milliers ou des millions d'exemples corrects. Sur certaines de ces choses, comme la reconnaissance faciale et vocale, ils sont déjà encore plus précis que les humains.



Tous ces progrès ont relancé un vieux débat dans le domaine : peut-on créer courant l'intelligence, des machines capables de penser par elles-mêmes de manière indépendante ? Eh bien, avec moi aujourd'hui se trouvent l'équipe d'IA de MIT Technology Review : Will Heaven, notre rédacteur en chef pour l'IA, et Karen Hao, notre journaliste principale en IA et l'auteur de L'algorithme , notre newsletter IA. Ils ont tous deux suivi les progrès de l'IA et les différentes écoles de pensée quant à savoir si une intelligence artificielle générale est même possible et ce qu'il faudrait pour y arriver.

Je suis Gideon Lichfield, rédacteur en chef de MIT Technology Review, et voici Deep Tech.

Will, vous venez d'écrire une histoire de 4 000 mots sur la question de savoir si nous pouvons créer une intelligence artificielle générale. Donc tu devais avoir une raison de te faire ça. Pourquoi cette question est-elle intéressante en ce moment ?



Will Douglas Heaven : Donc, dans un sens, ça a toujours été intéressant. Construire une machine capable de penser et de faire des choses que les gens peuvent faire est l'objectif de l'IA depuis le tout début, mais cela a été un long, long combat. Et le battage médiatique passé a conduit à l'échec. Donc, cette idée d'intelligence artificielle générale est devenue, vous savez, très controversée et très controversée, mais elle revient en force. C'est en grande partie grâce au succès de l'apprentissage en profondeur au cours de la dernière décennie. Et en particulier des systèmes comme Alpha Zero qui a été fabriqué par DeepMind et peut jouer au Go et au Shogi, une sorte d'échecs japonais, et aux échecs. Le même algorithme peut jouer aux trois jeux. Et GPT-3, le grand modèle de langage d'OpenAI, qui peut étrangement imiter la façon dont les humains écrivent. Cela a incité les gens, surtout au cours de la dernière année, à intervenir et à poser à nouveau ces questions. Sommes-nous sur le point de construire une intelligence artificielle générale ? Des machines qui peuvent penser et faire des choses comme les humains.

Gédéon Lichfield : Karen, parlons un peu plus de GPT-3, dont Will vient de parler. C'est cet algorithme qui, vous savez, vous lui donnez quelques mots et il crachera des paragraphes et des paragraphes de ce qui ressemble de manière convaincante à Shakespeare ou à tout ce que vous lui direz de faire. Mais qu'y a-t-il de si remarquable du point de vue de l'IA ? Que fait-il qui ne pouvait pas être fait auparavant ?

Karen Hao : Ce qui est intéressant, c'est que je pense que les percées qui ont conduit au GPT-3 se sont en fait produites plusieurs années plus tôt. En 2017, la principale percée qui a déclenché une vague de progrès dans le traitement du langage naturel s'est produite avec la publication de l'article qui a introduit l'idée des transformateurs. Et la façon dont un algorithme de transformation traite le langage est qu'il examine des millions, voire des milliards d'exemples, de phrases de structure de paragraphe, peut-être même de structure de code. Et il peut extraire les modèles et commencer à prédire à un degré très impressionnant, quels mots ont le plus de sens ensemble, quelles phrases ont le plus de sens ensemble. Et puis donc construire ces très longs paragraphes et essais. Ce que je pense que GPT-3 a fait différemment, c'est le fait qu'il y a juste des ordres de grandeur de plus de données qui sont maintenant utilisées pour former cette technique de transformateur. Donc, ce qu'OpenAI a fait avec GPT-3, c'est qu'ils ne se contentent pas de l'entraîner sur plus d'exemples de mots de corpus comme Wikipedia ou d'articles comme le New York Times ou les forums Reddit ou toutes ces choses, ils l'entraînent également sur, modèles de phrase, il l'entraîne sur des modèles de paragraphe, en regardant ce qui a du sens comme paragraphe d'introduction par rapport à un paragraphe de conclusion. Donc, il obtient juste beaucoup plus d'informations et commence vraiment à imiter de très près la façon dont les humains écrivent, ou comment les partitions musicales sont composées, ou comment le codage est codé.

Donc, il obtient juste beaucoup plus d'informations et commence vraiment à imiter de très près la façon dont les humains écrivent, ou comment les partitions musicales sont composées, ou comment le codage est codé.

Gédéon Lichfield : Et avant les transformateurs, qui peuvent extraire des modèles de tous ces différents types de structures, que faisait l'IA ?

Karen Hao : Avant, le traitement du langage naturel était en fait... c'était beaucoup plus basique. Les transformateurs sont donc une sorte de technique auto-supervisée où l'algorithme n'est pas informé exactement de ce qu'il faut rechercher dans le langage. Il recherche simplement des modèles par lui-même et ce qu'il pense être les caractéristiques répétitives de la composition du langage. Mais avant cela, il y avait en fait beaucoup plus d'approches supervisées du langage et beaucoup plus d'approches codées en dur du langage où les gens enseignaient aux machines du genre 'ce sont des noms, ce sont des adjectifs'. C'est ainsi que vous construisez ces choses ensemble. Et malheureusement, c'est un processus très laborieux d'essayer d'organiser le langage de cette manière où chaque mot doit avoir une étiquette. Et la machine doit apprendre manuellement comment construire ces choses. Et donc cela limitait la quantité de données dont ces techniques pouvaient se nourrir. Et c'est pourquoi les systèmes linguistiques n'étaient vraiment pas très bons.

Gédéon Lichfield : Revenons donc à cette distinction entre apprentissage supervisé et auto-supervisé, parce que je pense qu'on va voir que c'est une partie assez importante des avancées vers quelque chose qui pourrait devenir une intelligence générale. Will, comme vous l'avez écrit dans votre article, il y a beaucoup d'ambiguïté sur ce que nous voulons dire quand nous parlons d'intelligence artificielle générale. Pouvez-vous nous parler un peu des options qui s'offrent à vous?

Will Douglas Heaven : Il y a une sorte de spectre. Je veux dire d'un côté, vous avez des systèmes qui, vous savez, peuvent faire beaucoup de choses que l'IA étroite ou l'IA stupide, si vous voulez, peuvent faire aujourd'hui, mais en quelque sorte tout à la fois. Et Alpha Zero en est peut-être le premier aperçu. Cet algorithme peut s'entraîner à faire trois choses différentes, mais attention importante, il ne peut pas se forcer à faire ces trois choses à la fois. Ce n'est donc pas comme un seul cerveau qui peut passer d'une tâche à l'autre. Comme Shane Legg, sur les co-fondateurs de Deepmind, c'est comme si vous ou moi devions, vous savez, quand nous avons commencé à jouer aux échecs, nous avons dû échanger notre cerveau et le mettre dans notre cerveau d'échecs.

Ce n'est clairement pas très général, mais nous sommes sur le point de ce genre de chose - votre genre d'IA multi-outils où une IA peut faire plusieurs choses différentes qu'une IA étroite peut déjà faire. Et puis en remontant le spectre, ce que plus de gens veulent probablement dire quand ils parlent d'AGI, c'est, vous savez, des machines pensantes, des machines qui ressemblent à des humains dans des citations effrayantes qui peuvent effectuer plusieurs tâches de la même manière qu'une personne. Vous savez que nous sommes extrêmement adaptables. Nous pouvons basculer entre, vous savez, faire frire un œuf à, vous savez, écrire un article de blog pour chanter, peu importe. Pourtant, il y a aussi des gens, allant droit à l'autre bout du spectre, qui s'attacheraient aussi à une conscience de machine pour parler d'AGI. Vous savez, nous n'allons pas avoir une véritable intelligence générale ou une intelligence de type humain tant que nous n'aurons pas une machine qui peut non seulement faire des choses que nous pouvons faire, mais qui sait qu'elle peut faire des choses que nous pouvons faire qui ont une sorte d'auto-réflexion là-dedans. Je pense que toutes ces définitions existent depuis le début, mais c'est l'une des choses qui rend l'AGI difficile à aborder et assez controversée car il n'y a pas de définition claire.

Gédéon Lichfield : Lorsque nous parlons d'intelligence artificielle générale, il y a cette sorte d'hypothèse implicite selon laquelle l'intelligence humaine elle-même est aussi absolument générale. C'est universel. Nous pouvons faire frire un œuf ou nous pouvons écrire un article de blog ou nous pouvons danser ou chanter. Et que tout cela sont des compétences que toute intelligence générale devrait avoir. Mais est-ce vraiment le cas ou y aura-t-il différents types d'intelligence générale ?

Will Douglas Heaven : Je pense, et je pense que de nombreux membres de la communauté de l'IA conviendraient également qu'il existe de nombreuses intelligences différentes. Nous sommes en quelque sorte bloqués sur cette idée d'intelligence de type humain en grande partie, je pense, parce que les humains ont longtemps été le meilleur exemple d'intelligence générale que nous ayons eu, donc il est évident qu'ils sont un modèle, vous savez , nous voulons construire des machines à notre image, mais il suffit de regarder autour du règne animal et il existe de très nombreuses façons d'être intelligent. Du genre d'intelligence sociale que les fourmis ont, où elles pourraient collectivement faire des choses vraiment remarquables aux pieuvres, dont nous commençons à peine à comprendre la façon dont elles sont intelligentes, mais elles sont ensuite intelligentes d'une manière très étrangère par rapport à nous-mêmes. Et même nos cousins ​​les plus proches comme les chimpanzés ont des intelligences, qui sont différentes de, et vous moi, ils ont des compétences différentes de celles des humains.

Je pense donc que l'idée que les machines, si elles deviennent généralement intelligentes, doivent être comme nous, est, comme vous le savez, un non-sens, est en train de disparaître. La mission même de construire une AGI humaine est peut-être inutile car nous avons des intelligences humaines, n'est-ce pas ? Nous avons nous-mêmes. Alors pourquoi avons-nous besoin de fabriquer des machines qui font ces choses ? Ce serait bien, bien mieux de construire des intelligences capables de faire des choses que nous ne pouvons pas faire. Ils sont intelligents de différentes manières pour compléter nos capacités.

Gédéon Lichfield : Karen, les gens adorent évidemment parler de la menace d'une IA super intelligente prenant le contrôle du monde, mais quelles sont les choses dont nous devrions vraiment nous inquiéter ?

Karen Hao : L'un des plus importants de ces dernières années a été la discrimination algorithmique. Ce phénomène que nous avons commencé à remarquer où, lorsque nous formons des algorithmes, petits ou grands, pour prendre des décisions basées sur des données historiques, cela finit par reproduire les modèles que nous ne voudrions pas nécessairement qu'ils reproduisent dans les données historiques, comme la marginalisation des personnes de couleur ou la marginalisation des femmes.

Des choses de notre histoire dont nous préférerions nous passer, alors que nous avançons et progressons en tant que société. Mais à cause de la façon dont les algorithmes ne sont pas très intelligents et ils extraient ces modèles et les reproduisent sans réfléchir, ils finissent par prendre des décisions qui discriminent les personnes de couleur, discriminent les femmes, discriminent les cultures particulières qui ne sont pas des cultures centrées sur l'Occident.

Et si vous observez les conversations qui se déroulent entre les personnes qui parlent de certaines des façons dont nous devons penser à atténuer les menaces autour de la superintelligence ou autour de l'IAG, comme vous voulez l'appeler, elles parleront de ce défi de l'alignement des valeurs. L'alignement des valeurs étant défini comme la manière dont nous amenons cette IA super intelligente à comprendre nos valeurs et à nous aligner sur nos valeurs. S'ils ne correspondent pas à nos valeurs, ils pourraient faire quelque chose de fou. Et c'est comme ça que ça commence à faire du mal aux gens.

Gédéon Lichfield : Comment créer une IA, une IA super intelligente, qui ne soit pas diabolique ?

Karen Hao : Exactement. Exactement. Ainsi, au lieu de parler à l'avenir d'essayer de comprendre l'alignement des valeurs dans cent ans, nous devrions parler maintenant de la façon dont nous n'avons pas réussi à aligner les valeurs avec des IA très basiques aujourd'hui et à résoudre réellement le problème de discrimination algorithmique.

Un autre énorme défi est la concentration de pouvoir que, euh, l'IA crée naturellement. Vous avez besoin d'une quantité incroyable de puissance de calcul aujourd'hui pour créer des systèmes d'IA avancés et briser l'état de l'art. Et les seuls acteurs qui ont vraiment cette puissance de calcul sont maintenant les grandes entreprises technologiques et peut-être les universités de recherche de premier plan. Et même les universités de recherche de premier plan peuvent à peine rivaliser avec les grandes entreprises technologiques.

Ainsi, les pommes de Facebook Googles du monde. Euh, une autre préoccupation que les gens ont, dans cent ans à partir de maintenant, c'est une fois que l'IA super-intelligente sera libérée, est-ce que cela va réellement profiter aux gens de manière égale ? Eh bien, nous n'avons pas compris cela aujourd'hui non plus. Comme la plupart de la valeur générée par l'IA aujourd'hui revient aux entreprises d'un milliard de dollars qui ont déjà une quantité fantastique de ressources à leur disposition. Et nous n'avons pas vraiment compris comment convertir cette valeur ou distribuer cette valeur à d'autres personnes.

Gédéon Lichfield : Bon, revenons à cette idée d'intelligence générale et comment nous la construirions si nous le pouvions. Will a mentionné l'apprentissage en profondeur plus tôt. C'est la technique fondamentale de la plupart des IA que nous utilisons aujourd'hui. Et il n'a que huit ans environ. Karen, vous avez parlé essentiellement au père de l'apprentissage en profondeur Geoffrey Hinton lors de notre conférence EmTech récemment. Et il pense que l'apprentissage en profondeur, la technique que nous utilisons pour des choses comme les services de traduction ou la reconnaissance faciale, va également être la base d'une intelligence générale quand nous y arriverons finalement.

Geoffrey Hinton [De EmTech 2020] : Je crois que l'apprentissage en profondeur va pouvoir tout faire. Mais je pense qu'il va y avoir pas mal de percées conceptuelles que nous n'avons pas encore eues. // Particulièrement des percées liées à la façon dont vous obtenez de grands vecteurs d'activité neuronale pour mettre en œuvre des choses comme le raisonnement, mais nous avons également besoin d'une augmentation massive de l'échelle. // Le cerveau humain a environ cent billions de paramètres, c'est-à-dire la synapsis. Cent mille milliards. Ce qu'on appelle maintenant de très gros modèles comme le GPT-3 en compte 175 milliards. Il est des milliers de fois plus petit que le cerveau.

Gédéon Lichfield : Pouvez-vous commencer par expliquer ce qu'est l'apprentissage en profondeur ?

Karen Hao : L'apprentissage en profondeur est une catégorie de techniques fondée sur cette idée que la façon de créer une intelligence artificielle est de créer des réseaux de neurones artificiels basés sur les réseaux de neurones de notre cerveau. Le cerveau humain est la forme d'intelligence la plus intelligente que nous ayons aujourd'hui.

Évidemment, Will a déjà parlé de certains défis à cette théorie, mais en supposant que l'intelligence humaine est un peu comme l'incarnation de l'intelligence que nous avons aujourd'hui, nous voulons essayer de recréer des cerveaux artificiels à l'image d'un cerveau humain. Et l'apprentissage en profondeur, c'est ça. Est une technique qui essaie d'utiliser les réseaux de neurones artificiels comme moyen d'atteindre l'intelligence artificielle.

Ce à quoi vous faisiez référence, c'est qu'il y a en grande partie deux camps différents dans le domaine quant à la manière dont nous pourrions aborder la construction de l'intelligence générale artificielle. Le premier camp étant que nous avons déjà toutes les techniques dont nous avons besoin, nous avons juste besoin de les mettre à l'échelle massivement avec plus de données et des réseaux de neurones plus grands.

L'autre camp est que l'apprentissage en profondeur ne suffit pas. Nous avons besoin de quelque chose d'autre que nous n'avons pas encore compris pour compléter l'apprentissage en profondeur afin d'atteindre certaines des choses comme le bon sens ou le raisonnement qui ont été en quelque sorte insaisissables dans le domaine de l'IA aujourd'hui.

Gédéon Lichfield : Alors Will, comme Karen l'a mentionné tout à l'heure, les gens qui pensent que nous pouvons construire une intelligence générale à partir de l'apprentissage en profondeur pensent que nous devons y ajouter certaines choses. Quelles sont certaines de ces choses?

Will Douglas Heaven : Parmi ceux qui pensent que l'apprentissage en profondeur est, c'est la voie à suivre. Je veux dire, en plus de charger plus de données, comme l'a dit Karen, il existe un tas de techniques que les gens utilisent pour faire avancer l'apprentissage en profondeur.

Vous avez un apprentissage non supervisé, qui est traditionnellement de nombreux succès d'apprentissage en profondeur, comme la reconnaissance d'images, simplement pour utiliser l'exemple cliché de la reconnaissance des chats. C'est parce que l'IA a été formée sur des millions d'images qui ont été étiquetées par des humains avec un chat. Vous savez, voici à quoi ressemble un chat, apprenez-le. L'apprentissage non supervisé se produit lorsque la machine entre et examine des données qui n'ont pas été étiquetées de cette manière et essaie elle-même de repérer des modèles.

Gédéon Lichfield : Donc, en d'autres termes, vous lui donneriez comme une bande de chats, une bande de chiens, une bande de tartes aux noix de pécan, et il les classerait en groupes ?

Will Douglas Heaven : Ouais. Il doit essentiellement d'abord apprendre quels sont les types de caractéristiques distinctives entre ces catégories plutôt que d'être invité. Et cette capacité à s'identifier, vous savez, quelles sont ces caractéristiques distinctives, est un pas vers une meilleure façon d'apprendre. Et c'est pratiquement utile car bien sûr la tâche d'étiqueter toutes ces données est énorme.

Et nous ne pouvons pas continuer dans cette voie, surtout si nous voulons que le système s'entraîne sur de plus en plus de données. Nous ne pouvons pas continuer sur la voie d'un étiquetage manuel. Et encore plus intéressant, je pense qu'un système d'apprentissage non supervisé a le potentiel de repérer vos catégories que les humains n'ont pas. Nous pourrions donc apprendre quelque chose de la machine.

Et puis vous avez des choses comme l'apprentissage par transfert, et c'est crucial pour l'intelligence générale. C'est là que vous avez un modèle qui a été formé sur un ensemble de données d'une manière ou d'une autre. Et ce qui a été appris dans cette formation, vous voulez pouvoir ensuite le transférer dans une nouvelle tâche afin de ne pas avoir à recommencer à zéro à chaque fois.

Il existe donc différentes façons d'aborder l'apprentissage par transfert, mais par exemple, vous pouvez prendre certaines des, certaines des valeurs d'une formation, d'un réseau de trains et en précharger un autre de manière à ce que, lorsque vous lui demandez de reconnaître , une image d'un animal différent, il a déjà une idée de, vous savez, ce que les animaux ont, vous savez, des pattes, des têtes et des queues.

Qu'avez vous. Donc, vous voulez juste pouvoir transférer certaines des choses apprises d'une tâche à une autre. Et puis il y a des choses comme l'apprentissage de quelques coups, où le système apprend ou, comme son nom l'indique, à partir de très peu d'exemples de formation. Et cela va également être crucial car nous n'avons pas toujours beaucoup de données à envoyer à ces systèmes pour les enseigner.

Je veux dire qu'ils sont extrêmement inefficaces quand on y pense par rapport aux humains. Vous savez, nous pouvons tirer une leçon de, vous savez, un exemple, deux exemples. Vous montrez à un enfant une photo de girafe et il sait ce qu'est une girafe. Nous pouvons même apprendre ce qu'est quelque chose sans donner d'exemple.

Karen Hao : Ouais. Ouais. Si vous y réfléchissez, les enfants… si vous leur montrez une photo d'un cheval, puis vous leur montrez une photo d'un rhinocéros et que vous dites, vous savez, une licorne est quelque chose entre un cheval et un rhinocéros, peut-être qu'ils le feront en fait, quand ils voient pour la première fois une licorne dans un livre d'images, sachez que c'est une licorne. Et c'est ainsi que vous commencez à apprendre plus de catégories que d'exemples que vous voyez, et c'est une source d'inspiration pour une autre frontière de l'apprentissage en profondeur appelée apprentissage à faible tir ou apprentissage à moins d'un coup. Et encore une fois, c'est le même principe que l'apprentissage en quelques coups où si nous sommes capables de faire en sorte que ces systèmes apprennent à partir de très, très, très petits échantillons de données, de la même manière que les humains le font, alors cela peut vraiment booster le processus d'apprentissage.

Gédéon Lichfield : Pour moi, cela soulève une question encore plus générale; c'est ce qui rend les gens dans le domaine de l'IAG si sûrs que vous pouvez produire de l'intelligence dans une machine qui représente l'information numériquement, sous la forme de uns et de zéros, alors que nous en savons encore si peu sur la façon dont le cerveau humain représente l'information. N'est-ce pas une très grande hypothèse que nous pouvons simplement recréer l'intelligence humaine dans une machine numérique ?

Will Douglas Heaven : Oui je suis d'accord. Malgré l'énorme complexité de certains des réseaux de neurones que nous voyons aujourd'hui en termes de taille et de leurs connexions, nous sommes à des ordres de grandeur loin de tout ce qui correspond à l'échelle d'un cerveau, même une sorte de cerveau animal plutôt basique . Alors oui, il y a un gouffre énorme entre cette idée que nous allons pouvoir le faire, en particulier avec la technologie actuelle, la technologie actuelle d'apprentissage en profondeur.

Et bien sûr, même si, comme Karen l'a décrit plus tôt, les réseaux de neurones sont inspirés par le cerveau, les neurones neurones de notre cerveau. Ce n'est qu'une façon de voir le cerveau. Je veux dire, les cerveaux ne sont pas que des amas de neurones. Ils ont des sections discrètes qui sont dédiées à différentes tâches.

Donc, encore une fois, cette idée qu'un seul très grand réseau de neurones va atteindre l'intelligence générale est encore un peu un acte de foi, car peut-être que l'intelligence générale nécessitera une percée dans la façon dont les structures dédiées communiquent. Il y a donc un autre fossé entre vous savez ceux qui poursuivent cet objectif.

Vous savez, certains pensent que vous pouvez simplement augmenter les réseaux de neurones. D'autres pensent que nous devons prendre du recul par rapport aux spécificités de tout algorithme d'apprentissage en profondeur individuel et regarder la situation dans son ensemble. En fait, vous savez, peut-être que les réseaux de neurones ne sont pas le meilleur modèle du cerveau et nous pouvons en construire de meilleurs, qui examinent comment différentes parties du cerveau communiquent avec, vous savez, le, le, la somme est supérieure à l'ensemble .

Gédéon Lichfield : Je veux terminer par une question philosophique. Nous avons dit plus tôt que même les partisans de l'AGI ne pensent pas que ce sera conscient. Pourrions-nous même dire s'il aura des pensées ? Comprendra-t-il sa propre existence dans le sens que nous comprenons ?

Will Douglas Heaven : Dans l'article d'Alan Turing de 1950 Can Machines Think, qui même, vous savez, à l'époque où l'IA n'était encore qu'une idée théorique, nous ne l'avons même pas abordée comme une sorte de possibilité d'ingénierie. Il a soulevé cette question : comment savoir si une machine peut penser ? Et dans cet article, il aborde, vous savez, cette, cette idée de conscience. Peut-être que certaines personnes viendront dire que les machines ne peuvent jamais penser parce que nous ne pourrons jamais dire que les machines peuvent penser parce que nous ne pourrons jamais dire qu'elles sont conscientes. Et il rejette en quelque sorte cela en disant, eh bien, si vous poussez cet argument si loin, alors vous devez dire la même chose. Eh bien, les humains que vous rencontrez tous les jours, il n'y a pas de moyen ultime pour dire que l'un d'entre vous n'est pas conscient. Tu sais, la seule façon dont je le saurais, c'est si je faisais l'expérience d'être toi. Et vous arrivez au point où la communication s'effondre et c'est une sorte d'endroit où nous ne pouvons pas aller. C'est donc une façon de rejeter cette question. Je veux dire, je pense que la question de la conscience sera là pour toujours. Un jour, je pense que nous aurons des machines, qui agiront comme si elles étaient... elles pourraient penser et vous savez, pourraient si bien imiter les humains, que nous pourrions aussi bien les traiter comme si elles étaient conscientes, mais quant à savoir si elles sont réellement sont, je ne pense pas que nous le saurons jamais.

Gédéon Lichfield : Karen, que penses-tu des machines conscientes ?

Karen Hao : Je veux dire, en partant de ce que Will a dit, c'est comme, savons-nous même ce qu'est la conscience. Et je suppose que je m'inspirerais du travail d'un professeur de Tufts en fait. Il aborde l'intelligence artificielle du point de vue de la vie artificielle. Comme comment reproduisez-vous toutes les différentes choses?

Pas seulement le cerveau, mais aussi les impulsions électriques ou les signaux électriques que nous utilisons dans le corps pour communiquer et qui ont aussi une intelligence. Si nous sommes fondamentalement capables de recréer chaque petite chose, chaque petit processus dans notre corps ou dans le corps d'un animal éventuellement, alors pourquoi ces êtres n'auraient-ils pas la même conscience que nous ?

Will Douglas Heaven : Vous savez qu'il y a un merveilleux débat en cours en ce moment sur les organoïdes cérébraux, qui sont de petits amas de cellules souches qui sont faites pour se transformer en neurones et elles peuvent même développer des connexions et vous voyez dans certains d'entre eux cette activité électrique. Et il existe divers laboratoires dans le monde qui étudient ces petites gouttes de cerveau pour mieux comprendre les maladies du cerveau humain. Mais il y a un débat éthique vraiment intéressant sur, vous savez, à quel moment cette activité électrique augmente-t-elle ? La possibilité que ces petits plops dans les boîtes de Petri soient conscients. Et cela montre que nous n'avons pas de bonne définition de la conscience, même pour nos propres cerveaux, sans parler des machines.

Karen Hao : Et je veux ajouter que nous n'avons pas non plus vraiment une bonne définition de l'artificiel. Donc cela ne fait qu'ajouter, je veux dire, si nous parlons d'intelligence artificielle, générale.

Nous n'avons pas de bonne définition de l'un de ces trois mots qui composent ce terme. Donc, aller au point que Will a fait à propos de ces organoïdes qui poussaient dans des boîtes de Pétri est-ce considéré comme artificiel ? Si non, pourquoi ? Définissons-nous l'artificiel comme des choses qui ne sont tout simplement pas faites de matière organique ? Il y a juste beaucoup d'ambiguïté et de définitions autour de toutes les choses dont nous parlons, ce qui rend la question de la conscience très compliquée.

Will Douglas Heaven : Cela en fait aussi des choses amusantes dont il faut parler.

Gédéon Lichfield : C'est tout pour cet épisode de Deep Tech. Et c'est aussi le dernier épisode que nous faisons pour le moment. Nous travaillons sur d'autres projets audio que nous espérons lancer dans les mois à venir. Alors s'il vous plaît gardez un œil sur eux. Et si vous ne l'avez pas déjà fait, vous devriez consulter notre podcast sur l'IA intitulé In Machines We Trust, qui sort toutes les deux semaines. Vous pouvez le trouver partout où vous écoutez normalement des podcasts.

Deep Tech est écrit et produit par Anthony Green et édité par Jennifer Strong et Michael Reilly. Je suis Gédéon Lichfield. Merci pour l'écoute.

cacher