Les neurosciences ne peuvent pas expliquer le fonctionnement d'un Atari

Lorsque vous appliquez des outils utilisés pour analyser le cerveau humain à une puce informatique qui joue à Donkey Kong, peuvent-ils révéler le fonctionnement du matériel ?

De nombreux programmes de recherche, tels que l'initiative BRAIN du gouvernement américain, cherchent à créer des ensembles de données énormes et détaillés qui décrivent comment les cellules et les circuits neuronaux sont assemblés. L'espoir est que l'utilisation d'algorithmes pour analyser les données aidera les scientifiques à comprendre le fonctionnement du cerveau.

Mais ce type d'ensembles de données n'existe pas encore. Alors Eric Jonas de l'Université de Californie à Berkeley et Konrad Kording de l'Institut de réadaptation de Chicago et de l'Université Northwestern se sont demandé s'ils pouvaient utiliser leur logiciel d'analyse pour comprendre comment un système plus simple fonctionnait.

Ils se sont installés sur la puce emblématique MOS 6502, qui a été trouvée à l'intérieur de l'Apple I, du Commodore 64 et du système de jeu vidéo Atari. Contrairement au cerveau, cette plaque de silicium est construite par les humains et parfaitement comprise, jusqu'au dernier transistor.

Les chercheurs voulaient voir avec quelle précision leur logiciel pouvait décrire son activité. Leur idée : faire exécuter différents jeux à la puce, dont Donkey Kong, Space Invaders et Pitfall, qui ont déjà été maîtrisés par certaines IA, et capturer le comportement de chaque transistor au fur et à mesure (créant environ 1,5 Go par seconde de données Dans le processus). Ensuite, ils lâcheraient leurs outils d'analyse sur les données pour voir s'ils pouvaient expliquer comment la puce fonctionne réellement.

Par exemple, ils ont utilisé des algorithmes capables de sonder la structure de la puce - essentiellement l'équivalent électronique d'un connectome du cerveau - pour établir la fonction de chaque zone. Bien que l'analyse puisse déterminer que différents transistors jouaient des rôles différents, les chercheurs écrivent dans Biologie computationnelle PLOS, les résultats ne permettent toujours pas de comprendre le fonctionnement réel du processeur.

Ailleurs, Jonas et Kording ont retiré un transistor de la puce pour découvrir ce qui est arrivé au jeu en cours d'exécution, analogue aux soi-disant études sur les lésions où le comportement est comparé avant et après le retrait d'une partie du cerveau. Bien que le retrait de certains transistors ait empêché le jeu de fonctionner, l'analyse n'a pas été en mesure d'expliquer pourquoi c'était le cas.

Dans ces analyses et d'autres, les approches ont fourni des résultats intéressants, mais pas assez de détails pour décrire avec confiance le fonctionnement de la micropuce. Alors que certains des résultats donnent des indices intéressants sur ce qui pourrait se passer, explique Jonas, le fossé entre ce qui constitue une « compréhension réelle » du processeur et ce que nous pouvons découvrir avec ces techniques était surprenant.

Il convient de noter que les puces et les cerveaux sont assez différents : les synapses fonctionnent différemment des portes logiques, par exemple, et le cerveau ne fait pas la distinction entre le logiciel et le matériel comme un ordinateur. Pourtant, selon les chercheurs, les résultats mettent en évidence certaines considérations pour établir la compréhension du cerveau à partir d'énormes ensembles de données détaillées.

Premièrement, le simple fait d'accumuler une poignée d'ensembles de données de haute qualité sur le cerveau peut ne pas nous suffire pour donner un sens aux processus neuronaux. Deuxièmement, sans beaucoup d'ensembles de données détaillés à analyser pour l'instant, les neuroscientifiques doivent rester conscients que leurs outils peuvent fournir des résultats qui ne décrivent pas complètement la fonction cérébrale.

Quant à la question de savoir si les neurosciences peuvent expliquer le fonctionnement d'un Atari ? Pour le moment, pas vraiment.

(Lire la suite : L'intelligence artificielle de Google maîtrise les envahisseurs de l'espace (mais ça pue toujours chez Pac-Man), le gouvernement cherche une interface 'cerveau-ordinateur' haute fidélité)

cacher