211service.com
Les subventions apocalyptiques feront progresser d'importantes recherches sur l'IA
Même si vous ne craignez pas la montée imminente des machines super-intelligentes, il y a des raisons d'encourager de nouveaux financements pour la recherche sur le sujet, car cela pourrait aider à rendre l'intelligence artificielle plus pratique à court terme.
Les progrès récents de l'informatique, en particulier de l'apprentissage automatique, ont coïncidé avec des spéculations remarquablement franches sur la direction que pourrait prendre l'intelligence artificielle. L'année dernière, l'entrepreneur milliardaire Elon Musk a ouvertement averti que la recherche sur l'IA risquait d'invoquer le démon et pourrait constituer la plus grande menace existentielle pour l'humanité. D'autres personnalités, dont Bill Gates et Stephen Hawking, ont également exprimé leur inquiétude quant aux risques potentiels liés au développement de machines véritablement intelligentes.
le Institut du futur de la vie , une organisation fondée à Cambridge, Massachusetts, pour atténuer les risques existentiels potentiels posés par l'IA, cette semaine annoncé 7 millions de dollars de subventions pour des projets dédiés à maintenir l'IA robuste et bénéfique. La subvention a été financée en grande partie par Musk, qui a donné 10 millions de dollars à l'institut.
Il est peut-être logique d'envisager de tels résultats indésirables, mais nous sommes encore loin de créer quelque chose que nous pourrions considérer comme véritablement intelligent. Alors que certains des 37 projets financés par le Future of Life Institute explorent des scénarios assez lointains impliquant une IA extrêmement puissante, d'autres abordent des efforts importants pour rendre les logiciels plus fiables, responsables et utiles dans des contextes complexes ou ambigus.
Par example:
* Fuxin Li , chercheur à Georgia Tech, étudiera les moyens de comprendre et de prédire les erreurs dans les systèmes d'apprentissage en profondeur. C'est un effort très valable. Bien que ces réseaux de neurones avancés aient produit des résultats spectaculaires ces dernières années dans des domaines tels que la reconnaissance d'images et de voix, ils peuvent échouer de manière surprenante.
* Stefano Ermon , professeur adjoint à l'Université de Stanford, étudiera les moyens de faire en sorte que des agents autonomes se comportent de manière rationnelle dans des situations complexes. À terme, cela pourrait, par exemple, aider une voiture automatisée à peser les risques posés par différentes actions dans une situation complexe, lui permettant finalement d'agir d'une manière que nous trouverions plus responsable et éthiquement acceptable.
* Troupeau de Seth , chercheur à l'Université du Colorado, cherchera à appliquer la recherche en neurosciences sur la prise de décision humaine aux efforts visant à construire du matériel informatique avec des systèmes dits neuromorphiques, inspirés du cerveau. Cela pourrait donner des informations importantes sur la conception de ces systèmes et pointer vers de nouvelles applications.
* Manuela Veloso , professeur à l'Université Carnegie Mellon, mènera un effort pour développer des moyens permettant aux machines d'expliquer leur comportement aux humains. Il peut être difficile, même pour les experts, de comprendre pourquoi une machine se comporte de manière inattendue. L'amélioration de cette situation pourrait être particulièrement importante à mesure que les robots commencent à travailler plus étroitement aux côtés des humains.
Ironiquement, ces projets de recherche montrent également à quel point nous sommes loin de construire quelque chose qui pourrait conquérir le monde. Et même s'il est peut-être logique d'envisager les risques futurs tant qu'il reste encore beaucoup de temps, espérons que l'anxiété suscitée par des scénarios futuristes ne constitue pas un risque pour des progrès technologiques significatifs.