211service.com
Comment savoir si l'intelligence artificielle est sur le point de détruire la civilisation
illustration de canaris mécaniques Mme Tech
Pourrions-nous nous réveiller un matin stupéfaits qu'une IA surpuissante ait émergé, avec des conséquences désastreuses ? Des livres comme Superintelligence par Nick Bostrom et La vie 3.0 par Max Tegmark, ainsi que articles plus récents , soutiennent que la superintelligence malveillante est un risque existentiel pour l'humanité.
Mais on peut spéculer à l'infini. Il vaut mieux poser une question plus concrète et empirique : qu'est-ce qui nous alerterait que la superintelligence est en effet au coin de la rue ?
Nous pourrions appeler de tels précurseurs des canaris dans les mines de charbon d'AI. Si un programme d'intelligence artificielle développe une nouvelle capacité fondamentale, c'est l'équivalent d'un canari qui s'effondre : un avertissement précoce des percées de l'IA à l'horizon.
Le fameux test de Turing pourrait-il servir de canari ? Le test, inventé par Alan Turing en 1950, postule que l'IA au niveau humain sera atteinte lorsqu'une personne ne peut pas distinguer une conversation avec un humain d'une conversation avec un ordinateur. C'est un test important, mais ce n'est pas un canari; c'est plutôt le signe que l'IA au niveau humain est déjà arrivée. De nombreux informaticiens pensent que si ce moment arrive, la superintelligence suivra rapidement. Nous avons besoin de plus d'étapes intermédiaires.
Les performances de l'IA dans des jeux tels que Aller , poker ou Tremblement de terre 3 , un canari ? Ce n'est pas. La majeure partie de la soi-disant intelligence artificielle dans ces jeux est en fait Humain travailler pour encadrer le problème et concevoir la solution. La victoire d'AlphaGo sur les champions humains de Go était à mettre au crédit de la talentueuse équipe humaine de DeepMind, et non de la machine, qui utilisait simplement l'algorithme que les gens avaient créé. Cela explique pourquoi il faut des années de travail acharné pour traduire le succès de l'IA d'un défi étroit à l'autre. Même AlphaZero, qui a appris à jouer au go de classe mondiale en quelques heures, n'a pas considérablement élargi sa portée depuis 2017. Des méthodes telles que l'apprentissage en profondeur sont générales, mais leur application réussie à une tâche particulière nécessite une intervention humaine importante.
Plus largement, l'apprentissage automatique est au cœur des succès de l'IA au cours de la dernière décennie. Pourtant, le terme apprentissage automatique est un abus de langage. Les machines ne possèdent qu'une petite partie des capacités d'apprentissage riches et polyvalentes des humains. Dire que les machines apprennent revient à dire que les bébés pingouins savent pêcher. La réalité est que les manchots adultes nagent, capturent poisson , le digérer, le régurgiter dans leur bec et mettre des morceaux dans la bouche de leurs enfants. L'IA est également alimentée à la cuillère par des scientifiques et des ingénieurs humains.
Contrairement à l'apprentissage automatique, l'apprentissage humain associe une motivation personnelle (je veux conduire pour être indépendant de mes parents) à un plan d'apprentissage stratégique (prendre une formation de conducteur et s'entraîner le week-end). Un humain formule des objectifs d'apprentissage spécifiques (Améliorez-vous au stationnement en parallèle), collecte et étiquette des données (L'angle était erroné cette fois) et intègre des commentaires externes et des connaissances de base (L'instructeur a expliqué comment utiliser les rétroviseurs latéraux). Les humains identifient, encadrent et façonnent les problèmes d'apprentissage. Aucune de ces capacités humaines n'est même reproduite à distance par des machines. Les machines peuvent effectuer des calculs statistiques surhumains, mais ce n'est que le dernier kilomètre de l'apprentissage.
Les machines peuvent effectuer des calculs statistiques surhumains, mais ce n'est que le dernier kilomètre de l'apprentissage.
La formulation automatique des problèmes d'apprentissage est donc notre premier canari. Il ne semble pas être près de mourir.
Les voitures autonomes sont un deuxième canari. Ils sont plus loin dans le futur que prévu par des boosters comme Elon Musk . L'IA peut échouer de manière catastrophique dans des situations atypiques, comme lorsqu'une personne en fauteuil roulant traverse la rue. La conduite est beaucoup plus difficile que les tâches d'IA précédentes, car elle nécessite de prendre des décisions vitales en temps réel basées à la fois sur le monde physique imprévisible et sur l'interaction avec les conducteurs humains, les piétons et les autres. Bien sûr, nous devrions déployer des voitures autonomes limitées une fois qu'elles auront réduit les taux d'accidents, mais ce n'est que lorsque la conduite au niveau humain sera atteinte que l'on pourra dire que ce canari s'est effondré.
Les médecins de l'IA sont un troisième canari. L'IA peut déjà analyser des images médicales avec une précision surhumaine, mais ce n'est qu'une petite partie du travail d'un médecin humain. Un médecin spécialisé en intelligence artificielle devrait interroger des patients, envisager des complications, consulter d'autres médecins, etc. Ce sont des tâches difficiles qui nécessitent de comprendre les gens, le langage et la médecine. Un tel médecin n'aurait pas à tromper un patient en lui faisant croire qu'il est humain - c'est pourquoi c'est différent du test de Turing. Mais il devrait se rapprocher des capacités des médecins humains dans un large éventail de tâches et de circonstances imprévues.
Et bien que le test de Turing lui-même ne soit pas un bon canari, des versions limitées du test pourraient servir de canaris. Les IA existantes sont incapables de comprendre les gens et leurs motivations, ou même des questions physiques de base comme Un gros porteur passera-t-il par une fenêtre ? Nous pouvons administrer un test de Turing partiel en conversant avec une IA comme Alexa ou Google Home pendant quelques minutes, ce qui expose rapidement leur compréhension limitée du langage et du monde. Prenons un exemple très simple basé sur les schémas de Winograd proposés par l'informaticien Hector Levesque. J'ai dit à Alexa : Mon trophée ne rentre pas dans mon bagage car il est trop grand. Que devrais-je faire? La réponse d'Alexa était que je ne connaissais pas celle-là. Comme Alexa ne peut pas raisonner sur la taille des objets, elle ne peut pas décider s'il s'agit du trophée ou du bagage à main. Lorsque l'IA ne peut pas en comprendre le sens, il est difficile de croire qu'elle est sur le point de conquérir le monde. Si Alexa était capable d'avoir un dialogue de fond sur un sujet riche, ce serait un quatrième canari.
Les IA actuelles sont des savants idiots : elles réussissent sur des tâches étroites, comme jouer au Go ou catégoriser des images IRM, mais manquent de la généralité et de la polyvalence des humains. Chaque savant idiot est construit manuellement et séparément, et nous sommes à des décennies des capacités polyvalentes d'un enfant de cinq ans. Les canaris que je propose, en revanche, indiquent des points d'inflexion pour le domaine de l'IA.
Photo de courtoisie d'Oren Etzioni
Certains théoriciens, comme Bostrom, soutiennent que nous devons néanmoins planifier des événements à très faible probabilité mais à conséquences élevées comme s'ils étaient inévitables. Les conséquences, disent-ils, sont si profondes que nos estimations de leur probabilité ne sont pas importantes. C'est un argument stupide : il peut être utilisé pour justifier à peu près n'importe quoi. C'est une version moderne de l'argument du philosophe du XVIIe siècle Blaise Pascal selon lequel il vaut la peine d'agir comme si un Dieu chrétien existait, sinon vous risquez un enfer éternel. Il a utilisé le coût infini d'une erreur pour soutenir qu'un plan d'action particulier est rationnel même s'il est basé sur une prémisse hautement improbable. Mais des arguments fondés sur des coûts infinis peuvent étayer des croyances contradictoires. Par exemple, considérez un Dieu antichrétien qui promet un enfer éternel pour chaque acte chrétien. C'est également hautement improbable; mais d'un point de vue logique, c'est un pari tout aussi raisonnable que de croire au dieu de la Bible. Cette contradiction montre une faille dans les arguments basés sur des coûts infinis.
Mon catalogue de signaux d'alerte précoce, ou canaris, est illustratif plutôt qu'exhaustif, mais il montre à quel point nous sommes loin de l'IA au niveau humain. Si et quand un canari s'effondre, nous aurons amplement le temps avant l'émergence de l'IA au niveau humain pour concevoir des interrupteurs robustes et identifier les lignes rouges que nous ne voulons pas que l'IA franchisse. L'eschatologie de l'IA sans canaris empiriques est une distraction par rapport aux problèmes existants tels que la façon de réglementer l'impact de l'IA sur l'emploi ou de s'assurer que son utilisation dans les condamnations pénales ou la notation de crédit ne discrimine pas certains groupes.
Comme l'a dit Andrew Ng, l'un des experts les plus éminents au monde en matière d'IA, S'inquiéter que l'IA devienne le mal, c'est un peu comme s'inquiéter de la surpopulation sur Mars. Jusqu'à ce que les canaris commencent à mourir, il a tout à fait raison.
Oren Etzioni est le PDG de l'Allen Institute for AI à but non lucratif et professeur d'informatique à l'Université de Washington.