Les enfants sont entourés d'IA. Ils doivent savoir comment ça marche.

Étudiant au tableau blanc rempli de post-it Avec l'aimable autorisation du MIT Media Lab

Un étudiant récapitule comment il décrirait l'intelligence artificielle à un ami : c'est un peu comme un bébé ou un cerveau humain parce qu'il doit apprendre, dit-il dans une vidéo, et il stocke [...] et utilise ces informations pour comprendre les choses en dehors.

La plupart des adultes auraient du mal à élaborer une définition aussi convaincante d'un sujet complexe. Cet élève n'avait que 10 ans.

L'élève était l'un des 28 collégiens, âgés de 9 à 14 ans, qui ont participé cet été à un programme pilote conçu pour leur enseigner l'IA. Le programme, développé par Blakeley Payne, assistant de recherche diplômé au MIT Media Lab, fait partie d'une initiative plus large visant à faire de ces concepts une partie intégrante des salles de classe du collège. Elle a depuis open-source du programme , qui comprend plusieurs activités interactives qui aident les élèves à découvrir comment les algorithmes sont développés et comment ces processus affectent la vie des gens.

Aujourd'hui, les enfants grandissent dans un monde entouré d'intelligence artificielle : des algorithmes déterminent les informations qu'ils voient, aident à sélectionner les vidéos qu'ils regardent et façonnent leur façon d'apprendre à parler . L'espoir est qu'en comprenant mieux comment les algorithmes sont créés et comment ils influencent la société, les enfants pourraient devenir des consommateurs plus critiques de cette technologie. Cela pourrait même les motiver à contribuer à façonner son avenir.

Il est essentiel pour eux de comprendre le fonctionnement de ces technologies afin de pouvoir les utiliser et les utiliser au mieux, déclare Payne. Nous voulons qu'ils se sentent responsabilisés.

Les élèves imaginent comment ils remanieraient YouTube. Avec l'aimable autorisation du MIT Media Lab

Pourquoi les enfants ?

Il y a plusieurs raisons d'enseigner aux enfants l'IA. Premièrement, il y a l'argument économique : des études ont montré que l'exposition des enfants à des concepts techniques stimule leurs capacités de résolution de problèmes et de pensée critique. Cela peut les inciter à acquérir des compétences informatiques plus rapidement plus tard dans la vie.

Deuxièmement, il y a l'argument de société. Les années de collège, en particulier, sont essentielles à la formation et au développement de l'identité d'un enfant. Enseigner aux filles la technologie à cet âge peut les rendre plus susceptibles de l'étudier plus tard ou de faire carrière dans la technologie, explique Jennifer Jipson, professeur de psychologie et de développement de l'enfant à la California Polytechnic State University. Cela pourrait aider à diversifier l'industrie de l'IA et de la technologie au sens large. Apprendre à s'attaquer tôt à l'éthique et aux impacts sociétaux de la technologie peut également aider les enfants à devenir des créateurs et des développeurs plus conscients, ainsi que des citoyens plus informés.

Enfin, il y a l'argument de la vulnérabilité. Les jeunes sont plus malléables et impressionnables, de sorte que les risques éthiques liés au suivi du comportement des gens et à son utilisation pour concevoir des expériences plus addictives sont accrus pour eux, déclare Rose Luckin, professeur de conception centrée sur l'apprenant à l'University College London. Faire des enfants des consommateurs passifs pourrait nuire à leur libre arbitre, à leur vie privée et à leur développement à long terme.

Dix à 12 ans est l'âge moyen auquel un enfant reçoit son premier téléphone portable ou son premier compte sur les réseaux sociaux, explique Payne. Nous voulons qu'ils comprennent vraiment que la technologie a des opinions et des objectifs qui ne correspondent pas nécessairement aux leurs avant qu'ils ne deviennent de plus grands consommateurs de technologie.

Les étudiants ont conçu des matrices éthiques pour réfléchir aux parties prenantes d'un algorithme de fabrication de sandwichs et à leurs valeurs. Avec l'aimable autorisation du MIT Media Lab

Algorithmes comme opinion

Le programme de Payne comprend une série d'activités qui incitent les étudiants à réfléchir à la subjectivité des algorithmes. Ils commencent par apprendre les algorithmes en tant que recettes, avec des entrées, un ensemble d'instructions et des sorties. Les enfants sont ensuite invités à construire ou à écrire des instructions pour un algorithme qui produit le meilleur sandwich au beurre de cacahuète et à la gelée.

Très rapidement, les enfants du projet pilote d'été ont commencé à saisir la leçon sous-jacente. Une étudiante m'a prise à part et m'a demandé : 'Est-ce que c'est censé être une opinion ou un fait ?', dit-elle. Grâce à leur propre processus de découverte, les étudiants ont réalisé comment ils avaient involontairement intégré leurs propres préférences dans leurs algorithmes.

L'activité suivante s'appuie ensuite sur ce concept : les élèves dessinent ce que Payne appelle une matrice éthique pour réfléchir à la manière dont les différentes parties prenantes et leurs valeurs peuvent également affecter la conception d'un algorithme sandwich. Pendant le pilote, Payne a ensuite lié les leçons aux événements actuels. Ensemble, les élèves lisent une version abrégée Article du Wall Street Journal sur la façon dont les dirigeants de YouTube envisageaient de créer une version distincte de l'application réservée aux enfants avec un algorithme de recommandation modifié. Les étudiants ont pu voir comment les demandes des investisseurs, les pressions parentales ou les préférences des enfants pouvaient envoyer l'entreprise sur des voies de refonte d'algorithme complètement différentes.

Une autre série d'activités initie les élèves au concept de biais de l'IA . Ils utilisent Outil Teachable Machine de Google , une plate-forme interactive sans code pour la formation de modèles d'apprentissage automatique de base, pour créer un classificateur chat-chien, mais, à leur insu, reçoivent un ensemble de données biaisé. Grâce à un processus d'expérimentation et de discussion, ils apprennent comment l'ensemble de données conduit le classificateur à être plus précis pour les chats. Ils ont alors la possibilité de corriger le problème.

Payne a une fois de plus connecté l'exercice à un exemple réel pendant le pilote en montrant aux étudiants des images de Joy Buolamwini, une autre chercheuse du Media Lab, témoigner au Congrès sur les biais dans la reconnaissance faciale. Ils ont pu voir comment le type de processus de réflexion qu'ils avaient traversé pouvait changer la façon dont ces systèmes sont construits dans le monde, dit Payne.

Une étudiante montre sa dernière refonte de YouTube. Avec l'aimable autorisation du MIT Media Lab

L'avenir de l'éducation

Payne prévoit de continuer à peaufiner le programme, en tenant compte des commentaires du public, et explore diverses avenues pour étendre sa portée. Son objectif est d'en intégrer une version dans l'éducation publique.

Au-delà de cela, elle espère que cela servira d'exemple pour enseigner aux enfants la technologie, la société et l'éthique. Luckin et Jipson conviennent qu'il offre un modèle prometteur sur la façon dont l'éducation pourrait évoluer pour répondre aux exigences d'un monde de plus en plus axé sur la technologie.

L'IA telle que nous la voyons dans la société en ce moment n'est pas un grand égaliseur, dit Payne. L'éducation est, ou du moins, nous espérons qu'elle soit. Il s'agit donc d'une étape fondamentale pour aller vers une société plus juste et plus juste.

cacher