Pourquoi les enfants ont besoin d'une protection spéciale contre l'influence de l'IA

Ludovic Toinel / Unsplash

Les algorithmes peuvent changer le cours de la vie des enfants. Les enfants interagissent avec Alexas qui peut enregistrer leurs données vocales et influencer leur discours et leur développement social. Ils diffusent des vidéos sur TikTok et YouTube qui leur sont poussées par des systèmes de recommandation qui finissent par façonner leur vision du monde.

Les algorithmes sont également de plus en plus utilisés pour déterminer à quoi ressemble leur éducation, s'ils recevront des soins de santé, et même s'ils leurs parents sont jugés aptes à s'occuper d'eux . Cela peut parfois avoir des effets dévastateurs : l'été dernier, par exemple, des milliers d'étudiants ont perdu leur admission à l'université après algorithmes – utilisés à la place des tests standardisés annulés par la pandémie – ont prédit de manière inexacte leurs performances scolaires.

En d'autres termes, les enfants sont souvent en première ligne lorsqu'il s'agit d'utiliser et d'être utilisés par l'IA, ce qui peut les mettre en position de se blesser. Parce qu'ils se développent intellectuellement, émotionnellement et physiquement, ils sont très adaptables, explique Steve Vosloo, spécialiste des politiques de connectivité numérique à l'Unicef, le Fonds des Nations Unies pour l'enfance.

Vosloo a dirigé la rédaction d'un nouvel ensemble de lignes directrices de l'Unicef ​​conçu pour aider les gouvernements et les entreprises à développer des politiques d'IA qui tiennent compte des besoins des enfants. Publiées le 16 septembre, les neuf nouvelles lignes directrices sont l'aboutissement de plusieurs consultations tenues avec des décideurs politiques, des chercheurs en développement de l'enfant, des praticiens de l'IA et des enfants du monde entier. Ils tiennent également compte de la Convention des Nations Unies relative aux droits de l'enfant, un traité relatif aux droits de l'homme ratifié en 1989.

Les lignes directrices ne sont pas censées être un autre ensemble de principes d'IA, dont beaucoup disent déjà les mêmes choses. En janvier de cette année, une critique du Harvard Berkman Klein Center de 36 des documents les plus importants guidant les stratégies d'IA nationales et d'entreprise ont trouvé huit thèmes communs, parmi lesquels la confidentialité, la sécurité, l'équité et l'explicabilité.

Au contraire, les lignes directrices de l'Unicef ​​visent à compléter ces thèmes existants et à les adapter aux enfants. Par exemple, les systèmes d'IA ne doivent pas seulement être explicables, ils doivent être explicables aux enfants. Ils devraient également tenir compte des besoins de développement uniques des enfants. Les enfants ont des droits supplémentaires par rapport aux adultes, dit Vosloo. On estime également qu'ils représentent au moins un tiers des utilisateurs en ligne. On ne parle pas ici d'un groupe minoritaire, précise-t-il.

En plus d'atténuer les méfaits de l'IA, l'objectif des principes est d'encourager le développement de systèmes d'IA qui pourraient améliorer la croissance et le bien-être des enfants. S'ils sont bien conçus, par exemple, il a été démontré que les outils d'apprentissage basés sur l'IA améliorer les compétences de pensée critique et de résolution de problèmes des enfants , et ils peuvent être utiles pour les enfants ayant des troubles d'apprentissage. Les assistants émotionnels de l'IA, bien que relativement naissants, pourraient fournir un soutien en santé mentale et il a été démontré qu'ils améliorent les compétences sociales des enfants autistes. La reconnaissance faciale, utilisée avec précautions, pourrait aider à identifier les enfants qui ont été kidnappés ou victimes de la traite.

Les enfants devraient également être éduqués sur l'IA et encouragés à participer à son développement. Il ne s'agit pas seulement de les protéger, dit Vosloo. Il s'agit de les responsabiliser et de leur donner le pouvoir de façonner leur avenir.

En ce qui concerne les groupes défavorisés, les enfants sont bien sûr les plus défavorisés.

Yi Zeng

L'Unicef ​​n'est pas le seul à réfléchir à la question. La veille de la publication de ces projets de directives, l'Académie de l'intelligence artificielle de Pékin (BAAI), une organisation soutenue par le ministère chinois des sciences et de la technologie et le gouvernement municipal de Pékin, a publié un ensemble de principes d'IA pour les enfants aussi.

L'annonce intervient un an après la sortie de BAAI les principes de l'IA de Pékin , considérées comme les valeurs directrices du développement national de l'IA en Chine. Les nouveaux principes définis spécifiquement pour les enfants sont censés être une mise en œuvre concrète des principes plus généraux, déclare Yi Zeng, directeur du Centre de recherche sur l'éthique et le développement durable de l'IA à BAAI, qui a dirigé leur rédaction. Ils s'alignent étroitement sur les directives de l'Unicef, touchant également à la confidentialité, à l'équité, à l'explicabilité et au bien-être des enfants, bien que certains détails soient plus spécifiques aux préoccupations de la Chine. Une ligne directrice pour améliorer la santé physique des enfants, par exemple, comprend l'utilisation de l'IA pour aider à lutter contre la pollution de l'environnement.

Bien que les deux efforts ne soient pas formellement liés, le moment n'est pas non plus une coïncidence. Après un flot de principes d'IA au cours des dernières années, les deux rédacteurs principaux ont déclaré que la création de directives plus adaptées aux enfants était une prochaine étape logique. En parlant de groupes défavorisés, bien sûr, les enfants sont les plus défavorisés, dit Zeng. C'est pourquoi nous avons vraiment besoin [d'accorder] une attention particulière à ce groupe de personnes. Les équipes se sont entretenues lors de la rédaction de leurs documents respectifs. Lorsque l'Unicef ​​a organisé un atelier de consultation en Asie de l'Est, Zeng a participé en tant que conférencier.

L'UNICEF prévoit maintenant de mener une série de programmes pilotes avec divers pays partenaires pour observer à quel point leurs directives sont pratiques et efficaces dans différents contextes. BAAI a formé un groupe de travail avec des représentants de certaines des plus grandes entreprises qui pilotent la stratégie nationale d'IA du pays, notamment la société de technologie de l'éducation TAL, la société d'électronique grand public Xiaomi, la société de vision par ordinateur Megvii et le géant de l'Internet Baidu. L'espoir est de les amener à commencer à respecter les principes de leurs produits et à influencer d'autres entreprises et organisations à faire de même.

Vosloo et Zeng espèrent qu'en articulant les préoccupations uniques que l'IA pose aux enfants, les directives sensibiliseront à ces problèmes. Nous entrons là-dedans les yeux grands ouverts, dit Vosloo. Nous comprenons qu'il s'agit d'un nouveau territoire pour de nombreux gouvernements et entreprises. Donc, si au fil du temps, nous voyons plus d'exemples d'enfants inclus dans l'IA ou le cycle d'élaboration de politiques, plus d'attention à la manière dont leurs données sont collectées et analysées - si nous voyons l'IA rendue plus explicable aux enfants ou à leurs soignants - ce serait une victoire pour nous.

cacher