Les chercheurs en IA veulent étudier l'IA de la même manière que les spécialistes des sciences sociales étudient les humains

Une illustration conceptuelle d'un chercheur étudiant l'IA Tsjisse Talsma

Beaucoup d'encre a coulé sur la nature de la boîte noire des systèmes d'IA et sur la façon dont cela nous met mal à l'aise de ne pas comprendre pourquoi ils prennent les décisions qu'ils prennent. Alors que les algorithmes en sont venus à tout médiatiser, de nos interactions sociales et culturelles aux interactions économiques et politiques, les informaticiens ont tenté de répondre aux demandes croissantes d'explicabilité en développant des méthodes techniques pour comprendre leurs comportements.

Mais un groupe de chercheurs du milieu universitaire et de l'industrie soutient maintenant que nous n'avons pas besoin de pénétrer dans ces boîtes noires pour comprendre, et donc contrôler, leur effet sur nos vies. Après tout, ce ne sont pas les premières boîtes noires impénétrables que nous rencontrons.

Nous avons développé des méthodes scientifiques pour étudier les boîtes noires depuis des centaines d'années maintenant, mais ces méthodes ont principalement été appliquées aux [êtres vivants] jusqu'à présent, explique Nick Obradovich, chercheur au MIT Media Lab et co-auteur d'un nouveau papier publié la semaine dernière dans La nature . Nous pouvons tirer parti de plusieurs des mêmes outils pour étudier les nouveaux systèmes d'IA de type boîte noire.

Les auteurs de l'article, un groupe diversifié de chercheurs de l'industrie et du milieu universitaire, proposent de créer une nouvelle discipline universitaire appelée comportement de la machine. Il aborde l'étude des systèmes d'IA de la même manière que nous avons toujours étudié les animaux et les humains : par l'observation empirique et l'expérimentation.

De cette façon, un comportementaliste de la machine est à un informaticien ce qu'un spécialiste des sciences sociales est à un neuroscientifique. Le premier cherche à comprendre comment un agent, qu'il soit artificiel ou biologique, se comporte dans son habitat, lorsqu'il coexiste en groupe et lorsqu'il interagit avec d'autres agents intelligents. Ce dernier cherche à disséquer les mécanismes de prise de décision derrière ces comportements.

Nous assistons à la montée en puissance des machines avec agence, des machines qui sont des acteurs prenant des décisions et agissant de manière autonome, a déclaré Iyad Rahwan, un autre chercheur du Media Lab et auteur principal de l'article. article de blog accompagnant la publication. Ils doivent donc être étudiés comme une nouvelle classe d'acteurs avec leurs propres modèles de comportement et leur propre écologie.

Cela ne veut pas dire que les systèmes d'IA ont développé une sorte de libre arbitre. (Ce n'est certainement pas le cas ; ce ne sont que des modèles mathématiques glorifiés.) Mais il s'agit de s'éloigner de la vision des systèmes d'IA comme des outils passifs qui peuvent être évalués uniquement à travers leur architecture technique, leurs performances et leurs capacités. Ils doivent plutôt être considérés comme des acteurs actifs qui modifient et influencent leur environnement ainsi que les personnes et les machines qui les entourent.

Alors, à quoi cela ressemblerait-il même? Un comportementaliste de la machine pourrait s'interroger, par exemple, sur l'impact des assistants vocaux sur le développement de la personnalité d'un enfant. Ou ils pourraient examiner comment les algorithmes de rencontres en ligne ont changé la façon dont les gens se rencontrent et tombent amoureux. En fin de compte, ils étudieraient les propriétés émergentes qui découlent de la coexistence et de la collaboration de nombreux humains et machines.

Nous sommes tous un système homme-machine géant, dit Obradovich. Nous devons reconnaître cela et commencer à l'étudier de cette façon.

Il est important de noter que la plupart de ces idées ne sont pas nouvelles. Les roboticiens, par exemple, étudient depuis longtemps l'interaction homme-ordinateur. Et le domaine de la science, de la technologie et de la société a ce qu'on appelle la théorie de l'acteur-réseau, un cadre pour décrire tout ce qui se trouve dans les mondes social et naturel - à la fois les humains et les algorithmes - en tant qu'acteurs qui, d'une manière ou d'une autre, sont liés les uns aux autres. Mais pour la plupart, chacun de ces efforts a été cloisonné dans des disciplines distinctes. Les réunir sous un même parapluie permet d'aligner leurs objectifs, de formaliser un langage commun et de favoriser les collaborations interdisciplinaires. Cela nous aidera à nous retrouver, dit Obradovich.

Bien qu'ils appartiennent à une discipline distincte des chercheurs en IA, les comportementalistes de la machine devraient toujours travailler en étroite collaboration avec eux. Alors que ces derniers découvrent de nouvelles façons dont les systèmes d'IA se comportent et affectent les gens, les premiers peuvent apporter ces apprentissages à la conception du système. Plus chaque discipline pourra profiter de l'expertise de l'autre, plus elle sera en mesure de faire en sorte que les agents artificiels profitent aux humains plutôt qu'ils ne leur nuisent.

Nous avons besoin de l'expertise de scientifiques de toutes les disciplines comportementales et informatiques, déclare Obradovich. Comprendre comment vivre avec des machines est un problème trop vaste pour qu'une seule discipline puisse le résoudre seule.

cacher