211service.com
Les détecteurs de mensonges ont toujours été suspects. L'IA a aggravé le problème.
Nicolas Ortega
Avant que le polygraphe ne le déclare coupable, Emmanuel Mervilus travaillait pour une compagnie d'huile de cuisson au port de Newark, New Jersey. Il gagnait 12 $ de l'heure pour déménager, mais ce n'était pas suffisant. Son frère et sa sœur étaient trop jeunes pour travailler et sa mère menait une bataille coûteuse contre le cancer. Son patron au port, cependant, lui avait dit qu'il était le prochain à être promu à un poste de technicien, ce qui entraînerait une augmentation à 25 $ de l'heure.
Mervilus attendait toujours cette promotion le 19 octobre 2006, quand lui et un ami se sont arrêtés dans un Dunkin' Donuts à proximité d'Elizabeth, dans le New Jersey. Quelques minutes plus tard, alors qu'ils descendaient la rue, deux policiers se sont approchés d'eux et les ont accusés d'avoir volé un homme à bout de couteau quelques minutes plus tôt, devant une gare voisine.
La victime avait identifié Mervilus et son ami à distance. Désespéré de prouver son innocence, Mervilus a proposé de passer un test polygraphique. La police a accepté, mais dans les jours qui ont précédé le test, la mère de Mervilus est décédée. Il était désemparé et anxieux lorsque la police l'a attaché à l'appareil. Il a échoué au test, a demandé à le repasser et a été refusé.
Après que Mervilus ait maintenu son plaidoyer d'innocence, son affaire a été jugée. Le lieutenant qui avait administré le polygraphe a témoigné devant le tribunal que l'appareil était un indicateur de vérité fiable. Il n'avait jamais dans sa carrière, a-t-il dit, vu un cas où quelqu'un montrait des signes de tromperie, et [il est apparu plus tard] qu'ils étaient véridiques. Un jury a condamné Mervilus - influencé, une cour d'appel l'a découvert plus tard, par une foi mal placée dans le polygraphe. Le juge l'a condamné à 11 ans de prison.
La croyance selon laquelle la tromperie peut être détectée en analysant le corps humain est devenue ancrée dans la vie moderne. Malgré de nombreuses études remettant en question la validité du polygraphe, plus de 2,5 millions de dépistages sont effectués avec l'appareil chaque année, et les tests polygraphiques représentent une industrie de 2 milliards de dollars. Les agences du gouvernement fédéral américain, notamment le ministère de la Justice, le ministère de la Défense et la CIA, utilisent toutes l'appareil lors de la sélection d'employés potentiels. Selon les chiffres de 2007 du ministère de la Justice, plus des trois quarts de tous les services de police et de shérif urbains ont également utilisé des détecteurs de mensonges pour filtrer les embauches.
Mais les appareils polygraphiques sont encore trop lents et encombrants pour être utilisés aux postes frontaliers, dans les aéroports ou sur de grands groupes de personnes. En conséquence, une nouvelle génération de détecteurs de mensonge basés sur l'intelligence artificielle a vu le jour au cours de la dernière décennie. Leurs partisans affirment qu'ils sont à la fois plus rapides et plus précis que les polygraphes.
En réalité, le travail psychologique qui sous-tend ces nouveaux systèmes d'IA est encore plus fragile que la recherche sous-jacente au polygraphe. Il y a peu de preuves que les résultats qu'ils produisent peuvent être fiables. Néanmoins, le vernis de modernité que l'IA leur donne amène ces systèmes dans des contextes que le polygraphe n'a pas pu pénétrer : passages de frontières, entretiens d'embauche privés, vérifications de prêt et réclamations pour fraude à l'assurance. Les entreprises et les gouvernements commencent à compter sur eux pour prendre des décisions concernant la fiabilité des clients, des employés, des citoyens, des immigrants et des visiteurs internationaux. Mais que se passe-t-il si le mensonge est tout simplement trop complexe pour qu'une machine puisse l'identifier de manière fiable, quel que soit le niveau de développement de son algorithme ?
Les inquisiteurs de la Chine ancienne ont demandé aux menteurs présumés de mettre du riz dans leur bouche pour voir s'ils salivaient. le Les exploits des Romains , une anthologie médiévale de fables morales, raconte l'histoire d'un soldat qui demandait à son commis de mesurer le pouls de sa femme pour déterminer si elle était infidèle.
Une traduction anglaise du Les exploits des Romains , ou Actes des Romains, un recueil d'histoires initialement publié en latin à la fin du XIIIe ou au début du XIVe siècle. Wikimédia commons
Lorsque les États-Unis sont entrés dans la Première Guerre mondiale, William Marston, chercheur à Harvard, a été le pionnier de l'utilisation de machines mesurant la pression artérielle pour tenter de déterminer la tromperie. Quelques années plus tard, inspiré par les travaux de Marston, John Augustus Larson, un policier qui venait de terminer son doctorat en physiologie à l'Université de Californie à Berkeley, a mis au point une machine qu'il a appelée un psychogramme cardio-pneumo, qui fournissait des lectures continues d'un la tension artérielle, le pouls et la fréquence respiratoire du sujet. Ces lectures, a affirmé Larson, étaient une meilleure approximation de la tromperie que la pression artérielle seule.
Larson a d'abord utilisé la machine pour enquêter sur un vol dans un dortoir pour femmes à Berkeley, et en l'espace d'un an, elle avait été utilisée pour condamner un homme à San Francisco accusé du meurtre d'un prêtre. Dans les années 1930, l'un des protégés de Larson vendait une version portable aux services de police du pays, ajoutant un capteur qui mesurait les changements dans la réponse galvanique de la peau - plus un sujet transpirait, plus la peau serait conductrice. Dans les années 1970, des millions de travailleurs du secteur privé passaient régulièrement des tests polygraphiques à la demande de leurs employeurs.
La plupart des tests polygraphiques actuels ont la même structure de base que ceux de Larson : l'examinateur pose une série de questions pour mesurer l'état physiologique normal d'un sujet, en regardant pendant que la machine transcrit ces mesures sous forme de lignes de forme d'onde sur une page ou un écran. L'examinateur recherche ensuite des pointes ou des baisses soudaines de ces niveaux lorsque le sujet répond à des questions sur des crimes ou des sentiments présumés.
Mais les psychologues et les neuroscientifiques ont critiqué le polygraphe presque depuis le moment où Larson a dévoilé son invention au public. Bien que certains menteurs puissent subir des changements de fréquence cardiaque ou de tension artérielle, il y a peu de preuves que de tels changements soient systématiquement corrélés à la tromperie. De nombreuses personnes innocentes deviennent nerveuses lorsqu'elles sont interrogées, et les menteurs expérimentés peuvent réprimer ou induire des changements dans leur corps pour tromper le test. Les polygraphes peuvent également être battu par se mordre la langue , marcher sur un bord, ou penser à sa pire peur . Les appareils risquent toujours de capter des variables confusionnelles, même dans des expériences de laboratoire contrôlées, et dans la vraie vie, ils sont encore moins fiables : puisque les criminels qui réussissent le test ne disent presque jamais à la police qu'ils sont coupables, et que des suspects innocents font souvent de faux aveux après avoir échoué au test. tests, il n'y a aucun moyen de savoir dans quelle mesure ils ont réellement fonctionné.
Leonarde Keeler, une protégée de l'inventeur du polygraphe John Larson, a administré le test à Bruno Hauptmann, qui a été arrêté, condamné et exécuté pour l'enlèvement de Charles Augustus Lindbergh Jr. Hauptmann a maintenu son innocence jusqu'à sa mort. Domaine public
En raison de ces limitations, les tests polygraphiques ont longtemps été inadmissibles dans la plupart des tribunaux américains à moins que les deux parties ne consentent à leur inclusion. La loi fédérale interdit aux employeurs privés de polygraphier leurs employés depuis 1988 (avec des exceptions pour ceux qui occupent des emplois sensibles, comme les gardes armés ou les distributeurs de produits pharmaceutiques, et pour certains employés soupçonnés de vol ou de fraude). L'American Psychological Association met en garde, la plupart des psychologues conviennent qu'il y a peu de preuves que les tests polygraphiques peuvent détecter avec précision les mensonges, et un rapport de 2003 de l'Académie nationale des sciences, faisant écho à des recherches gouvernementales antérieures, a révélé que l'appareil détecte les menteurs à des taux bien au-dessus du hasard. , bien que bien en deçà de la perfection ; l'auteur principal du rapport a déclaré à l'époque que la sécurité nationale était trop importante pour être laissée à un instrument aussi brutal.
Mais peut-être que l'instrument n'a pas besoin d'être aussi émoussé. C'est la promesse faite par un nombre croissant d'entreprises désireuses de vendre la technologie de détection de mensonges aux gouvernements et aux industries commerciales. Peut-être, disent-ils, certains schémas complexes de tics comportementaux pourraient signaler le mensonge de manière plus fiable qu'un simple pouls ou une pression artérielle élevée. Et peut-être qu'un algorithme sophistiqué pourrait repérer ces modèles.
De 1969 à 1981, un tueur en série surnommé le Yorkshire Ripper s'est attaqué à de jeunes femmes dans le nord de l'Angleterre, tuant au moins 13 personnes et tentant d'en tuer au moins sept autres. La police l'a interrogé et relâché neuf fois alors que sa tuerie se poursuivait. Sa dernière victime était Jacqueline Hill, une étudiante de 20 ans à l'Université de Leeds, qui a été tuée en novembre 1980. Quelques mois plus tard, la police l'a finalement attrapé alors qu'il s'apprêtait à tuer une prostituée dans la ville voisine de Sheffield.
Lorsque Janet Rothwell est arrivée à l'Université de Leeds à l'automne 1980, elle vivait dans le dortoir voisin de Hill's. Elle s'est retrouvée hantée par le meurtre de Hill.
Elle a pris le bus de la bibliothèque universitaire à peu près en même temps que moi, a déclaré Rothwell, et elle a été assassinée après être descendue du bus. Rothwell a appris plus tard combien de temps il avait fallu pour attraper le meurtrier. Je me suis demandé, se souvient-elle, si un ordinateur pouvait signaler une sorte d'incongruité de comportement pour alerter la police ?
Rothwell a finalement poursuivi ses études supérieures à la Manchester Metropolitan University (MMU) à la fin des années 1990. Elle a rencontré Zuhair Bandar, un conférencier irako-britannique travaillant dans le département d'informatique. Bandar avait récemment eu un moment d'eurêka lorsqu'une société de marketing lui avait demandé de créer un appareil rudimentaire pour mesurer l'intérêt des consommateurs pour les produits qu'ils voyaient sur un écran.
Une photo du FBI d'une femme prenant un polygraphe. Bureau fédéral d'enquête
Ils donneraient au client un appareil portable, a déclaré Bandar, et s'ils approuvent, ils appuient sur 1 ; s'ils ne l'aiment pas, ils appuient sur 2. J'ai pensé, pourquoi avons-nous besoin d'appareils portables s'il y a déjà des expressions sur leurs visages ? Bandar a demandé à Rothwell de rester à la MMU après sa maîtrise pour poursuivre un doctorat et l'aider à concevoir un logiciel capable d'analyser les visages pour extraire des informations. La tromperie, pensaient-ils, n'était pas moins détectable que la joie ou la colère. Tous créeraient une certaine forme d'incongruence - des modèles de comportement, verbaux ou non verbaux, qu'un ordinateur pourrait discerner.
Rothwell a formé un réseau de neurones au début des années 2000 pour suivre les mouvements du visage comme les clignements et les rougissements, puis a alimenté l'ordinateur avec quelques dizaines de clips de personnes répondant honnêtement et malhonnêtement au même ensemble de questions. Pour déterminer ce que les menteurs avaient en commun, l'ordinateur a examiné les mouvements faciaux d'un individu, les relations entre ces mouvements et les relations entre ces relations, proposant une théorie trop complexe pour être articulée en langage normal. Une fois formé de cette manière, le système pourrait utiliser ses connaissances pour classer de nouveaux sujets comme trompeurs ou véridiques en analysant les changements image par image dans leurs expressions.
Dans une étude de 2006, le système, appelé Silent Talker, a été conçu pour deviner si un sujet mentait ou disait la vérité. Il n'a jamais atteint une précision supérieure à 80% pendant que Rothwell y travaillait - et il n'a pas fait beaucoup mieux dans tout ce que le groupe de recherche a publié depuis. Rothwell m'a également dit que cela tombait complètement en panne si un participant portait des lunettes, et elle a souligné: Vous devez vous rappeler que les conditions d'éclairage étaient les mêmes et que les entretiens étaient basés sur le vol mis en scène. Mais même au début, se souvient Rothwell, Bandar tenait à avoir un produit commercial ; lui et un collègue lui ont présenté une fois une vidéo d'une femme soupçonnée de tromper son mari et lui ont demandé de faire analyser Silent Talker, tout comme dans le Les exploits des Romains .
Rothwell avait ses réserves. Je pouvais voir que le logiciel, s'il fonctionnait, pourrait potentiellement être intrusif, a-t-elle déclaré. Je ne pense pas qu'un système puisse jamais être à 100%, et si [le système] se trompe, le risque pour les relations et la vie pourrait être catastrophique. Elle a quitté l'université en 2006; après une formation d'audiologiste, elle a trouvé un emploi dans un hôpital de l'île de Jersey, où elle vit toujours.
MMU a publié un communiqué de presse en 2003 vantant la technologie comme une nouvelle invention qui rendrait le polygraphe obsolète. J'étais un peu choqué, a déclaré Rothwell, parce que je sentais que c'était trop tôt.
Le gouvernement américain a fait de nombreuses incursions dans la technologie de détection de tromperie au cours des premières années après le 11 septembre, le Département de la sécurité intérieure (DHS), le Département de la défense (DoD) et la National Science Foundation dépensant tous des millions de dollars pour de telles recherches. . Ces agences ont financé la création d'un kiosque appelé AVATAR à l'Université de l'Arizona. AVATAR, qui analysait les expressions faciales, le langage corporel et la voix des gens pour attribuer aux sujets un 'score de crédibilité', a été testé dans des aéroports américains. En Israël, pendant ce temps, le DHS a aidé à financer une startup appelée WeCU (« nous vous voyons »), qui a vendu un kiosque de dépistage qui déclencherait des réponses physiologiques chez ceux qui dissimulent quelque chose, selon un Article de 2010 dans Fast Company . (La société a depuis fermé ses portes.)
Bandar a commencé à essayer de commercialiser la technologie. Avec deux de ses étudiants, Jim O'Shea et Keeley Crockett, il a incorporé Silent Talker en tant qu'entreprise et a commencé à rechercher des clients, y compris des services de police et des sociétés privées, pour sa technologie de profilage psychologique. Silent Talker a été l'un des premiers détecteurs de mensonges IA à arriver sur le marché. Selon la société, l'année dernière, la technologie dérivée de Silent Talker a été utilisée dans le cadre d'iBorderCtrl, une initiative de recherche financée par l'Union européenne qui a testé le système sur des volontaires aux frontières en Grèce, en Hongrie et en Lettonie. Bandar dit que la société est maintenant en pourparlers pour vendre la technologie aux cabinets d'avocats, aux banques et aux compagnies d'assurance, en intégrant des tests dans les entretiens sur le lieu de travail et les dépistages de fraude.
Bandar et O'Shea ont passé des années à adapter l'algorithme de base pour une utilisation dans divers contextes. Ils ont essayé de le commercialiser auprès des services de police des régions métropolitaines de Manchester et de Liverpool. Nous parlons à des personnes très expérimentées de manière informelle, a déclaré la société à une publication britannique L'ingénieur en 2003, notant que leur objectif était de tester cela dans de vraies interviews. Un livre blanc de 2013 O'Shea publié sur son site a suggéré que Silent Talker pourrait être utilisé pour protéger nos forces déployées à l'étranger contre les attaques Green-on-Blue ('Insider'). (Le terme vert sur bleu est couramment utilisé pour désigner les attaques des soldats afghans en uniforme contre leurs anciens alliés.)
L'équipe a également publié des résultats expérimentaux montrant comment Silent Talker pourrait être utilisé pour détecter la compréhension ainsi que la détection. Dans une étude de 2012, la première à montrer le système Silent Talker utilisé sur le terrain, l'équipe a travaillé avec une ONG de soins de santé en Tanzanie pour enregistrer les expressions faciales de 80 femmes alors qu'elles suivaient des cours en ligne sur le traitement du VIH et l'utilisation du préservatif. L'idée était de déterminer si les patients comprenaient le traitement qu'ils recevraient - comme le note l'introduction de l'étude, l'évaluation de la compréhension des participants au cours du processus de consentement éclairé reste toujours un domaine de préoccupation critique. Lorsque l'équipe a recoupé les suppositions de l'IA quant à savoir si les femmes comprenaient les conférences avec leurs scores aux brefs examens post-conférence, ils ont constaté qu'il était précis à 80% pour prédire qui réussirait et qui échouerait.
L'algorithme formé à Manchester permettrait, selon le communiqué de presse, d'offrir des passages frontaliers terrestres plus efficaces et plus sûrs et contribuerait à la prévention de la criminalité et du terrorisme.
L'expérience tanzanienne a conduit à l'inclusion de Silent Talker dans iBorderCtrl. En 2015, Athos Antoniades, l'un des organisateurs du consortium naissant, a envoyé un e-mail à O'Shea, lui demandant si l'équipe de Silent Talker souhaitait rejoindre un groupe d'entreprises et de forces de police en lice pour une subvention de l'UE. Au cours des années précédentes, l'augmentation du trafic de véhicules vers l'UE avait submergé les agents des pays frontaliers de l'Union et, par conséquent, l'UE offrait 4,5 millions d'euros (5 millions de dollars) à toute institution capable de fournir des passages frontaliers terrestres plus efficaces et plus sûrs... et contribuer ainsi à la prévention de la criminalité et du terrorisme. Antoniades pensait que Silent Talker pouvait jouer un rôle crucial.
Lorsque le projet a finalement annoncé un projet pilote public en octobre 2018, la Commission européenne n'a pas tardé à vanter la réussite de l'approche unique du système en matière de détection de tromperie. dans un communiqué de presse , expliquant que la technologie analyse les micro-gestes des voyageurs pour déterminer si l'interviewé ment. L'algorithme formé à Manchester permettrait, poursuit le communiqué de presse, d'offrir des passages frontaliers terrestres plus efficaces et plus sûrs et contribuerait à la prévention de la criminalité et du terrorisme.
L'algorithme sous-jacent du programme, m'a dit O'Shea, pourrait être utilisé dans une variété d'autres contextes - publicité, analyse des réclamations d'assurance, sélection des candidats et évaluation des employés. Il m'était difficile de partager sa croyance écrasante en sa sagesse, mais alors même que lui et moi nous parlions au téléphone, Silent Talker contrôlait déjà les volontaires aux postes-frontières de l'UE ; la société avait récemment été lancée en tant qu'entreprise en janvier 2019. J'ai donc décidé d'aller à Manchester pour voir par moi-même.
Les bureaux de Silent Talker sont situés à environ un mile de l'Université métropolitaine de Manchester, où O'Shea est maintenant maître de conférences. Il a repris le développement quotidien de la technologie de Bandar. L'entreprise est basée dans un parc de bureaux en briques qui clignote et vous manquera dans un quartier résidentiel, en bas de la rue d'un restaurant de kebab et en face d'un terrain de football. À l'intérieur, le bureau de Silent Talker est une pièce unique avec quelques ordinateurs, des bureaux avec des porte-documents et des affiches explicatives sur la technologie du début des années 2000.
Lorsque j'ai visité le bureau de l'entreprise en septembre, je me suis assis avec O'Shea et Bandar dans une salle de conférence au bout du couloir. O'Shea était sévère mais légèrement chiffonné, chauve à l'exception de quelques touffes de cheveux et d'une barbe de Van Dyke. Il a commencé la conversation en insistant pour que nous ne parlions pas du projet iBorderCtrl, qualifiant plus tard ses détracteurs de mal informés. Il a parlé de la puissance du cadre d'IA du système dans de longues tangentes digressives, citant occasionnellement le pionnier de l'informatique Alan Turing ou le philosophe du langage John Searle.
Les machines et les humains ont tous deux une intentionnalité – des croyances, des désirs et des intentions sur les objets et les états de choses dans le monde, a-t-il déclaré, défendant la dépendance du système à un algorithme. Par conséquent, les applications compliquées vous obligent à donner un poids mutuel aux idées et aux intentions des deux.
O'Shea a démontré le système en lui faisant analyser une vidéo d'un homme répondant à des questions pour savoir s'il avait volé 50 $ dans une boîte. Le programme a superposé un carré jaune autour du visage de l'homme et deux petits carrés autour de ses yeux. Pendant qu'il parlait, une aiguille dans le coin de l'écran passait du vert au rouge lorsqu'il donnait de fausses réponses, et revenait à un orange modéré lorsqu'il ne parlait pas. À la fin de l'entretien, le logiciel a généré un graphique traçant la probabilité de tromperie en fonction du temps. En théorie, cela a montré quand il a commencé et arrêté de mentir.
Pendant qu'il parlait, une aiguille dans le coin de l'écran passait du vert au rouge lorsqu'il donnait de fausses réponses, et revenait à un orange modéré lorsqu'il ne parlait pas.
Le système peut fonctionner sur un ordinateur portable traditionnel, dit O’Shea, et les utilisateurs paient environ 10 $ par minute de vidéo analysée. O'Shea m'a dit que le logiciel effectue un traitement local préliminaire de la vidéo, envoie des données cryptées à un serveur où elles sont analysées plus en détail, puis renvoie les résultats : l'utilisateur voit un graphique de la probabilité de tromperie superposé en bas de la vidéo.
Selon O'Shea, le système surveille environ 40 canaux physiques sur le corps d'un participant, de la vitesse à laquelle on clignote à l'angle de la tête. Il apporte à chaque nouveau visage une théorie sur la tromperie qu'il a développée en visualisant un ensemble de données de formation de menteurs et de diseurs de vérité. En mesurant les mouvements du visage et les changements de posture d'un sujet plusieurs fois par seconde, le système recherche des schémas de mouvement qui correspondent à ceux partagés par les menteurs dans les données d'entraînement. Ces motifs ne sont pas aussi simples que des yeux qui tournent vers le plafond ou une tête qui s'incline vers la gauche. Ils ressemblent plus à des modèles de modèles, à des relations à multiples facettes entre différents mouvements, trop complexes pour être suivis par un humain - un trait typique des systèmes d'apprentissage automatique.
Le travail de l'IA consiste à déterminer quels types de schémas de mouvements peuvent être associés à la tromperie. Les psychologues disent souvent que vous devriez avoir une sorte de modèle pour le fonctionnement d'un système, m'a dit O'Shea, mais nous n'avons pas de modèle fonctionnel, et nous n'en avons pas besoin. Nous laissons l'IA le découvrir. Cependant, il dit également que la justification des canaux sur le visage provient de la littérature académique sur la psychologie de la tromperie. Dans un Article de 2018 sur le bavard silencieux , ses créateurs disent que leur logiciel suppose que certains états mentaux associés à un comportement trompeur détermineront le [comportement non verbal] d'une personne interrogée lorsqu'elle trompe. Parmi ces comportements figurent la charge cognitive, ou l'énergie mentale supplémentaire qu'il faut soi-disant pour mentir, et le plaisir de tromper, ou le plaisir qu'un individu est censé tirer de dire un mensonge réussi.
Paul Ekman, un psychologue dont la théorie des « micro-expressions » est très contestée, a été consultant pour une myriade d'agences gouvernementales américaines. Wikimédia / Momopuppycat
Mais Ewout Meijer, professeur de psychologie à l'Université de Maastricht aux Pays-Bas, affirme que les raisons de croire que de tels comportements sont universels sont au mieux instables. L'idée que l'on peut trouver des fuites comportementales révélatrices dans le visage trouve ses racines dans les travaux de Paul Ekman, un psychologue américain qui, dans les années 1980, a adopté une théorie désormais célèbre des micro-expressions, ou des mouvements faciaux involontaires trop petits pour être contrôlés. Les recherches d'Ekman ont fait de lui un auteur à succès et ont inspiré le drame policier télévisé Me mentir . Il a consulté une myriade d'agences gouvernementales américaines, dont le DHS et la DARPA. Invoquant la sécurité nationale, il a gardé secrètes les données de recherche. Cela a conduit à un débat controversé sur la question de savoir si les micro-expressions ont même une signification.
L'IA de Silent Talker suit toutes sortes de mouvements faciaux, pas les micro-expressions spécifiques à Ekman. Nous avons décomposé ces signaux de haut niveau en notre propre ensemble de micro-gestes et formé des composants d'IA pour les recombiner en modèles indicatifs significatifs, a écrit un porte-parole de la société dans un e-mail. O'Shea dit que cela permet au système de détecter un comportement trompeur même lorsqu'un sujet regarde autour de lui ou se déplace sur une chaise.
Tout dépend si vous avez une question technologique ou une question psychologique, dit Meijer, avertissant que O'Shea et son équipe pourraient se tourner vers la technologie pour obtenir des réponses à des questions psychologiques sur la nature de la tromperie. Un système d'IA peut surpasser les gens dans la détection [des expressions faciales], mais même si c'était le cas, cela ne vous dit toujours pas si vous pouvez en déduire si quelqu'un est trompeur… la tromperie est une construction psychologique. Non seulement il n'y a pas de consensus sur qui les expressions sont en corrélation avec la tromperie, ajoute Meijer ; il n'y a même pas de consensus sur qu'il s'agisse ils font. Dans un e-mail, la société a déclaré que de telles critiques ne sont pas pertinentes pour Silent Talker et que les statistiques utilisées ne sont pas appropriées.
Le drame télévisé Me mentir était basé en partie sur la théorie de la micro-expression d'Ekman. Renard studios
De plus, Meijer souligne que l'algorithme sera toujours inutile aux passages frontaliers ou dans les entretiens d'embauche à moins qu'il n'ait été formé sur un ensemble de données aussi diversifié que celui qu'il évaluera dans la vie réelle. La recherche montre que les algorithmes de reconnaissance faciale sont moins efficaces pour reconnaître les minorités lorsqu'ils ont été formés sur des ensembles de visages à prédominance blanche, ce que O'Shea lui-même admet. Un porte-parole de Silent Talker a écrit dans un e-mail, Nous avons mené plusieurs expériences avec des tailles d'échantillons plus petites et variables. Ceux-ci s'additionnent à des centaines. Certains d'entre eux sont académiques et ont été publiés [sic], certains sont commerciaux et sont confidentiels.
Cependant, toutes les recherches publiées prouvant l'exactitude de Silent Talker proviennent d'ensembles de données restreints et partiels : dans l'article de 2018, par exemple, une population en formation de 32 personnes contenait deux fois plus d'hommes que de femmes et seulement 10 participants d'origine asiatique/arabe, avec pas de sujets noirs ou hispaniques. Alors que le logiciel a actuellement des paramètres différents pour analyser les hommes et les femmes, O'Shea a déclaré qu'il n'était pas certain s'il avait besoin de paramètres pour l'origine ethnique ou l'âge.
Après l'annonce du projet pilote d'iBorderCtrl en 2018, les militants et les politiciens ont décrié le programme comme une expansion orwellienne sans précédent de l'État de surveillance. Sophie in 't Veld, membre néerlandaise du Parlement européen et chef du parti de centre-gauche Démocrates 66, a déclaré dans une lettre à la Commission européenne que le système Silent Talker pourrait violer les droits fondamentaux de nombreux voyageurs qui traversent la frontière et que des organisations comme Privacy International l'ont condamné dans le cadre d'une tendance plus large à l'utilisation de systèmes automatisés opaques et souvent déficients pour juger, évaluer et classer les personnes. L'opposition a semblé prendre le consortium iBorderCtrl par surprise : bien qu'initialement la Commission européenne ait affirmé qu'iBorderCtrl développerait un système pour accélérer le passage des frontières, un porte-parole affirme maintenant que le programme était un projet de recherche purement théorique. Antoniades a déclaré à un journal néerlandais à la fin de 2018 que le système de détection de tromperie pourrait finalement ne pas être intégré à la conception, mais, au moment d'écrire ces lignes, Silent Talker vantait toujours sa participation à iBorderCtrl. sur son site internet .
Même si souvent des critiques comme Wilde le démystifient, le rêve d'un détecteur de mensonges parfait ne mourra tout simplement pas, surtout lorsqu'il est passé sous silence l'éclat de l'IA.
Silent Talker est une nouvelle version de l'ancienne fraude, estime Vera Wilde, une universitaire américaine et militante de la vie privée qui vit à Berlin et qui a aidé à lancer une campagne contre iBorderCtrl. À certains égards, c'est la même fraude, mais avec une science pire. Dans un test polygraphique, un examinateur recherche des événements physiologiques supposés être corrélés à la tromperie; dans un système d'IA, les examinateurs laissent l'ordinateur déterminer lui-même les corrélations. Quand O'Shea dit qu'il n'a pas de théorie, il se trompe, poursuit-elle. Il a une théorie. C'est juste une mauvaise théorie.
Même si souvent des critiques comme Wilde le démystifient, le rêve d'un détecteur de mensonges parfait ne mourra tout simplement pas, surtout lorsqu'il est passé sous silence l'éclat de l'IA. Après que le DHS ait dépensé des millions de dollars pour financer la recherche sur la tromperie dans les universités dans les années 2000, il a essayé de créer sa propre version d'une technologie d'analyse du comportement. Ce système, appelé Future Attribute Screening Technology (FAST), visait à utiliser l'IA pour rechercher des tendances criminelles dans les mouvements des yeux et du corps d'un sujet. (Une première version exigeait que les personnes interrogées se tiennent debout sur une planche d'équilibre Wii Fit pour mesurer les changements de posture.) Trois chercheurs qui ont parlé officieusement pour discuter de projets classifiés ont déclaré que le programme n'avait jamais démarré - il y avait trop de désaccords au sein du département sur l'opportunité d'utiliser les micro-expressions d'Ekman comme ligne directrice pour l'analyse du comportement. Le ministère a mis fin au programme en 2011.
Malgré l'échec de FAST, le DHS s'intéresse toujours aux techniques de détection du mensonge. L'année dernière, par exemple, il a attribué un contrat de 110 000 $ à une entreprise de ressources humaines pour former ses agents à détecter la tromperie et à susciter une réponse grâce à l'analyse comportementale. Pendant ce temps, d'autres parties du gouvernement continuent d'appuyer les solutions d'IA. L'Army Research Laboratory (ARL) a actuellement un contrat avec l'Université Rutgers pour créer un programme d'IA pour détecter les mensonges dans le jeu de salon Mafia, dans le cadre d'une tentative plus large de créer quelque chose comme un Google Glass qui nous avertit de quelques pickpockets dans le bazar bondé, selon Purush Iyer, le chef de division ARL en charge du projet. Nemesysco, une société israélienne qui vend des logiciels d'analyse vocale par IA, m'a dit que sa technologie est utilisée par les services de police de New York et les shérifs du Midwest pour interroger les suspects, ainsi que par les centres d'appels de recouvrement de créances pour mesurer les émotions des débiteurs sur Appels téléphoniques.
L'avenir immédiat et potentiellement dangereux de la détection de mensonges par IA n'est pas avec les gouvernements mais sur le marché privé. Les politiciens qui soutiennent des initiatives comme iBorderCtrl doivent en fin de compte répondre aux électeurs, et la plupart des détecteurs de mensonges IA pourraient être exclus des tribunaux en vertu du même précédent juridique qui régit le polygraphe. Les sociétés privées, cependant, sont confrontées à moins de contraintes dans l'utilisation de ces technologies pour sélectionner les candidats à un emploi et les clients potentiels. Silent Talker est l'une des nombreuses entreprises qui prétendent offrir un moyen plus objectif de détecter les comportements anormaux ou trompeurs, offrant aux clients une méthode d'analyse des risques qui va au-delà des cotes de crédit et des profils de médias sociaux.
Le logiciel génère un nombre élevé de faux positifs.
Une société du Montana appelée Neuro-ID effectue une analyse par IA des mouvements de la souris et des frappes au clavier pour aider les banques et les compagnies d'assurance à évaluer le risque de fraude, en attribuant aux demandeurs de prêt un score de confiance de 1 à 100. Dans une vidéo, la société m'a montré, lorsqu'un client faisant une demande de prêt en ligne prend plus de temps pour remplir le champ du revenu du ménage, en déplaçant la souris tout en le faisant, le système en tient compte dans son score de crédibilité. Il est basé sur des recherches menées par les scientifiques fondateurs de l'entreprise qui prétendent montrer une corrélation entre les mouvements de la souris et l'excitation émotionnelle : un article qui affirme qu'être trompeur peut augmenter la distance de mouvement normalisée, diminuer la vitesse de mouvement, augmenter le temps de réponse et le résultat en plus de clics gauches. Cependant, les propres tests de l'entreprise révèlent que le logiciel génère un nombre élevé de faux positifs : dans une étude de cas où Neuro-ID a traité 20 000 candidatures pour un site de commerce électronique, moins de la moitié des candidats ayant obtenu les scores les plus bas (de 5 à 10) se sont avérés frauduleux, et seulement 10% de ceux qui ont reçu des scores de 20 à 30 représentaient un risque de fraude. De l'aveu même de l'entreprise, le logiciel signale les candidats qui pourraient s'avérer innocents et permet à l'entreprise d'utiliser ces informations pour suivre à sa guise. Il n'y a pas d'analyse basée sur le comportement qui soit précise à 100%, m'a dit un porte-parole. Ce que nous recommandons, c'est que vous les utilisiez en combinaison avec d'autres informations sur les candidats pour prendre de meilleures décisions et attraper [les clients frauduleux] plus efficacement.
Converus, une startup basée dans l'Utah, vend un logiciel appelé EyeDetect qui mesure la dilatation des pupilles d'un sujet lors d'un entretien pour détecter la charge cognitive. Comme Silent Talker, l'outil part du principe que mentir est plus exigeant sur le plan cognitif que de dire la vérité. Selon un article 2018 Dans Wired, les services de police de Salt Lake City et de Columbus, en Géorgie, ont utilisé EyeDetect pour sélectionner les candidats à un emploi. Converus a également déclaré à Wired que McDonald's, Best Western, Sheraton, IHOP et FedEx utilisaient son logiciel au Panama et au Guatemala d'une manière qui aurait été illégale aux États-Unis.
Dans une déclaration qu'elle m'a donnée, la société a cité à peu études qui montrent que EyeDetect atteint une précision d'environ 85 % dans l'identification des menteurs et des diseurs de vérité, avec des échantillons allant jusqu'à 150 personnes. Le président de la société, Todd Mickelsen, déclare que l'algorithme de son entreprise a été formé sur des centaines de milliers d'entretiens. Mais Charles Honts, professeur de psychologie à la Boise State University qui siège également au conseil consultatif de Converus, a déclaré que ces résultats ne prouvaient pas que EyeDetect pouvait être invoqué lors d'entretiens sur le terrain. Je trouve le système EyeDetect vraiment intéressant, mais par contre, je ne l'utilise pas, me dit-il. Je pense que la base de données est encore relativement petite et qu'elle provient principalement d'un laboratoire. Jusqu'à ce qu'il soit étendu et que d'autres personnes l'aient reproduit, j'hésiterais à l'utiliser sur le terrain.
Les chercheurs de l'Université de l'Arizona qui ont développé le système AVATAR ont également créé une société privée, Discern Science, pour commercialiser leur propre technologie de détection de tromperie. Lancé l'année dernière, Discern vend un kiosque de six pieds de haut similaire à l'AVATAR original; selon un article dans le Financial Times, la société a conclu un accord de coentreprise avec un partenaire de l'industrie aéronautique pour vendre l'outil aux aéroports. Le système les mesures les mouvements du visage et le stress vocal pour recueillir de manière invisible des informations du sujet à une distance conversationnelle, selon le matériel promotionnel. Comme Silent Talker et Converus, Discern affirme que la technologie peut détecter de manière fiable environ 85 % des menteurs et des diseurs de vérité, mais encore une fois, ses résultats n'ont jamais été reproduits de manière indépendante. Au moins une des entrées utilisées par le kiosque a été à plusieurs reprises montré être indigne de confiance . (Honts a en outre noté qu'il n'y a presque aucun support pour l'analyse des mouvements faciaux comme AVATAR et Silent Talker - il y a eu tellement d'échecs à reproduire là-bas, a-t-il dit.)
Quiconque vous dit qu'il possède un appareil qui est un véritable détecteur de mensonges est un charlatan.
Interrogée sur le soutien scientifique du kiosque de l'entreprise, la chercheuse de Discern, Judee Burgoon, a souligné qu'elle ne faisait que faire des évaluations, et non des jugements contraignants sur la vérité et le mensonge. Des systèmes comme AVATAR et Silent Talker, a-t-elle dit, ne peuvent pas mesurer directement la tromperie, ajoutant que quiconque vous dit qu'il a un appareil qui est un détecteur de mensonges pur et simple est un charlatan. Dans les documents marketing, cependant, Discern présente l'outil comme un détecteur de mensonges fiable : le site Web de l'entreprise réclamations qu'il peut aider à découvrir des plans cachés et que ses algorithmes ont été scientifiquement prouvés pour détecter la tromperie plus rapidement et de manière plus fiable que toute autre alternative.
La cour d'appel a annulé la condamnation d'Emmanuel Mervilus en 2011, le libérant de prison et ordonnant un nouveau procès ; il avait purgé plus de trois ans de sa peine. Lors du deuxième procès, en 2013, les jurés n'ont délibéré que 40 minutes avant de l'acquitter. Sans le polygraphe et la croyance persistante en son exactitude, il n'aurait peut-être jamais mis les pieds dans une salle d'audience pour la première fois. Mervilus a poursuivi les policiers qui l'ont initialement arrêté et interrogé, alléguant qu'ils ont violé son droit à une procédure régulière en utilisant des tests polygraphiques qu'ils savaient défectueux afin d'obtenir une condamnation. L'affaire fera l'objet d'une conférence de règlement le 13 mars.
Même si l'utilisation généralisée de Silent Talker et de systèmes similaires ne conduit pas à davantage de condamnations d'innocents comme Mervilus, cela pourrait néanmoins contribuer à créer un nouveau type de shibboleth social, obligeant les gens à subir des évaluations de crédibilité avant de louer une voiture ou de sortir un prêt.
Dans un tribunal, vous devez donner des preuves matérielles, comme vos cheveux et votre sang, dit Wilde. Mais vous avez aussi le droit de garder le silence, le droit de ne pas parler contre vous-même. Mervilus a choisi de passer le test polygraphique en supposant que, comme un test ADN, cela montrerait qu'il était innocent. Et bien que l'appareil se soit trompé, ce n'est pas la machine elle-même qui l'a envoyé en prison. Le jury était d'avis que les résultats des tests étaient plus crédibles que les faits de l'affaire.
Le principe fondamental de la détection de mensonges par IA est que les mensonges sont là pour être vus avec les bons outils. Les psychologues ne savent toujours pas à quel point cette affirmation est valide, mais en attendant, la croyance en sa validité peut suffire à disqualifier des candidats méritants pour des emplois et des prêts, et à empêcher des personnes innocentes de franchir les frontières nationales. La promesse d'une fenêtre sur la vie intérieure des autres est trop tentante pour être ignorée, même si personne ne peut être sûr de la clarté de cette fenêtre.
C'est la promesse de la lecture de l'esprit, dit Wilde. Vous pouvez voir que c'est faux, mais c'est ce qu'ils vendent.