211service.com
Quand nos appareils peuvent lire nos émotions : Gabi Zijderveld d'Affectiva
L'IA de suivi des émotions commence à aider les machines à reconnaître nos humeurs. Sommes-nous prêts?
28 février 2019
Des assistants personnels comme Siri, Alexa, Cortana ou Google Home peuvent analyser nos paroles et (parfois) répondre de manière appropriée, mais ils ne peuvent pas évaluer ce que nous ressentons, en partie parce qu'ils ne peuvent pas voir nos visages. Mais dans le domaine émergent de l'IA de suivi des émotions, les entreprises étudient les expressions faciales capturées par les caméras de nos appareils pour permettre aux logiciels de toutes sortes de mieux répondre à nos humeurs et à nos états cognitifs.
Chez Affectiva, une startup de Boston fondée par les chercheurs du MIT Media Lab Rosalind Picard et Rana El Kaliouby, les programmeurs ont formé des algorithmes d'apprentissage automatique pour reconnaître nos signaux faciaux et déterminer si nous apprécions une vidéo ou somnolons au volant. Gabi Zijderveld, directeur marketing et responsable de la stratégie produit d'Affectiva, explique à Business Lab qu'un tel logiciel peut rationaliser le marketing, protéger les conducteurs et, en fin de compte, rendre toutes nos interactions avec la technologie plus profondes et plus enrichissantes. Mais pour se prémunir contre le potentiel d'utilisation abusive, dit-elle, Affectiva fait également pression pour que des normes à l'échelle de l'industrie rendent les systèmes de suivi des émotions opt-in et consensuels.
Les auditeurs du Business Lab sont invités à postuler pour rejoindre le MIT Technology Review Global Panel, notre forum exclusif de leaders d'opinion, d'innovateurs et de cadres. En tant que membre du panel mondial, vous pouvez examiner les tendances technologiques actuelles, voir les résultats des enquêtes et des études, donner votre avis et rejoindre vos pairs lors de réunions d'affaires dans le monde entier.
AFFICHER LES NOTES ET LES LIENS :
Groupe d'informatique affective du MIT Media Lab
TRANSCRIPTION COMPLÈTE :
Elizabeth Bramson-Boudreau : De MIT Technology Review, je m'appelle Elizabeth Bramson-Boudreau, et voici Business Lab, l'émission qui aide les chefs d'entreprise à donner un sens aux nouvelles technologies qui sortent du laboratoire et arrivent sur le marché.
Elisabeth : Avant de commencer, j'aimerais inviter les auditeurs à rejoindre le MIT Technology Review Global Panel, notre forum exclusif de leaders d'opinion, d'innovateurs et de cadres. Et en tant que membre du panel mondial, vous pouvez examiner les tendances technologiques d'aujourd'hui, voir les résultats des enquêtes et des études, donner votre avis et rejoindre vos pairs lors de réunions d'affaires dans le monde entier. Postulez pour rejoindre le panel sur TechnologyReview.com/globalpanel. C'est TechnologyReview.com/globalpanel.
Elisabeth : Maintenant, ne serait-ce pas cool si votre téléphone pouvait dire que vous êtes d'humeur grincheuse à cause de toutes les interruptions de la journée et mettre vos appels en attente pour que vous fassiez du travail ? Ou ne serait-ce pas formidable si la tablette de votre fille pouvait dire quand elle s'ennuie avec son jeu éducatif et augmenter le niveau de défi pour la garder engagée ?
Elisabeth : Eh bien, avant que nos appareils puissent mieux nous servir de cette façon, ils vont devoir comprendre ce que nous ressentons réellement. Et c'est de cela dont je parle aujourd'hui avec mon invité Gabi Zijderveld. Elle est directrice du marketing et responsable de la stratégie produit chez Affectiva, une startup de Boston qui est un leader dans le nouveau domaine de l'IA de suivi des émotions. C'est un spin-off du groupe d'informatique affective du MIT Media Lab. C'est Affective avec un A. Affectiva construit des algorithmes qui lisent les visages des gens pour détecter leurs émotions et d'autres états cognitifs.
Elisabeth : La technologie aide déjà les grandes entreprises à tester la réaction émotionnelle du public à leurs publicités. Et maintenant, Gabi dirige un projet visant à équiper les voitures d'un logiciel qui surveillera les états cognitifs et émotionnels des conducteurs et les aidera à rester en sécurité et éveillés. Tout cela pourrait représenter un grand pas en avant dans la façon dont nous interagissons avec les appareils informatiques. Mais bien sûr, cela soulève également des questions difficiles sur la façon d'empêcher les algorithmes capables de lire nos états émotionnels d'exploiter notre attention ou d'envahir notre vie privée.
Elisabeth : Gabi, bienvenue et merci beaucoup de nous avoir rendu visite.
Nuit: Merci beaucoup de m'avoir reçu.
Elisabeth : Le nom de votre entreprise, Affectiva, est un jeu de mots, et c'est un jeu sur le terme d'informatique affective. Pouvez-vous définir ce qu'est l'informatique affective, s'il vous plaît ?
Nuit: L'informatique affective est essentiellement conçue pour combler le fossé entre les émotions humaines et la technologie. Et l'informatique affective permet à la technologie de comprendre les émotions humaines, puis de s'adapter et de répondre à ces émotions.
Elisabeth : Donc Affectiva, si je comprends bien, est sortie du Media Lab en, quoi, vers 2009 ?
Nuit: Oui correct. Il y a presque 10 ans.
Elisabeth : D'ACCORD. Et les co-fondateurs sont Rosalind Picard, qui dirige le groupe d'informatique affective du Media Lab, et Rana El Kaliouby - je ne sais pas si je dis bien.
Nuit: Rana El Kaliouby.
Elisabeth : Elle était donc postdoctorale à ce moment-là dans le groupe, n'est-ce pas ?
Nuit: Correct.
Elisabeth : Quelles étaient les grandes idées qu'ils mettaient tous les deux sur la table en 2009, et à leur avis, qu'est-ce qui manquait à l'informatique, et qu'espéraient-ils changer ?
Nuit: Le Dr Rosalind Picard a en fait lancé le domaine de l'informatique affective. Elle a écrit le livre fondateur il y a environ deux décennies, intitulé Affective Computing. Donc, ce domaine est vraiment son idée originale. Et aujourd'hui, elle dirige toujours le groupe au MIT Media Lab. Alors Rana, le Dr Rana El Kaliouby, a rejoint le groupe de Ros Picard en tant que postdoc, et ensemble, ils ont construit l'idée que la technologie pourrait avoir la capacité de comprendre et de répondre aux émotions humaines, d'améliorer fondamentalement les interactions humaines avec la technologie pour les rendre plus pertinent, plus approprié, mais aussi peut-être pour aider les humains à mieux appréhender ou mieux contrôler leurs émotions. Au début, en particulier, l'accent était mis sur les applications en santé mentale, en particulier pour aider les enfants autistes, à utiliser la technologie pour leur apprendre à reconnaître ou à comprendre les émotions, puis à les encadrer sur la manière d'exprimer leurs propres émotions de manière appropriée. . Alors que c'est là que, vraiment, cette idée a commencé dans les premiers jours.
Nuit: Et puis Rana et Ros ont commencé à susciter beaucoup d'intérêt dans l'industrie. Donc, au MIT, bien sûr, il y a beaucoup d'événements et de conférences où les membres de l'industrie viennent se faire une idée des nouveautés technologiques et de ce qui évolue et, au cours de ces journées de démonstration, ils ont commencé à susciter un grand intérêt commercial pour leur technologie. Parmi un certain nombre d'industries différentes, en fait, y compris l'automobile, ce qui est assez intéressant, c'est là que nous sommes très actifs aujourd'hui. À l'époque, ils sont allés voir le directeur du Media Lab et lui ont dit : Hé, nous avons besoin de plus de budget pour embaucher plus de chercheurs, et il leur a conseillé à juste titre : Eh bien, il est temps de vous lancer et de créer votre propre entreprise. Et c'est ainsi qu'en 2009 ils ont co-fondé Affectiva. Ros Picard dirige maintenant le groupe au MIT Media Lab, donc au quotidien, elle n'est plus impliquée dans l'entreprise. Mais le Dr Rana El Kaliouby est aujourd'hui notre PDG.
Elisabeth : Si je comprends bien, vous avez deux produits principaux. Vous avez un produit axé sur les études de marché et un autre - vous avez mentionné l'automobile - qui concerne la sécurité des conducteurs. Pouvez-vous en dire plus sur ces deux produits ? Peut-être commencer par celui qui est axé sur les études de marché. C'est ce qu'on appelle l'Affdex ?
Nuit: Donc, en fait, il y a différents, plus que ces deux produits que nous avons. Nous avons donc emballé notre technologie de différentes manières. Mais ces deux marchés que vous décriviez sont vraiment les marchés clés que nous recherchons aujourd'hui. Donc le premier, où nous avons notre technologie, Affdex, pour les études de marché, est un produit. Il s'agit d'une solution basée sur le cloud qui permet essentiellement aux médias et aux annonceurs, y compris les grandes marques du monde, de tester leur contenu, comme les publicités vidéo et les programmes télévisés, auprès d'audiences cibles. Et sur ce marché, nous sommes le leader du marché depuis un bon nombre d'années, nous avons ce produit commercial depuis près de huit ans à ce stade. Et aujourd'hui, environ un quart des entreprises du Fortune Global 500 utilisent notre technologie pour tester toutes leurs publicités dans le monde entier. Je pense que depuis ce mois-ci, nous avons probablement testé plus de 40 000 publicités dans 87 pays, et nous avons analysé plus de sept millions et demi de visages. Donc d'énormes quantités de données que nous avons. Et cela nous a permis de créer un produit qui peut également aider ces annonceurs à prévoir les indicateurs de performance clés dans la publicité. Ainsi, les données émotionnelles, ou l'analyse des émotions, peuvent en fait les aider à prédire la probabilité que le contenu devienne viral, ou l'intention d'achat ou l'augmentation des ventes.
Elisabeth : D'accord. Maintenant, aidez-moi à comprendre, comment ça marche, comment ça marche réellement. Alors, est-ce que c'est prendre une vidéo de quelqu'un pendant qu'il regarde une publicité, par exemple ? Et puis il analyse les réactions du visage aux yeux ?
Nuit: Oui, en gros, c'est comme ça que ça se passe. En ce qui concerne la façon dont nous travaillons généralement, nous travaillons avec de grandes sociétés d'analyse ou des sociétés d'études de marché, des sociétés comme Kantar Millward Brown. Ils ont d'énormes processus de recherche dans lesquels ils s'engagent avec leurs clients de marque pour comprendre comment leur publicité et leur mise sur le marché doivent avoir lieu. Nous faisons désormais partie de leurs méthodologies de recherche, ce qui signifie que notre technologie est intégrée à leurs plateformes globales. Et généralement, comment cela fonctionnerait, ils ont payé des panélistes qui sont recrutés pour participer à ces études sur les connaissances des consommateurs. Dans le cadre de ces études, il peut y avoir une composante d'enquête, mais il y a aussi une composante qui dit, OK, nous aimerions que vous regardiez en ligne un élément de contenu, qui pourrait être une émission télévisée ou une publicité vidéo, et nous vous demandons pour vous inscrire et consentir à ce que nous enregistrions et analysions votre visage pendant que vous regardez ce contenu. Et c'est là que notre technologie entre en jeu.
Nuit: C'est une solution basée sur le cloud. Tout ce dont nous avons besoin est de prendre, avec permission, l'accès à la caméra de quelqu'un, et pendant qu'il regarde ce contenu, assis à la maison ou où qu'il se trouve, sur son appareil, nous enregistrons discrètement en arrière-plan, son instant par instant réactions à ce contenu. Nous analysons donc image par image ces réponses. Et curieusement, nos recherches ont montré que les gens oublient assez rapidement qu'il y a une caméra là-bas. Ils réagissent naturellement à tout ce qu'ils voient. Et c'est ce genre de réaction impartiale et non filtrée que vous voulez. Parce qu'avec cette idée, si vous l'accumulez ensuite à grande échelle, vous pouvez prendre des décisions vraiment importantes concernant votre contenu et même le placement de votre contenu ou la façon dont vous dépensez vos dollars publicitaires.
Nuit: Ce sont donc essentiellement les premiers marchés sur lesquels Affective a démarré. Aujourd'hui, nous sommes encore très actifs sur ce marché. L'automobile est un autre marché pour lequel il faut vraiment s'attaquer de plein fouet en ce moment. Et au cours de la dernière année, il y a presque un an, nous avons lancé une nouvelle solution pour ce marché appelée AffectivA Automotive AI. Fondamentalement, il s'agit de notre technologie de base conditionnée et adaptée à l'industrie automobile, car les cas d'utilisation y sont très différents. Ils sont doubles. D'une part dans l'automobile comme nous le savons tous, la sécurité routière est un enjeu clé. Il y a juste beaucoup de décès et d'accidents tragiques qui se produisent sur les routes chaque jour en raison de la distraction au volant et de la somnolence au volant. Et si vous pouviez détecter qu'un conducteur est distrait ou somnolent et que la voiture intervienne de manière pertinente et appropriée ? C'est une chose que ces constructeurs automobiles recherchent tous. Et c'est là qu'intervient notre technologie, car encore une fois, rien qu'en utilisant les caméras qui se trouvent déjà dans les voitures aujourd'hui, nous pouvons très simplement et discrètement comprendre les états émotionnels et les états cognitifs complexes des gens, tels que la somnolence et la distraction, en analysant leur visage. C'est donc un cas d'utilisation dans l'automobile. Essentiellement, la surveillance du conducteur pour aider à améliorer la sécurité routière.
Elisabeth : Vous devez disposer de beaucoup de données que vous devez utiliser pour entraîner vos systèmes afin de pouvoir lire les visages d'un grand nombre de personnes. Pouvez-vous nous dire d'où proviennent vos données d'entraînement et quel genre de coup de pouce vous avez obtenu grâce à la révolution de l'apprentissage automatique et de l'apprentissage en profondeur au cours des cinq ou dix dernières années ? Pouvez-vous nous en dire un peu plus sur vos processus de données ?
Nuit: Ouais absolument. Alors peut-être que je devrais commencer par l'apprentissage automatique et l'apprentissage en profondeur et pourquoi nous les utilisons réellement. Ainsi, lorsque vous pensez aux émotions humaines et à la façon dont elles évoluent et se manifestent, les émotions humaines sont en fait très complexes, souvent extrêmement subtiles et nuancées. Et puis, quand vous pensez à des états cognitifs complexes, qui techniquement ne sont pas des émotions, des choses comme la somnolence et la distraction, ce sont aussi des choses qui évoluent avec le temps. Et c'est rarement prototypique. Rarement dans le monde réel voyez-vous ce sourire exagéré ou quelqu'un s'endormir tout de suite. C'est temporel. Et être capable de modéliser ces complexités, vous ne pouvez pas le faire avec une approche heuristique basée sur des règles. Vous avez vraiment besoin d'utiliser l'apprentissage automatique pour pouvoir détecter ce type de complexités.
Nuit: C'est pourquoi il y a un bon nombre d'années, notre R&D a vraiment changé pour que toute notre technologie soit construite avec des approches d'apprentissage automatique. Désormais, les architectures d'apprentissage automatique et d'apprentissage en profondeur doivent être alimentées par des quantités massives de données. En plus de cela, pour nous, encore une fois, lorsque vous pensez à la modélisation des états humains, il est évident que les gens ne se ressemblent pas en fonction de l'âge, du sexe et de l'ethnie. Et puis il y a aussi les influences culturelles et les normes culturelles qui changent parfois l'expression des émotions dans les états humains. Ainsi, en plus de pouvoir alimenter l'apprentissage en profondeur, nous avons également besoin de grandes quantités de données pour tenir compte uniquement de la diversité qui existe dans l'humanité, des diversités qui existent dans le monde entier. Ainsi, pour Affectiva, les données sont essentielles à tout ce que nous faisons. Et nous avons analysé des quantités massives de données et nous avons collecté des quantités massives de données. En fait, nous avons analysé plus de 7,6 millions de visages dans 87 pays.
Elisabeth : Et d'où sors-tu ces données ?
Nuit: De différentes manières. Donc, avant tout, ce que je voudrais dire, parce que c'est si important pour nous, toutes ces données sont collectées avec l'opt-in et le consentement. Nous avons toujours, soit nous recrutons des personnes pour que leurs données soient collectées, soit c'est par le biais de mécanismes en ligne où nous disons explicitement aux gens que nous collectons des données et leur demandons la permission de le faire. De plus, ces données sont pour la plupart anonymisées. Donc, Elizabeth, si vous avez participé à l'une de nos études, il est tout simplement impossible que je retrouve votre visage. Parce qu'essentiellement, vous êtes un visage. Vous n'êtes pas une personne nommée. Nous sommes donc très attachés à cela.
Nuit: Nous collectons ces données de différentes manières. Comme je l'ai mentionné précédemment, nous sommes très actifs dans les médias et la publicité et grâce à nos partenariats dans cette industrie, nous avons effectué un grand nombre de tests médiatiques, et c'est grâce à cela que nous avons collecté d'énormes quantités de données. Il existe d'autres relations avec les clients pour lesquelles nous avons, essentiellement, des accords de partage de données. Tous nos clients ne souhaitent pas partager leurs données, mais certains le font. C'est donc une autre voie par laquelle nous obtenons des données. Et puis, quand vous pensez par exemple à l'industrie automobile, et prenons l'exemple de la somnolence au volant, nous avons donc cet ensemble de données de base massif qui nous permet de construire ces algorithmes. Mais nous n'avons pas nécessairement d'énormes quantités de somnolence. Maintenant, pour modéliser cela et créer des algorithmes pour cela, vous n'avez pas seulement besoin de données somnolentes, mais vous avez certainement besoin d'une certaine couche de ces données en plus de ce que vous avez déjà, afin que vous puissiez régler vos algorithmes pour cela.
Elisabeth : Ainsi, vous pouvez discerner entre un regard somnolent et, je ne sais pas, un regard ennuyé.
Nuit: Exactement, exactement ou distrait juste parce que ceux-ci se manifestent différemment.
Elisabeth : Et ils ont des conséquences différentes en tant que conducteur.
Nuit: Ah absolument. Absolument. Et aussi en ce qui concerne la façon dont vous collectez ces données dans le véhicule, il y a aussi une sorte de défis opérationnels, en fonction du placement de la caméra, des angles de caméra. Et maintenant, bien sûr, nous devons prendre en charge les caméras proches de l'infrarouge qui sont utilisées, car lorsque vous conduisez la nuit ou dans un tunnel, les conditions d'éclairage ne sont pas très bonnes. Ce sont donc toutes des conditions environnementales pour lesquelles nous aurions dû entraîner nos algorithmes. Mais quand on y pense, capturer des données de conduite somnolente, ce n'est pas si facile. Parce que ce n'est pas comme si nous pouvions garder les gens éveillés pendant 48 heures dans l'un de nos fantastiques laboratoires du sommeil autour de Boston, puis les envoyer sur Memorial Drive dans une voiture et voir s'ils s'endorment. C'est quelque chose que nous ne voulons pas nécessairement faire.
Nuit: Il s'agit donc également de collecter des quantités massives de données, d'extraire nos données pour les occurrences naturelles de ces états, puis de réaliser des études très spécifiques ciblées sur les données démographiques qui ont tendance à avoir sommeil lorsqu'elles conduisent. Par exemple, nous avons fait un certain nombre d'études avec des travailleurs postés - des personnes qui peuvent travailler de longues journées, par exemple, disons une usine, et qui doivent ensuite rentrer chez elles en voiture au milieu de la nuit. Vous avez plus de chances de capturer des données somnolentes de cette façon. Nous collectons donc nos données de différentes manières. Cela nous donne un énorme référentiel de données, puis un sous-ensemble de ces données est utilisé pour modéliser vos classificateurs d'apprentissage automatique. Et puis vous créez un autre sous-ensemble que vous utilisez pour la formation et la validation. Donc, vous les gardez en quelque sorte séparés. Et nous collectons en permanence des données, annotant en permanence ces données. C'est juste un aspect continu de nos efforts de R&D et de la croissance du référentiel de cette façon.
Nuit: À droite. Donc, ce dont vous venez de parler, ce sont les façons dont vous avez conçu la lecture des émotions. Maintenant, qu'en est-il de la nécessité de programmer les ordinateurs pour interpréter et utiliser ces informations. N'est-ce pas beaucoup plus difficile à faire ?
Nuit: Ça dépend. Que ce soit ou non plus difficile à faire dépend un peu des interactions. Et c'est généralement la décision de conception ultime de notre client, mais c'est aussi un processus collaboratif. Pour que nous développions ces algorithmes capables de détecter et d'analyser les émotions humaines, il est également extrêmement important de comprendre quels sont les cas d'utilisation ? Comment veulent-ils utiliser cette technologie? Parce que vous ne pouvez pas simplement construire ces algorithmes dans le vide. C'est donc un processus très collaboratif.
Nuit: Je disais donc plus tôt que nous sommes assez actifs dans l'industrie automobile en ce moment. C'est donc un dialogue permanent avec les constructeurs automobiles sur la manière dont ils utilisent nos données pour concevoir ensuite des adaptations ou des interventions sur un véhicule. Et une partie de cela est un processus très évolutif. Si vous pouvez voir que quelqu'un est distrait dans un véhicule, vous ne voulez pas nécessairement que toutes ces alertes et alarmes se déclenchent, si ce n'est qu'une distraction mineure, n'est-ce pas ? Cela pourrait exaspérer les gens ou les aggraver encore plus et provoquer un comportement de conduite encore plus dangereux. Vous voulez être en mesure de comprendre les niveaux, les intensités et la fréquence des distractions, puis de concevoir des interventions très subtiles, pertinentes et appropriées.
Nuit: Et il y a aussi une vision de l'état futur, et nous n'en sommes certainement pas là d'un point de vue technologique, mais je pense que nous nous y dirigeons à l'avenir. Et si vous pouviez personnaliser cela à l'individu? Alors peut-être que lorsque vous devenez somnolent, vous aimeriez écouter de la musique hard rock. Peut-être même que je suis somnolent, je veux absolument sortir de ma voiture et me dégourdir les jambes et me promener. Et la façon dont ma voiture ou un futur taxi robot répond à mes besoins...
Elisabeth : Est adapté.
Nuit: Est adapté à mes besoins personnels dans le moment, à droite. Donc, la promesse de potentiellement construire cela de manière personnalisée, je pense que nous y allons dans le futur, mais pas encore là aujourd'hui, et je ne pense pas que nous verrons cela de sitôt dans les voitures sur la route .
Elisabeth : Je suis intéressé par la mesure dans laquelle vous pensez tous au potentiel de retour de flamme de cela. Alors en ce moment, bien sûr, nous parlons beaucoup de Facebook. On parle beaucoup des élections de 2016. Nous parlons de la manipulation dont nous sommes presque sûrs qu'elle s'est produite via des plateformes de médias sociaux comme Facebook. Et je me demande dans quelle mesure vous vous inquiétez de ce qui pourrait être fait avec la technologie d'Affectiva et à travers la lecture de la façon dont les gens réagissent à certaines choses et donc l'ajustement de ce message pour le rendre plus percutant. Vous inquiétez-vous du type de conséquences imprévues de cette technologie, si elle n'est pas gérée correctement ?
Nuit: Bien sûr, nous nous en soucions. Mais je pense que chaque entreprise technologique doit s'inquiéter des applications potentiellement néfastes des produits qu'elle conçoit. Parce que franchement, chaque élément technologique que nous utilisons quotidiennement peut être utilisé à des fins malveillantes ou à des fins néfastes. Pensez au camion. C'est le moyen de transport de choix pour les terroristes. Ou google maps. À droite. Ces technologies et ces systèmes n'ont donc pas été conçus pour ces cas d'utilisation. Je pense donc avant tout qu'en tant qu'entreprises technologiques, vous devez toujours être conscient de cela, surtout maintenant que la technologie est devenue si accessible, et que la puissance de calcul est si forte, et qu'elle est à la portée de tous les consommateurs. Vous devez être conscient de cela.
Elisabeth : Mais lorsque vous avez une boîte à outils, vous inquiétez-vous de ce qui se passerait si cette trousse à outils pouvait être utilisée d'une manière contre laquelle vous ne seriez pas nécessairement en mesure de vous prémunir ?
Nuit: Ouais absolument. Il y a donc des choses que les entreprises peuvent faire et des choses que nous avons faites. Je parlais donc juste en quelque sorte de généralités sur ce à quoi je souhaiterais que les entreprises technologiques réfléchissent continuellement. Mais pour revenir à votre question précédente, pour revenir à la question initiale, est-ce que cela nous inquiète ? Absolument oui. Et qu'est-ce qu'on y fait ? Un certain nombre de choses différentes. Donc, avant tout, notre technologie, nous faisons très attention à qui nous accordons la licence. Et nous devenons beaucoup plus stricts en ce qui concerne où nous en étions peut-être même il y a quelques années. Ce n'est donc pas comme si quelqu'un pouvait simplement s'emparer de notre technologie et construire quelque chose avec.
Nuit: Il existe également des accords de licence ou des documents juridiques que nous avons en place qui nous protègent contre cela. Nous avons également déclaré en tant qu'entreprise qu'il existe certains types de cas d'utilisation auxquels nous ne vendrons tout simplement pas notre technologie. Nous croyons à l'opt-in et au consentement, car lorsque vous analysez des choses telles que les émotions humaines, les émotions sont extrêmement privées, et nous ne voulons pas nous engager dans la sécurité ou la surveillance où les gens n'ont pas la possibilité d'opt-in ou de consentir à leur visages analysés. Et nous avons en fait refusé des affaires qui nous auraient conduits dans cette voie.
Elisabeth : Nous ne serions même pas là où nous en sommes en ce moment si nous ne ressentions pas tous beaucoup de cynisme ou de scepticisme quant à la capacité de la technologie à être exploitée ou à éviter des conséquences négatives imprévues. À droite? Donc, dans un sens, cela donne à tout le monde, vous tous les gars êtes sous surveillance de plus près, parce que nous nous sentons timides face à la technologie. Et nous savons que les autorités de régulation à Washington sont inefficaces à cet égard.
Nuit: Ils le sont parce qu'ils ne le comprennent pas bien. Si vous avez des sénateurs qui demandent à la direction de Facebook comment ils gagnent de l'argent, parce qu'ils ne comprennent pas les concepts de base du ciblage publicitaire personnalisé, alors nous avons un problème. C'est aussi une question d'éducation. Mais en plus, une friction intéressante, non ? Parce qu'il y a aussi, je pense, en dehors des énormes responsabilités des entreprises technologiques, et où certaines ont peut-être été à la traîne ou négligentes, qu'en est-il du consommateur, n'est-ce pas ? Parce qu'il y a cette valeur perçue à avoir. Nous aimons utiliser les plateformes de médias sociaux et nous sommes d'accord pour partager nos vies là-bas, car nous pensons en tirer de la valeur. Et nous, en tant que consommateurs, ne posons pas beaucoup de questions, et cela aussi m'inquiète. Surtout quand vous savez que j'ai une fille qui est sur le point d'avoir 13 ans et je pense qu'elle passera beaucoup plus de temps sur les appareils et les réseaux sociaux. Comment éduquez-vous pour cela ? Même en tant que consommateur, ces systèmes sont également devenus extrêmement complexes. Allez simplement dans les paramètres de votre iPhone et essayez de comprendre où vont les données, comment elles circulent, et que voulez-vous éteindre quand, et comment et comment faites-vous même cela?
Elisabeth : C'est très difficile à déchiffrer.
Nuit: Ce n'est pas très intuitif, non ? Délibérément ainsi. Et vous devez vous assurer d'aller là-bas et de trouver des informations et de le faire et de l'inverser, plutôt que l'inverse, où peut-être que les données sont gardées privées tout le temps et vous entrez et vous autorisez l'accès. Je pense qu'il y a donc une énorme friction entre la valeur que les consommateurs perçoivent et la valeur que les entreprises technologiques obtiennent réellement avec les données. Transparence là-dedans. Donc, pour nous, en tant qu'entreprise, nous nous en soucions certainement.
Elisabeth : Vous avez ces conversations.
Nuit: Oh oui. En continu. Et aussi dans les forums publics. Nous avons rejoint le Partnership on AI, qui est un consortium industriel conçu pour réaliser essentiellement une IA juste, responsable, transparente et éthique. Et nous étions l'une des rares start-up invitées à en faire partie. Mais c'est une façon que nous espérons conduire au changement. Et nous avons également de la chance que Rana, notre PDG, soit un leader d'opinion en IA, une personnalité publique. Elle a des occasions d'être là-bas et de parler dans des lieux publics. Et elle veut être très vocale sur ces questions parce que nous avons une opinion bien arrêtée à ce sujet. Et nous pensons également que nous avons la responsabilité sociale d'être transparents à ce sujet et de plaider en faveur du changement. Dans la mesure où une startup de 50 personnes peut le faire. Mais nous devons tous apporter notre contribution.
Elisabeth : Alors, quand je pense à ce que l'impact de l'IA émotionnelle ou de l'IA émotionnelle pourrait être sur le chemin, cela signifie-t-il que, Siri obtiendra, Alexa comprendra mieux mes émotions et me répondra en fonction de mes émotions ? Et si oui, qu'est-ce que cela signifie pour l'avenir ? Qu'est-ce que cela signifie si nos appareils sont intelligents de cette manière à propos de nous en tant qu'êtres émotionnels ?
Nuit: Alors aujourd'hui bien sûr où nous sommes connectés par des systèmes et des technologies hyper avancées. IA avancée. Beaucoup de capacités cognitives. Mais ce qui manque vraiment, c'est cette conscience émotionnelle. Ces systèmes ne comprennent pour la plupart pas nos états, nos réactions, notre bien-être. Et chez Affectiva, nous pensons certainement que cela crée des interactions très inefficaces et superficielles avec la technologie. Et si ces systèmes pouvaient comprendre nos émotions, nos états cognitifs, nos réactions et nos comportements ? Dans quelle mesure nos interactions avec ces technologies seraient-elles plus efficaces ?
Nuit: Donc, à l'avenir, j'envisage certainement un monde dans lequel notre type de technologie, l'intelligence artificielle émotionnelle, est ancrée dans le tissu des technologies qui sont à portée de main tous les jours. Il est discrètement en arrière-plan, comprenant et répondant à notre bien-être émotionnel. J'ai toujours eu cette vision aussi que nous, les humains, porterions peut-être avec nous, appelons-la notre passeport émotionnel. C'est notre empreinte numérique émotionnelle que nous contrôlons. Nous possédons ces données. Nous gérons cela. Et nous permettons, avec nos permissions et nos désirs, d'emporter cela avec nous de l'appareil à l'expérience numérique partout où nous utilisons la technologie. Que nous soyons assis dans notre bureau à travailler sur notre ordinateur portable pour monter dans notre voiture ou utiliser un covoiturage ou sur nos systèmes domestiques, comme une maison Google ou dans Alexa, vous l'appelez. Tout type de technologie avec laquelle nous interagissons. Il y aurait cette compréhension cohérente de notre bien-être et cela nous guiderait, nous conseillerait et nous aiderait. Et je pense que c'est la partie critique. Et c'est pourquoi je pense qu'il est aussi si important que tout cela se fasse avec notre propre consentement, consentement et contrôle.
Elisabeth : C'est tellement fascinant, parce que vous pouvez penser à cette technologie utilisée pour créer une sorte d'empathie dans les appareils que nous utilisons et les expériences que nous avons, n'est-ce pas ? Et répondez à la façon dont nous lisons ou réagissons à une publicité par exemple et adaptez-la. Et vous pouvez également penser que cette technologie est utilisée comme un moyen de gérer les émotions que nous ressentons. Donc, quand vous parliez d'un passeport émotionnel, vous pouviez en quelque sorte dire, je me sens grognon, je ne me sens pas bien, et je veux que mes appareils et ma technologie répondent à cela. Ou vous pouvez regarder cela car mes appareils ont besoin d'une manière ou d'une autre de me sortir de cette émotion. Et c'est assez intéressant d'y penser. Cela pourrait aller dans les deux sens. Et vous savez, je suppose que j'ai mon propre vote quant à la manière dont je serais le plus à l'aise avec cela.
Nuit: Et idéalement, les systèmes vous comprendraient assez bien, ce qui serait approprié sur le moment. Parce qu'ici, nous permettons à ces données d'être suivies longitudinalement et peut-être que le matin, un appareil domestique que j'utilise pourrait dire, Hey Gabi, il semble que vous n'êtes pas aussi heureux qu'hier matin. Je peux aussi dire que vous n'avez pas vraiment dormi les 7 heures qui sont optimales pour vous. Souhaitez-vous que j'active cette liste de lecture ? Et peut-être que vous ne voulez pas que le lecteur fonctionne aujourd'hui. Pourquoi est-ce que je ne te commande pas un covoiturage pour toi ? Ou la machine à café vient de démarrer dans la cuisine. Ou vice versa. Donc, vous rentrez du travail et c'est comme, Hé, vous avez eu une journée vraiment difficile au travail. J'ai fait une réservation au restaurant pour vous et la baby-sitter vient chercher votre enfant. Ouais. Et l'idée est qu'avec, appelons ça un passeport émotionnel, qui donne à nos systèmes et aux technologies que nous utilisons, leur donne un aperçu de notre état personnel et de notre bien-être, l'idée est que cela peut aider à nous guider et nous conseiller et essentiellement essayer de rendre nos vies meilleures ou plus efficaces. Bien sûr, personnellement, j'aimerais que cela soit toujours sous mon contrôle et mon opt-in et mon consentement. Peut-être que je ne veux pas que mes données de bien-être soient envoyées à mon médecin ou, à Dieu ne plaise, à ma compagnie d'assurance. Mais peut-être que dans certaines situations, cela est utile. Et pouvoir permettre à nos technologies de mieux comprendre notre bien-être et notre état peut être extrêmement précieux.
Elisabeth : Merveilleux. Eh bien merci, Gabi, cela a été très intéressant. Il s'agit d'un domaine de développement passionnant, et nous vous souhaitons beaucoup de succès.
Nuit: Merci beaucoup et merci d'avoir parlé avec moi. C'étaient de si bonnes questions. J'ai vraiment aimé parler avec toi. Merci.
Elisabeth : C'est tout pour cet épisode de Business Lab. Je suis votre hôte Elizabeth Bramson-Boudreau. Je suis PDG et éditeur de MIT Technology Review. Nous avons été fondés en 1899 au Massachusetts Institute of Technology. Vous pouvez nous trouver en version imprimée, sur le Web, lors de dizaines d'événements en direct chaque année, et maintenant sous forme audio. Sur notre site Web, TechnologyReview.com, vous pouvez en savoir plus sur nous. Et n'oubliez pas de postuler pour rejoindre le MIT Technology Review Global Panel, un groupe de leaders d'opinion, d'innovateurs et de cadres, où vous pourrez apprendre de vos pairs et partager votre expertise sur les tendances technologiques et commerciales d'aujourd'hui. Postulez sur TechnologyReview.com/globalpanel. Cette émission est disponible partout où vous obtenez vos podcasts. Si vous avez apprécié cet épisode, nous espérons que vous prendrez un moment pour nous évaluer et nous évaluer sur Apple Podcasts. Business Lab est une production de MIT Technology Review. Le producteur est Wade Roush avec l'aide éditoriale de Mindy Blodgett. Un merci spécial à notre invité Gabi Zijderveld. Merci de votre attention. On revient bientôt avec un nouvel épisode.