211service.com
L'IA est réelle maintenant : une conversation avec Sophie Vandebroek
Pourquoi il n'y aura jamais un autre hiver de l'IA, et ce qu'IBM et le MIT font ensemble pour y parvenir.
28 février 2019
Sponsorisé par Trace sombre
Plus de fois que presque tout autre domaine d'innovation, l'intelligence artificielle a résisté à des cycles récurrents d'espoir démesuré, suivis de déception, de pessimisme et de réductions de financement. Mais Sophie Vandebroek, vice-présidente des partenariats technologiques émergents d'IBM, pense que les hivers de l'IA appartiennent véritablement au passé, grâce aux énormes quantités de puissance de calcul et de données désormais disponibles pour entraîner les réseaux de neurones.
Dans cet épisode, Vandebroek partage des exemples d'applications réelles rendues possibles par ce changement, de la reconnaissance d'images aux chatbots. Et elle décrit la mission du nouveau MIT-IBM Watson AI Lab, une collaboration de 240 millions de dollars sur 10 ans entre les chercheurs d'IBM et les professeurs et étudiants du MIT pour se concentrer sur les principales avancées qui rendront l'IA plus utile et plus fiable dans tous les secteurs, des soins de santé aux finance à la sécurité.
Cet épisode vous est présenté par Darktrace, le leader mondial de la technologie IA pour la cyberdéfense. Darktrace a son siège social à San Francisco et à Cambridge, au Royaume-Uni, et compte près de 2 500 clients dans le monde qui utilisent ses logiciels pour détecter et répondre aux cybermenaces pour leurs entreprises, leurs utilisateurs et leurs appareils. Darktrace a mis au point une technologie innovante d'apprentissage automatique capable de détecter une activité inhabituelle en utilisant une approche calquée sur le système immunitaire humain. Dans la seconde moitié de l'émission, la PDG de Darktrace, Nicole Eagan, explique comment fonctionne la technologie de Darktrace et pourquoi les entreprises doivent apporter de nouvelles défenses à la cybercourse aux armements d'aujourd'hui.
AFFICHER LES NOTES ET LES LIENS
TRANSCRIPTION COMPLÈTE
Elizabeth Bramson-Boudreau : De MIT Technology Review, je m'appelle Elizabeth Bramson-Boudreau, et voici Business Lab, l'émission qui aide les chefs d'entreprise à donner un sens aux nouvelles technologies qui sortent du laboratoire et arrivent sur le marché. Cet épisode vous est présenté par Darktrace, le leader mondial de la technologie IA pour la cyberdéfense. Plus tard dans le programme, je parlerai avec le PDG de Darktrace, Nicole Eagan. Elle nous montrera comment les progrès de l'IA et de l'apprentissage automatique nous offrent un nouvel ensemble de moyens de défense contre les pirates et les cybercriminels.
Elisabeth : Mais notre premier invité vient de l'un des plus récents centres de recherche sur l'IA, le MIT-IBM Watson AI .Lab, à quelques pâtés de maisons de nos bureaux ici à Cambridge, Massachusetts. C'est le lieu de plus de 50 nouveaux projets impliquant des chercheurs d'IBM et des professeurs du MIT, tous visant à faire progresser les technologies fondamentales derrière l'intelligence artificielle. Et ici pour parler avec nous est l'un des architectes de cet effort, le Dr Sophie Vandebroek.
Elisabeth : Sophie est actuellement vice-présidente des partenariats technologiques émergents chez IBM, et elle est connue dans l'industrie informatique pour son histoire distinguée en matière d'innovation, non seulement chez IBM mais aussi chez Xerox, où elle a passé plus d'une décennie en tant que directrice de la technologie chez Xerox. Elle a été directrice de PARC Inc., le célèbre laboratoire anciennement connu sous le nom de Xerox PARC. En 2011, elle a été intronisée au Women in Technology Hall of Fame. Conformément aux thèmes du laboratoire MIT IBM Watson AI, nous avons commencé par parler de la façon dont l'IA évolue et pourquoi elle transforme les entreprises d'une manière que la plupart des dirigeants commencent seulement à comprendre.
Elisabeth : Sophie, merci d'être venue discuter avec nous et bienvenue.
Sophie Vandebroek: Oh, c'est un grand plaisir pour moi d'être ici. J'ai été un lecteur avide de votre journal, donc je suis très heureux de participer au podcast.
Elisabeth : J'espère que vous pourrez parler non seulement à moi, mais aussi aux personnes qui écoutent ce podcast, de la direction que prend l'IA et de l'étape à laquelle nous en sommes dans le développement de l'IA. Je sais que beaucoup de gens parlent de la façon dont l'IA est sur le point de transformer le travail, pour que ces espoirs s'effondrent. Pourrions-nous être dans une autre de ces situations où cela s'essouffle, ou est-ce différent maintenant ?
Sophie : C'est très différent maintenant que l'IA est réelle. Et oui, le mot intelligence artificielle a été inventé il y a presque 70 ans. C'est tellement de décennies plus tard. Alors, qu'est-ce-qu'il s'est passé? Pourquoi n'était-ce pas réel alors, et pourquoi est-ce réel maintenant ? Il y a deux raisons principales pour lesquelles c'est réel maintenant. Et c'est à cause des lois exponentielles. La première est la loi de Moore que nous connaissons et aimons tous très bien. Le transistor, le transistor de base a été inventé dans les années 50. En 1975, il y avait 1000 transistors sur une puce d'un centimètre carré. Aujourd'hui, il y a 10 milliards de transistors sur une puce d'un centimètre carré qu'IBM développe aujourd'hui, et cette puissance de calcul a abouti aux appareils mobiles que nous avons dans nos poches, le dernier ordinateur haute performance, le Summit, vous savez, cet ordinateur IBM qui Oak Ridge National Lab acheté récemment. Il fait 200 pétaflops, soit 200 000 milliards de calculs par seconde. Je veux dire, super rapide.
Sophie : Nous avons donc un volume, je veux dire une énorme quantité de puissance de calcul, ce qui est essentiel pour que l'IA soit réelle. En plus de la deuxième loi, qui est la loi de Metcalfe. Bob Metcalfe, qui a également fait partie de la communauté de Boston pendant longtemps, était chez Xerox PARC et, comme vous le savez, avant de rejoindre IBM, j'ai travaillé quelques décennies chez Xerox en étroite collaboration avec l'équipe PARC, lorsqu'il a inventé Ethernet. Et l'Ethernet connecté... la valeur de l'Ethernet, la valeur d'un réseau est proportionnelle à 2 au nième avec n, le nombre d'appareils sur le réseau. Et c'est ce qu'on appelle la loi de Metcalfe, et elle ne fait pas seulement référence à Ethernet mais évidemment au World Wide Web, aux réseaux sociaux, et elle a créé de nombreuses entreprises très précieuses que nous connaissons tous aujourd'hui.
Sophie : Mais en plus ça a créé cet énorme volume de données, non ? Ainsi, les données sur le Web ainsi que les données numériques structurées dont disposent aujourd'hui de nombreuses entreprises, de nombreuses entreprises ont commencé à numériser tous leurs processus de travail, ainsi que toutes les données proviennent de capteurs avec l'Internet des objets et de capteurs et de fabrication et de caméras, omniprésents caméras, etc. Il y a une énorme quantité de données, en fait, elle a augmenté de façon exponentielle au cours de la dernière décennie ou plus maintenant. Et donc les «hivers de l'IA» se sont produits parce qu'en effet il n'y avait pas la puissance de calcul et il n'y avait pas les données pour former ces réseaux de neurones. Et aujourd'hui, nous avons la puissance de calcul. Nous avons les données. Et un énorme progrès a été fait dans les réseaux de neurones au cours des cinq dernières années, puisque, pour la première fois en 2012, c'était un réseau de neurones d'apprentissage profond qui fonctionnait sur une unité de traitement graphique, un GPU, qui pour le a remporté pour la première fois un concours de reconnaissance d'images. Et en fait, c'est dans ces zones étroites que l'IA a une qualité surhumaine et une super vitesse. Et donc pour ces raisons, ces deux exponentielles, l'IA est réelle. Et en fait, je dirais que l'intelligence artificielle elle-même est maintenant au début d'une courbe exponentielle, que nous créons de nouvelles informations à une vitesse exponentielle que les individus, quel que soit leur secteur d'activité, peuvent utiliser pour prendre des décisions rapides et en temps réel. De plus, cela peut accélérer le processus de découverte dans la recherche et le développement en sciences de la vie en général. Il est donc utilisé. Et il a vraiment la capacité d'avoir un impact sur plusieurs domaines.
Elisabeth : C'est donc une excellente explication de ce qui a vraiment permis ce changement et pourquoi l'IA est un sujet si omniprésent pour les chefs d'entreprise aujourd'hui. Qu'est-ce que cela permet, qu'est-ce que l'IA permet aux entreprises de faire ce qui aurait pu être difficile, voire impossible, à faire il y a dix ans ?
Sophie : Oui, c'est vrai, cela permet aux entreprises d'augmenter à la fois leur efficacité et leur efficience du point de vue du résultat net, du point de vue de la rentabilité. Mais cela leur permet également de créer de tout nouveaux modèles commerciaux et de nouvelles opportunités de revenus. Permettez-moi de donner un exemple du premier. Par exemple, les agents virtuels qui entrent dans cette catégorie d'IA étroite dont nous venons de passer cette phase, nous sommes aujourd'hui dans la phase d'IA large et nous pouvons en parler avant d'en arriver à l'intelligence artificielle générale. Mais les agents virtuels ou les chatbots que beaucoup d'entre nous connaissent et avec lesquels nous interagissons aujourd'hui dans le cadre des serveurs clients n'existaient tout simplement pas il y a dix ans. Tout était fait par des agents de centres d'appels qui devaient exploiter de grandes bases de données pour vous obtenir vos réponses à vos questions, et cetera. Eh bien aujourd'hui, la plupart de cela, les agents virtuels peuvent le faire de manière très efficace et efficiente. En fait, certains de ces agents virtuels d'aujourd'hui évalueront très rapidement si vous êtes extraverti ou introverti et ajusteront leur langage en fonction de votre style.
Sophie : L'automatisation aussi. par exemple, si vous conduisez votre voiture à travers un poste de péage aujourd'hui, la reconnaissance et la lecture des plaques d'immatriculation sont totalement automatiques, de sorte que, dans le cadre des processus backend, vous êtes en fait facturé pour avoir traversé les postes de péage. Encore une fois, la plupart de ces processus étaient tous effectués manuellement dans le passé. Des photos des plaques d'immatriculation seraient prises, seraient envoyées en Inde pour être traitées, puis quatre personnes sur cinq, si votre plaque d'immatriculation est entrée dans le système, vous seriez facturé. Ce sont tous ces processus transactionnels, routiniers, très étroits, très spécifiques qui sont aujourd'hui automatisés.
Elisabeth : Tout cela semble fantastique. Et en tant que chef d'entreprise, je peux penser que vous savez pourquoi je ne voudrais pas voir une plus grande efficacité. Mais y a-t-il des choses auxquelles je dois peut-être réfléchir concernant les risques des outils basés sur l'apprentissage automatique ?
Sophie : Oui, il y a certainement des risques. Et pour de nombreuses entreprises, chez IBM, c'est une priorité. Nous créons les outils et les capacités dans le cadre d'IBM OpenScale ou nous avons d'autres kits d'outils que je soulignerai. L'une d'entre elles consiste à aider les entreprises à faire face aux risques. Cela commence également à devenir une priorité des conseils d'administration et des administrateurs des entreprises, pour s'assurer que ces risques liés au déploiement et à l'adoption de l'intelligence artificielle dans le cadre de l'organisation sont pris en compte. Permettez-moi d'en souligner quelques-uns. Le premier est de s'assurer que les algorithmes, les algorithmes d'IA sont justes - que le résultat de l'algorithme d'IA, car l'IA aide les humains à prendre des décisions, que les décisions sont justes et éthiques et non biaisées. Nous venons donc de lancer l'open source, n'importe qui peut nous aider à l'améliorer, donc IBM recherche en open source la boîte à outils AI Fairness 360, où vous pouvez extraire votre algorithme, puis il est vérifié pour toutes sortes de biais. Aujourd'hui, nous vérifions les préjugés sexistes, les préjugés liés à l'âge, les préjugés raciaux, des choses comme les préjugés liés au code postal. Certaines des raisons du biais sont que l'ensemble de données avec lequel l'argument est formé, et en particulier dans les entreprises - les entreprises n'ont pas d'énormes volumes de données comme dans le monde de la consommation, à droite, où il pourrait y avoir une énorme quantité d'images de chat former un algorithme d'image pour reconnaître un chat. Les entreprises où une entreprise, disons un hôpital, une école ou une entreprise, dispose d'une quantité limitée de données pour former les algorithmes, de sorte que les données peuvent ne pas avoir une quantité suffisante de diversité et d'inclusion dans l'ensemble de données, de sorte qu'en fait les algorithmes deviennent biaisé.
Sophie : Un exemple, par exemple, est que les départements des ressources humaines commencent à utiliser l'IA pour aider à trouver de nouveaux employés. Et donc si votre source de développeurs de logiciels exploite un algorithme d'IA qui pourrait être formé sur vos données, l'algorithme apprendra que la plupart des développeurs de logiciels sont des hommes, car c'est ce que vous avez embauché dans le passé. Le risque est donc que les algorithmes recommandent alors à votre prochaine embauche, en examinant tous les CV, qu'ils recommandent proportionnellement plus d'hommes que de femmes pour les emplois en génie logiciel. Nous savons tous que le sexe n'a pas d'importance pour un ingénieur logiciel. Il se trouve que les données historiques étaient biaisées dans les données. Ainsi, les outils recommanderont alors d'avoir un ensemble de données plus diversifié.
Elisabeth : D'accord, alors quels sont certains des autres risques ?
Sophie : D'accord. Les autres risques sont, je veux dire plus que les algorithmes d'aujourd'hui, en particulier l'apprentissage en profondeur et les réseaux de neurones, sont comme des boîtes noires. Le risque est donc que l'algorithme vous donne une réponse. Oui, vous obtenez un prêt, ou non, vous n'obtenez pas de prêt, ou oui vous avez un cancer de la peau parce que l'IA est meilleure que les humains pour identifier le cancer de la peau. Mais ça ne peut pas s'expliquer. Il n'explique pas pourquoi ni comment il est arrivé à cette réponse. Et donc l'explicabilité est très importante. C'est donc un risque, que dans votre entreprise, vous ne puissiez pas expliquer comment certaines réponses ont été obtenues. Et de fait dans l'Union Européenne, avec le RGPD, le Règlement Général sur la Protection des Données, c'est une obligation. Les entreprises ne peuvent même pas utiliser l'IA si elle ne peut pas s'expliquer. Tout doit pouvoir être expliqué.
Elisabeth : Parlez-nous donc un peu du MIT-IBM Watson Lab et de sa mission.
Sophie : Ouais. Merci pour la question. Il s'agit d'un partenariat très excitant entre la recherche IBM et le MIT que nous avons établi il y a un peu plus d'un an. C'est donc un engagement de 240 millions de dollars d'IBM sur 10 ans et c'est un laboratoire unique, un laboratoire de collaboration université-industrie, au monde. Aucun autre de ce genre n'existe. En fait, moi-même et le doyen de l'ingénierie au MIT, Anantha [Chandrakasan], avons commencé à réfléchir à l'été 2017, je crois que c'était...
Sophie : Tu m'as dit que tout s'était passé assez vite.
Elisabeth : C'est arrivé en trois semaines. Peut-être quatre semaines si j'en avais si j'inclus le déjeuner qu'Anantha et moi avons eu avant que notre vice-président senior ne parle au président du MIT un lundi matin et trois semaines plus tard un vendredi, le contrat était signé. Et c'est effectivement le cas, la vision était de créer ce laboratoire commun d'environ 100 chercheurs, et les chercheurs comprenaient des chercheurs d'IBM, des professeurs du MIT et des étudiants, et nous avons célébré le premier anniversaire en septembre. En septembre 2018. Et en effet, nous avons 49 projets communs qui sont actifs aujourd'hui, avec environ 100 personnes ou l'équivalent de 100 personnes sur ces projets. Et ce sont vraiment, ce sont des projets de recherche et non de technologie appliquée. Nous voulions vraiment nous assurer que ces 50 projets abordent les problèmes les plus difficiles de l'IA. Et ils font exactement cela.
Sophie : Il y a donc quatre piliers. Nous avons défini quatre piliers. L'un concerne les algorithmes d'IA de base et c'est exactement là où nous abordons ces problèmes difficiles comme l'IA qui peuvent s'expliquer. Ou apprendre à partir de petites données, différentes méthodologies pour apprendre à partir de petites données, comme les hôpitaux ont un petit ensemble de patients mais un petit ensemble de données.
Elisabeth : Pour résoudre le problème que vous avez mentionné précédemment sur le fait qu'il n'y en a pas du côté de l'entreprise, il n'y a souvent pas assez de données pour vraiment former les algorithmes.
Sophie : Pas comme cela se faisait dans le passé dans la phase étroite de l'IA. Nous sommes maintenant dans cette phase d'IA élargie où les systèmes devront apprendre à partir de petites données. Ainsi, plusieurs des projets du laboratoire MIT-IBM Watson AI sont également associés à cela.
Sophie : Le deuxième pilier est l'application de l'IA aux industries. Et aujourd'hui, nous examinons trois secteurs : la santé et les sciences de la vie, car l'unité commerciale Watson Health d'IBM a son siège social ici même à Cambridge, dans le Massachusetts. L'IA appliquée à l'industrie, c'est aussi la sécurité, appliquée aux métiers de la sécurité. Et bien sûr, la sécurité est pertinente pour toutes les industries. Et puis le troisième secteur sur lequel nous nous concentrons est celui des services financiers, donc de la finance et de l'économie. C'est donc un deuxième pilier. Il y a quatre piliers dans le MIT-IBM Watson AI Lab.
Sophie : Le troisième est, nous l'appelons la physique de l'IA. Quels sont les défis matériels pour faire une formation efficiente et efficace dans les nuages ainsi qu'à la périphérie. Et puis la quatrième catégorie, celle qui me passionne beaucoup, est une catégorie que nous appelons la prospérité rendue possible par l'IA, ou la prospérité partagée rendue possible par l'IA. Il s'agit à nouveau d'examiner ces défis sur la façon de créer des systèmes d'IA et qui ont de véritables valeurs morales qui peuvent prendre des décisions éthiques. Quel est l'avenir des emplois, par exemple, est un projet que nous avons dans cette catégorie. Et oui, ce sont les quatre piliers : les algorithmes d'IA de base, la physique de l'IA, l'IA pour les industries et la prospérité rendue possible par l'IA. Et maintenant que nous avons célébré notre premier anniversaire, nous venons de convenir entre le MIT et IBM que nous ouvrirons nos portes à d'autres grandes entreprises vraiment intéressées à être à la pointe de la recherche en intelligence artificielle pour rejoindre notre laboratoire. C'est donc sur cela que nous travaillons ensuite.
Elisabeth : Au MIT Technology Review, deux domaines sur lesquels nous passons beaucoup de temps à rendre compte sont les crypto-monnaies ou la blockchain et l'informatique quantique. J'aimerais vraiment savoir ce que vous faites tous dans ces domaines. Et peut-être que nous pouvons commencer par la crypto. Et je suppose que la question que je me pose est la suivante : comment considérons-nous la blockchain comme étant plus qu'une curiosité et en fait quelque chose de fiable et stable et qui peut en quelque sorte améliorer le contexte commercial dans lequel elle est utilisée ?
Sophie : Oui, vous avez dit le bon mot là. Tout est donc question de confiance. Quand chez IBM quand on parlait de blockchain, en fait de blockchain, beaucoup de recherches se faisaient sur la blockchain depuis plusieurs années dans les labos de recherche, et IBM a créé une entreprise il y a maintenant environ deux ans et demi, une business unit blockchain. Je vois trois types de domaines où la blockchain est utilisée aujourd'hui ou où de nombreux prototypes sont expérimentés. On est en effet dans les cryptomonnaies comme le Bitcoin. Et c'est ainsi que la plupart des gens connaissent la blockchain, ils pensent au Bitcoin. Et c'est tout un domaine de la crypto-monnaie. Chez IBM, nous ne sommes pas intéressés par la crypto-monnaie, car nos clients ne sont pas intéressés par les crypto-monnaies. Nous nous intéressons à la plateforme blockchain sous-jacente. Et en fait, une grande partie de la plate-forme sous-jacente a été open source sur Hyperledger, géré par la Linux Foundation, et IBM a contribué de manière significative au code et nous continuerons à le faire. Le suivant est d'avoir la blockchain, cette plate-forme sous-jacente, utilisée dans les chaînes de valeur pour suivre les biens de valeur ou les biens numériques de valeur au fur et à mesure qu'ils vont de leur lieu d'origine à leur lieu d'utilisation. Et je peux donner quelques exemples. Et le troisième domaine où il est précieux, en particulier dans le secteur des services financiers, concerne l'identité numérique. Et je peux donner quelques exemples là-bas. Mais ce qui intéresse les entreprises, c'est de pouvoir créer des transactions de confiance entre des partenaires qui, par nature, ne se connaissent peut-être pas, comme les petites entreprises ou les grandes entreprises, les distributeurs ou les agriculteurs.
Sophie : Et ainsi créer la confiance de manière distribuée. Ainsi, les réseaux blockchain que nous avons créés avec nos clients sont des réseaux privés. Ils ne sont pas ouverts à tout le monde. Ils sont privés. Il s'agit d'un réseau autorisé uniquement. L'un des premiers exemples que nous avons faits, qui a commencé il y a de nombreuses années et qui est maintenant opérationnel, est un réseau de chaînes de blocs pour la sécurité alimentaire que nous avons créé avec Walmart. Walmart était un membre pilier de ce réseau blockchain et de nombreux fournisseurs Walmart sont sur le réseau. Et là, il suit la nourriture de la ferme à la table. Et surtout l'intention ici est que si comme une épidémie d'E. coli ou tout autre problème de sécurité alimentaire...
Elisabeth : Laitue romaine.
Sophie : Oui, de la laitue romaine. Je veux dire, ça arrive tout le temps. Nous savions que l'épidémie était quelque part en Californie, mais tout, y compris la laitue, cultivée ici dans le Massachusetts, a été retiré de l'étagère. C'est ce qui se passe aujourd'hui. Il faut beaucoup de temps pour savoir où une épidémie s'est produite. Mais si vous suivez toutes vos marchandises à travers la chaîne de blocs en deux minutes ou plus rapidement, vous pouvez rapidement savoir d'où vient cette laitue particulière. Ensuite, vous devez toujours entrer et voir à quel point de la chaîne, de la ferme au magasin et à la table, l'E. coli a-t-il effectivement contaminé les aliments. Mais c'est plus facile que de déterminer d'abord d'où vient-il. À droite.
Elisabeth : Super. Eh bien, absolument merveilleux d'avoir de vos nouvelles et d'avoir la chance de vous parler à nouveau. Et c'est génial d'avoir le laboratoire juste au coin de la rue. C'est une installation merveilleuse et c'est bien de vous avoir dans le quartier. Alors merci.
Sophie : Oh merci beaucoup. C'était mon grand plaisir.
Elisabeth : Cet épisode vous est présenté par Darktrace, le leader mondial de la technologie cyber IA. Darktrace a son siège social à San Francisco à Cambridge en Angleterre. Elle compte environ 2 500 clients dans le monde qui utilisent ses logiciels pour détecter et répondre aux cybermenaces pour leurs entreprises, leurs utilisateurs et leurs appareils. Darktrace a développé une technologie d'apprentissage automatique innovante qui peut détecter une activité inhabituelle. Pour en savoir plus sur la façon dont cela fonctionne, j'ai parlé avec le PDG de l'entreprise, Nicole Eagan.
Elisabeth : Agréable de pouvoir parler.
Nicole Eagan : Aucun problème.
Elisabeth : J'apprécie que vous fassiez cela. Chez Darktrace, vous comparez votre marque de cybersécurité au système immunitaire humain. Et j'espère que vous pourrez nous expliquer ce que vous entendez par là.
Nicole : Donc, ce qui se passait vraiment, c'est que je pense que l'industrie de la sécurité était obsédée par le fait d'essayer d'empêcher les méchants d'entrer. Et ce que nous en sommes venus à reconnaître, c'est que souvent, les attaquants très sophistiqués tels que les États-nations vont pénétrer dans n'importe quel réseau de leur choix. Nous avons donc décidé de tourner le problème dans l'autre sens et de supposer que les méchants étaient à l'intérieur ou allaient pouvoir pénétrer à l'intérieur. Cela nous a conduit à cette idée de fonder notre intelligence artificielle sur les principes du système immunitaire humain. Donc, si vous pensez au système immunitaire du corps humain, il a un sens inné de soi qui lui permet de savoir ce qui n'est pas soi et d'avoir une réponse très précise et rapide. C'est exactement comme ça que fonctionne notre intelligence artificielle. C'est intégré à l'intérieur de chacune des entreprises de nos clients et c'est juste apprendre à se connaître, ce qui est normal. Ce que nous appelons le « modèle de vie » de chaque utilisateur et appareil connecté à ce réseau. Et cela nous permet de pouvoir trouver des choses qui sortent de l'ordinaire et littéralement stopper les attaques ou les neutraliser dans leur élan.
Elisabeth : Et comment voyez-vous en général, plus généralement, les cyberattaques évoluer ces jours-ci, qu'elles proviennent d'États-nations ou d'individus malveillants, de cybercriminels ?
Nicole : Je rencontrais récemment le responsable de la sécurité d'un de nos clients et je pense qu'il avait une excellente façon de le décrire. Il a dit, pensez-y, il y a une équipe ailleurs dans le monde et le travail à temps plein de cette équipe consiste à réfléchir à la façon de voler votre propriété intellectuelle ou d'obtenir des informations de votre part. Et c'est vraiment ce à quoi les entreprises sont confrontées, et la raison en est le genre de cybercourse aux armements où nous sommes habitués à ce que les gouvernements se battent contre les gouvernements - alors que cela se produit encore, nous avons maintenant cette toute nouvelle dimension où les États-nations sont en fait éventuellement attaquer les entreprises. Et cela signifie que ce champ de bataille numérique a vraiment changé et c'est quelque chose contre lequel la plupart des entreprises n'ont vraiment pas eu à se défendre dans le passé. Maintenant, vous compliquez et combinez cela avec le fait que ces États-nations, dans de nombreux cas, peuvent également être organisés avec un réseau mondial de cybercriminalité très puissant. Et ce type de coopération entre ces entités est également une sorte de nouvelle dimension. C'est donc un peu ce à quoi les entreprises sont confrontées, c'est assez nouveau et assez nouveau par rapport aux attaques d'il y a peut-être cinq ou dix ans.
Elisabeth : D'accord. Donc, en ce qui concerne ce que fait Darktrace, utilisez-vous l'intelligence artificielle pour détecter une attaque, pour vous défendre contre une attaque, ou les deux ?
Nicole : C'est une excellente question. Vous savez, je pense que dans certains cas, les entreprises utilisent l'intelligence artificielle simplement pour automatiser les processus humains. Ainsi, par exemple, chaque entreprise dispose généralement d'un centre d'opérations de sécurité. Vous allez avoir un certain nombre d'analystes des menaces et d'intervenants en cas d'incident. Et il y a une approche qui dit bien pourquoi ne pas simplement retirer l'IA et apprendre des étapes qu'ils prennent dans ce qu'on appelle le Playbook pour répondre aux violations et l'automatiser. Et que cela peut vous apporter un petit gain d'efficacité. Mais en même temps, cela ne changera pas la donne. L'autre chose que j'ai vue utiliser pour l'IA est essentiellement d'analyser toutes les attaques historiques qui se sont produites sur d'autres personnes, sur d'autres entreprises, et d'essayer de les utiliser comme un indicateur des menaces futures. Bien que cela semble très intéressant et plutôt pratique, cela semble en fait être fondamentalement défectueux, et c'est parce que les attaques changent si rapidement. En fait, dans de nombreux cas, il n'y a que de nouvelles souches d'attaques où une seule ligne de code est modifiée, et maintenant ce qu'on appelle les signatures ne correspondent plus. Donc, dans notre cas, nous utilisons de nombreux types d'apprentissage non supervisé, supervisé et en profondeur pour pouvoir non seulement trouver les attaques, mais aussi faire en sorte que l'intelligence artificielle sache comment enquêter sur l'attaque. Et surtout comment agir concrètement. Et c'est très rare. En fait, aucune autre entreprise n'utilise l'IA pour prendre des mesures.
Elisabeth : À droite. Donc, vous faites les deux choses, alors. Vous détectez et agissez à la fois.
Nicole : Nous utilisons vraiment l'IA pour détecter, enquêter et prendre des mesures. Et cette dernière partie, l'action, est vraiment difficile et vraiment intéressante. C'est génial car il peut répondre aux attaques très rapidement en fait en moyenne il peut répondre en moins de deux secondes à une attaque. Et lorsque ces attaques se déplacent à la vitesse de la machine, c'est absolument essentiel. Mais l'autre chose que nous avons constatée, d'un point de vue pratique, c'est que cela prend du temps aux membres de l'organisation de sécurité - c'est peut-être la première fois qu'ils travaillent même avec l'intelligence artificielle et qu'ils sont augmentés - cela leur prend du temps vraiment construire cette confiance. Nous avons donc créé une toute nouvelle capacité qui lui permet de faire des recommandations. Que se passe-t-il si l'IA recommande l'action à entreprendre et qu'un humain la confirme ? Et une fois que les humains commencent à voir, wow, ils font la bonne recommandation à chaque fois, ils construisent une confiance et ils la mettent dans ce que nous appelons le mode actif. Je pense donc qu'après avoir fait cela au cours des cinq dernières années dans près de 2 500 entreprises, nous sommes devenus très bons pour comprendre ce qu'il faut pour établir cette relation de confiance, mais nos algorithmes sont également devenus très puissants et très intelligents pour répondre à ces attaques dans temps réel.
Elisabeth : Donc, à mesure que la défense s'améliore, n'est-il pas juste de dire que les attaques s'amélioreront également, peut-être en utilisant l'IA pour lutter contre la cyberdéfense orientée ou organisée par l'IA ?
Nicole : Vous avez tout à fait raison, même si c'est un peu le début et que nous n'avons vu que des indications que cela peut aller dans cette direction, et nous avons vu des choses comme des attaques comportementales où l'IA pourrait apprendre, en fait, votre style et votre mode de communication que vous utilisez disons un e-mail. Il s'agissait en quelque sorte d'un apprentissage automatique quelque peu basique à ce stade. Mais nous nous attendons à ce qu'il y ait une toute nouvelle catégorie d'attaque appelée IA offensive. Et cela signifie que les attaquants vont commencer à utiliser diverses formes d'apprentissage automatique, d'IA et éventuellement d'apprentissage en profondeur dans le cadre des attaques. Cela va donc changer toute cette industrie du jour au lendemain. Et je pense que dans l'ensemble, c'est quelque chose que beaucoup de dirigeants n'ont probablement pas encore envisagé.
Elisabeth : À droite. C'est donc très intéressant, car alors que vous parliez de la façon dont Darktrace fait le point sur ce qu'est 'l'activité normale' sur un réseau, il me semble qu'il pourrait y avoir d'autres cas d'utilisation de cette information, ou de cet aperçu. Et je me demande si au-delà d'une sorte de cybersécurité, si vous avez pensé à examiner l'activité normale pour aider avec d'autres types de choses, comme par exemple la conformité réglementaire ou la gestion des risques, des choses comme ça.
Nicole : Absolument. Je pense que ce qui est intéressant, c'est que nous avons créé un ensemble de données vraiment unique pour le compte de nos clients. Ainsi, chacun d'entre eux qui utilise Darktrace pour la sécurité aujourd'hui a en fait une intelligence artificielle intégrée qui apprend le sens de soi et qui apprend et se met à jour en permanence. Et c'est un ensemble de données qui peut être utilisé pour d'autres choses. Il pourrait être utilisé pour la conformité réglementaire. En fait, certains clients de Darktrace nous utilisent aujourd'hui pour se conformer à HIPAA et HITRUST dans le domaine des soins de santé, ou à des choses comme DFS, qui est la réglementation de l'État de New York pour les services financiers. Nous voyons donc déjà les premiers indicateurs de la manière dont ces modèles d'intelligence artificielle et cet ensemble de données unique peuvent être exploités. Je pense qu'un cas d'utilisation vraiment intéressant est celui des fusions et acquisitions. Certaines entreprises nous utilisent dans les phases de diligence raisonnable pour les fusions et acquisitions afin d'obtenir plus de visibilité sur l'environnement de l'actif cible. Et aujourd'hui, ils l'utilisent pour voir s'il pourrait y avoir un concurrent ou un État-nation à l'intérieur de ce réseau qui pourrait essayer de voler la propriété intellectuelle par exemple. Mais il existe des types beaucoup plus larges de diligence raisonnable en matière de fusions et acquisitions pour lesquels il pourrait être utilisé. Et enfin, certains clients nous utilisent également pour se conformer à la confidentialité des données comme le RGPD, en voyant quel trafic peut entrer et sortir de l'Europe. Donc, absolument, je pense qu'aujourd'hui, nous ne faisons que libérer la puissance de cet ensemble de données et de nos modèles d'IA pour la cybersécurité, nous pourrions prendre une décision à l'avenir pour aider les clients à utiliser d'autres clés pour le déverrouiller afin d'offrir une valeur supplémentaire.
Elisabeth : Et faire différentes choses avec ces informations. Ouais, c'est fascinant. Nicole, merci beaucoup de m'en avoir parlé.
Nicole : Merci beaucoup, Élisabeth.
Elisabeth : C'est tout pour cet épisode de Business Lab. Je suis votre hôte Elizabeth Bramson-Boudreau. Je suis PDG et éditeur de MIT Technology Review. Nous avons été fondés en 1899 au Massachusetts Institute of Technology. Vous pouvez nous trouver en version imprimée, sur le Web, lors de dizaines d'événements en direct chaque année, et maintenant, sous forme audio. Pour plus d'informations sur le magazine et le salon, veuillez consulter notre site Web à TechnologyReview.com. Notre émission est disponible partout où vous obtenez vos podcasts. Si vous avez apprécié cet épisode, nous espérons que vous prendrez un moment pour nous évaluer et nous évaluer sur Apple Podcasts. Business Lab est une production du MIT Technology Review. Le producteur est Wade Roush avec l'aide éditoriale de Mindy Blodgett. Remerciements particuliers à nos invitées Sophie Vandebroek et Nicole Eagan. Et merci à notre sponsor Darktrace, le leader mondial de la technologie IA pour la cyberdéfense. Merci de votre attention. On revient bientôt avec un nouvel épisode.