Les pièges émergents de la prévision immédiate avec le Big Data

Plus tôt cette année, la Banque centrale européenne a organisé un atelier de deux jours sur les mégadonnées et leur utilisation pour les prévisions. L'orateur principal était Hal Varian, économiste en chef chez Google et un numéro cruncher du statut de rock star.

Varian a souligné la puissance de Google Trends et de Google Correlate, les outils Big Data de l'entreprise. Avec Google Trends, vous saisissez une requête et récupérez une série de données d'activité. Avec Google Correlate, vous entrez une série de données et récupérez une liste de requêtes dont la série de données suit un schéma similaire, explique Google sur son site Web Correlate. En d'autres termes, Google Correlate est comme Google Trends à l'envers.

Varian a montré toutes sortes de tendances et de corrélations intéressantes. Par exemple, les recherches du mot gueule de bois augmentent considérablement le samedi, culminent le dimanche et chutent nettement le lundi. Et le modèle est similaire au modèle de recherche du mot vodka, bien qu'avec un retard d'un jour (ou plus probablement, une nuit et un matin après).

Dans un autre exemple, il a montré comment la saisie des données sur les demandes initiales d'allocations de chômage aux États-Unis renvoyait une liste de 100 requêtes qui suivaient un schéma similaire, y compris l'expression s'inscrire au chômage.

Il y a des limites bien sûr. Il a montré une fausse corrélation entre les ventes d'automobiles aux États-Unis et la recherche de restaurants indiens entre 2004 et 2012. La raison pour laquelle ces deux ensembles de données suivent des tendances similaires n'est pas claire, mais comme tout statisticien vous le dira, corrélation ne signifie pas causalité.

Le message était clair. Les données des requêtes de recherche sont extrêmement puissantes, mais doivent être traitées avec précaution et prudence.

Aujourd'hui, Paul Ormerod de l'University College de Londres et quelques amis disent qu'il y a d'autres raisons d'être prudent. Ces gars-là ont étudié les données de Google Flu Trends dans lesquelles Google utilise le nombre de recherches liées à la grippe pour prédire l'incidence de la grippe dans différentes parties du monde à un moment donné.

Ormerod et co disent qu'il existe plusieurs exemples impressionnants où Google a estimé avec précision le nombre de cas de grippe, par exemple aux États-Unis en 2011/12, en Suisse 2007/8, en Allemagne 2005/6 et en Belgique 2007/8. Cette capacité à surveiller la grippe a reçu une large attention des médias.

Moins connus sont les cas où Google Trends a considérablement surestimé le nombre réel de cas de grippe. Cela s'est produit aux États-Unis durant l'hiver 2012/13, en Suisse en 2008/9, en Allemagne en 2008/9 et en Belgique en 2008/9.

Pourquoi la différence ? Ormerod et co émettent l'hypothèse que les personnes effectuant des recherches liées à la grippe se répartissent en deux catégories. Les premiers sont ceux qui souffrent de symptômes grippaux et les seconds recherchent simplement parce que d'autres personnes recherchent aussi, peut-être en raison d'un fort intérêt médiatique pour la grippe par exemple.

Bien sûr, les données utiles proviennent du premier groupe de personnes souffrant de la grippe. Leur raison de chercher est générée en interne et indépendante du monde extérieur - ils se sentent mal. Ainsi, leur modèle de recherche devrait être différent de celui des personnes qui recherchent en raison d'influences externes telles que des articles de journaux. Ce processus de recherche sociale sert simplement à gonfler les chiffres.

Alors comment différencier ces deux groupes ? Ormerod et co émettent l'hypothèse que le schéma des recherches indépendantes au fil du temps différera considérablement des recherches sociales. En particulier, ils disent que les recherches indépendantes devraient augmenter rapidement à mesure que la grippe balaie la population et diminuer lentement à mesure que la maladie s'éteint. En revanche, les recherches sociales sont plus symétriques.

La symétrie des données est donc une mesure du niveau de recherche sociale. En effet, ils montrent que cette symétrie est nettement plus évidente les années où Google Flu Trends surestimait substantiellement les cas par rapport aux années où elle était plus précise.

C'est un exemple intéressant du genre d'écueils que les statisticiens doivent négocier lors de l'analyse de mégadonnées. Google Trends n'est qu'un exemple : le monde est de plus en plus inondé d'ensembles de données volumineuses et de statisticiens qui se lèchent les lèvres.

Il ne fait aucun doute que des informations importantes relatives à l'économie, à la santé et à d'autres choses peuvent être extraites des mégadonnées avec les bons outils. Mais la manière exacte dont cela devrait être fait avec précision et fiabilité fait toujours l'objet d'un débat important.

Ce n'est pas entièrement différent de la situation qui existe avec les données économiques actuelles, qui accusent généralement un retard d'au moins un mois sur l'économie réelle et sont souvent révisées plus tard lorsque les chiffres sont plus clairs. Le manque de fiabilité de ces chiffres est une source de préoccupation considérable pour les décideurs politiques.

Il semble clair que les agences gouvernementales, les entreprises et presque tous ceux qui souhaitent jouer avec les chiffres seront en mesure d'extraire une valeur significative des données des requêtes de recherche à l'avenir.

Mais attention, des précautions considérables sont nécessaires. Il n'y a pas que la vodka qui laisse un mauvais goût dans la bouche le lendemain matin. De nombreuses gueules de bois économiques ont été causées par une indulgence excessive dans des données peu fiables.

Réf : arxiv.org/abs/1408.0699 : Nowcasting des données économiques et sociales : quand et pourquoi les données des moteurs de recherche échouent, une illustration utilisant Google Flu Trends

cacher