Utiliser les yeux et les oreilles d'un smartphone pour enregistrer chacun de vos mouvements

Beaucoup d'entre nous enregistrent déjà les endroits où nous allons et les choses que nous faisons en utilisant notre smartphone pour prendre des photos et des vidéos avec diligence et pour mettre à jour les comptes de réseaux sociaux. Une société appelée ARO est une technologie de construction qui recueille automatiquement un enregistrement automatique plus complet de votre vie.





ARO est derrière une application appelée Saga qui enregistre automatiquement chaque endroit où va une personne. À présent, les ingénieurs d'ARO testent des moyens d'utiliser le baromètre, les caméras et les microphones d'un appareil, ainsi que ses capteurs de localisation, pour déterminer ce que quelqu'un fait et où. Cette approche devrait faire ses débuts dans l'application Saga à la fin de l'été ou au début de l'automne.

La version actuelle de Saga, disponible pour les téléphones Apple et Android, enregistre automatiquement les lieux visités par une personne ; il peut également collecter des données sur l'activité quotidienne à partir d'autres services, y compris les applications de suivi d'exercice FitBit et RunKeeper, et peut extraire des mises à jour de comptes de réseaux sociaux comme Facebook, Instagram et Twitter. Une fois que l'application a fonctionné sur un téléphone pendant un certain temps, elle produit des infographies sur la vie de l'utilisateur ; par exemple, tracer la variation des heures auxquelles il ou elle part travailler le matin.

Le logiciel exécuté sur les serveurs d'ARO crée et maintient un modèle des mouvements typiques de chaque utilisateur. Ces modèles alimentent les fonctionnalités de résumé de la vie de Saga et aident l'application à suivre une personne toute la journée sans que les capteurs soient toujours allumés, ce qui brûlerait trop la durée de vie de la batterie.



Si je sais que vous allez rester assis au travail pendant neuf heures, nous pouvons éteindre notre politique de collecte pour consommer le moins d'électricité possible, déclare Andy Hickl, PDG d'ARO. Saga se réveillera et vérifiera l'emplacement d'une personne si, par exemple, l'accéléromètre d'un téléphone suggère qu'elle est en mouvement ; et il peut y avoir une confirmation d'autres indices, tels que le mélange de réseaux Wi-Fi à portée du téléphone. Hickl dit que Saga consomme généralement environ 1% de la batterie d'un appareil, nettement moins que de nombreuses applications populaires pour la messagerie électronique, la cartographie ou les réseaux sociaux.

Cette consommation est suffisamment faible, dit Hickl, pour que Saga puisse se permettre d'augmenter les informations qu'elle collecte en accédant à des capteurs téléphoniques supplémentaires. Il dit que l'échantillonnage occasionnel des données du baromètre, des caméras et des microphones d'un téléphone permettra à Saga d'enregistrer des détails comme lorsqu'une personne entre dans une salle de conférence pour une réunion ou visite Starbucks, seule ou en compagnie.

La version Android de Saga a récemment commencé à utiliser le baromètre présent dans de nombreux smartphones pour distinguer les emplacements proches les uns des autres. Les changements de pression peuvent être utilisés pour mieux distinguer des endroits similaires, explique Ian Clifton, qui dirige le développement de la version Android d'ARO. Cela peut être le premier étage par rapport au troisième étage dans le même bâtiment, mais aussi à l'intérieur d'un véhicule par rapport à l'extérieur, même dans le même espace physique.



ARO teste en interne des versions de Saga qui échantillonnent la lumière et le son de l'environnement d'une personne. Clifton dit que l'utilisation du microphone d'un téléphone pour collecter de courtes empreintes digitales acoustiques de différents endroits peut être un précieux signal supplémentaire de localisation et permettre des inférences sur ce qu'une personne fait. Parfois, nous ne savons pas si vous êtes au Starbucks ou au bar d'à côté, dit Clifton. Avec les empreintes digitales acoustiques, même si les lectures du capteur [emplacement] sont similaires, nous pouvons le distinguer.

Échantillonner occasionnellement la lumière autour d'un téléphone à l'aide de son appareil photo fournit un autre type de signal supplémentaire de l'activité d'une personne. Si vous passez de la lumière ambiante à la lumière naturelle, cela nous dirait que votre contexte a changé, dit Hickl. Avec l'aide de ces informations, il devrait être possible pour Saga d'apprendre la différence entre, disons, les différentes zones d'un bureau.

En fin de compte, l'échantillonnage des données de lumière, de son et de pression permettra aux modèles d'apprentissage automatique de Saga de renseigner plus de détails sur la vie d'un utilisateur, explique Hickl. [Quand] je rentre chez moi aujourd'hui et j'y passe 12 heures, à Saga qui ressemble à un mur de rien, dit-il, notant que Saga pouvait utiliser des signaux sonores ou lumineux pour déduire quand pendant ce temps à la maison il était, disons, en train de regarder la télévision , jouer avec ses enfants ou dîner.



Andrew Campbell , qui dirige des recherches sur la détection des smartphones au Dartmouth College, déclare que l'ajout de fonctionnalités d'enregistrement de la vie automatique plus détaillées est crucial pour que Saga ou toute autre application similaire ait un impact généralisé. La détection automatique soulage l'utilisateur de la charge de saisir de nombreuses données, dit-il. Les applications de détection automatique et continue qui minimisent l'interaction avec l'utilisateur sont susceptibles de l'emporter.

Campbell dit que la journalisation automatique, associée à l'apprentissage automatique, devrait également permettre aux applications d'en savoir plus sur la santé et le bien-être des utilisateurs. Il a récemment commencé à analyser les données d'un essai dans lequel 60 étudiants ont utilisé une application de journalisation de la vie qu'il a développée, appelée Biorythme . Il utilise diverses astuces de collecte de données, notamment l'écoute des voix à proximité pour déterminer quand un élève est en conversation. Nous pouvons voir de nombreux modèles intéressants liés aux performances en classe, à la personnalité, au stress, à la sociabilité et à la santé, explique Campbell. Cela pourrait se traduire par n'importe quelle situation de performance sur le lieu de travail, comme une startup, un hôpital, une grande entreprise ou la maison.

Le projet de Campbell peut façonner la façon dont il dirige ses cours, mais il ne doit pas nécessairement rapporter de l'argent. ARO , financé par le cofondateur de Microsoft, Paul Allen, doit en fin de compte rendre la journalisation de la vie payante. Hickl dit qu'il a déjà commencé à louer une partie de la technologie d'ARO à d'autres entreprises qui souhaitent pouvoir identifier l'emplacement ou les activités de leurs utilisateurs. Les données agrégées des utilisateurs de Saga devraient également être précieuses, dit-il.

Maintenant, nous obtenons une masse critique d'utilisateurs dans certains domaines et nous sommes en mesure de repérer les tendances, dit-il. L'équipe nationale de football des États-Unis était à Seattle, et nous avons pu voir où l'activité se réchauffait autour de la ville. Hickl dit que les données de cet événement pourraient aider les autorités municipales ou les entreprises à planifier de futurs événements de football à Seattle ou ailleurs. Il ajoute que Saga pourrait fournir des informations similaires sur de nombreux autres modèles de la vie quotidienne autrement invisibles.

cacher