L'algorithme de « détection de flash » vise à nettoyer le chat vidéo

L'une des tendances les plus extraordinaires dans l'utilisation d'Internet a été l'essor rapide des services de chat vidéo tels que Chatroulette. Ces services relient aléatoirement les webcams des personnes qui visitent le site.

Mais Chatroulette a un problème. Le site est dominé par des flasheurs qui exposent leurs parties génitales.

Quelque 6,3 millions de visiteurs ont utilisé Chatroulette en juillet 2010, peut-être en raison de la nature sexuelle de son contenu.

Mais cela représente une menace importante pour les mineurs. Il n'y a pas de moyen facile de contrôler l'âge des personnes qui visitent des sites Web et les mineurs peuvent y accéder facilement. Selon Xinyu Xing de l'Université du Colorado à Boulder et quelques amis, un nombre important d'utilisateurs de Chatroulette semblent être des mineurs.

Nos observations un samedi soir typique indiquent que jusqu'à 20-30% des utilisateurs de Chatroulette sont mineurs, disent-ils dans un article publié aujourd'hui sur arXiv.

Xing et co ont une solution, cependant. Cette équipe a développé un algorithme de détection de flash qui repère les contrevenants, leur permettant d'être expulsés.

Il s'avère qu'attraper les clignotants est plus difficile qu'il n'y paraît au premier abord. Une façon consiste à utiliser un mécanisme de crowdsourcing dans lequel les utilisateurs signalent les délinquants dont le flux vidéo peut ensuite être évalué par des personnes formées et arrêté si nécessaire.

Mais c'est une tâche longue et coûteuse qui est susceptible d'abus. Et avec plus de 20 000 utilisateurs à tout moment, il est peu probable que Chatroulette fonctionne à long terme.

Une autre approche consiste à utiliser des algorithmes existants conçus pour détecter les contenus pornographiques. Le fonctionnement exact de ces algorithmes n'est pas tout à fait clair, mais ils semblent rechercher le contenu de la peau dans les images.

Malheureusement, ce type de logiciel ne fonctionne pas bien avec le contenu de chat vidéo, disons Xing et co. En effet, les images vidéo sont souvent mal éclairées, ce qui rend difficile la distinction de la peau des murs blanc jaunâtre en arrière-plan, par exemple.

Ainsi, Xing et co ont développé leur propre algorithme, appelé SafevChat, qu'ils ont testé sur quelque 20 000 images fixes extraites de vidéos Chatroulette et fournies par le fondateur du service Andrey Ternovskiy. Leur article donne un aperçu détaillé de son fonctionnement.

La nouvelle approche est intéressante car elle analyse les images selon plusieurs critères différents puis fusionne les résultats avant de décider si l'image est acceptable ou non.

Pour surmonter le problème des murs et des meubles de couleur chair, ils combinent la détection de la peau avec la détection de mouvement qui compare des images séquentielles pour voir si la peau bouge. Et ils utilisent des détecteurs du visage, des yeux et du nez pour distinguer la peau du visage de la peau non faciale. Les résultats sont fusionnés et l'image est ensuite classée comme normale ou offensante, ayant été formée sur l'ensemble de données initial.

Xing et ainsi dire que cela fonctionne bien et nettement mieux qu'un programme commercial de détection d'images pornographiques appelé PicBlock. Ils ont un vidéo montrant comment cela fonctionne sur leur site Web .

En fait, SafeVChat fonctionne si bien que Chatroulette a commencé à l'utiliser sur son site Web au début du mois.

Que cela rende Chatroulette plus ou moins populaire, nous devrons attendre et voir. Mais avec un peu de chance, cela rendra le site plus sûr pour toutes les personnes concernées.

Réf : arxiv.org/abs/1101.3124 : SafeVchat : Détecter le contenu obscène et les utilisateurs qui se comportent mal dans les services de chat vidéo en ligne

cacher