Ouvrir la recherche aux parvenus sémantiques

Même si vous avez une excellente idée pour un nouveau moteur de recherche, il est loin d'être facile de la faire démarrer. D'une part, les meilleurs talents en ingénierie résident dans les grandes entreprises. Plus important encore, selon certaines estimations, il en coûte des centaines de millions de dollars pour acheter et entretenir les serveurs nécessaires à l'indexation du Web dans son intégralité.





Cependant, Yahoo a récemment publié une ressource qui peut offrir de l'espoir pour rechercher des innovateurs et des entrepreneurs. Appelé Build Your Own Search Service (BOSS), il permet aux programmeurs d'utiliser l'index du Web de Yahoo - des milliards de pages qui sont continuellement mises à jour - éliminant ainsi peut-être le plus grand obstacle à l'innovation en matière de recherche. En ouvrant son index à des milliers de programmeurs et d'entrepreneurs indépendants, Yahoo espère que BOSS lancera des projets pour lesquels il manque de temps, d'argent et de ressources pour s'inventer. Prabhakar Raghavan , directeur de Yahoo Research et professeur-conseil à l'Université de Stanford, explique que cela pourrait inclure de meilleures méthodes de recherche de vidéos ou d'images, des outils qui utilisent les réseaux sociaux pour classer les résultats de recherche, ou un moteur de recherche sémantique qui essaie de comprendre le contenu des pages Web, plutôt qu'une simple collection de mots-clés et de liens.

Nous essayons de briser les barrières à l'innovation, dit Raghavan, même s'il admet que BOSS est loin d'être une entreprise altruiste. Si un nouvel outil de moteur de recherche construit à l'aide de l'index de Yahoo devient populaire et potentiellement rentable, Yahoo se réserve le droit de placer des annonces à côté de ses résultats.

Jusqu'à présent, aucun site BOSS n'a connu un tel succès. Mais un certain nombre de startups commencent à développer leurs services sur BOSS, et les entreprises du Web sémantique, en particulier, bénéficient de la plate-forme. Ces entreprises développent des logiciels pour traiter des concepts et des significations afin de mieux organiser l'information sur le Web.

Par exemple, Hakia , une entreprise basée à New York, a commencé à créer un moteur de recherche sémantique en 2004. Ses algorithmes utilisent une base de données de concepts (personnes, lieux, objets, etc.) pour comprendre les concepts contenus dans les documents. Hakia crée également des cartes reliant différents documents, tels que des pages Web, basées sur ces concepts afin de comprendre leur pertinence les uns par rapport aux autres. Riza Berkan, PDG de l'entreprise, déclare que se concentrer sur la signification des pages, au lieu de simplement sur les liens entre elles, pourrait fournir des résultats de recherche plus pertinents et aider les gens à trouver du contenu qu'ils ne savaient même pas qu'ils recherchaient.

Cependant, pour bien faire cela, Hakia doit avoir accès à autant de pages Web que possible, et c'est là que BOSS s'intègre. Pour une requête donnée, Hakia utilise l'index BOSS de Yahoo pour déterminer un ensemble de résultats pertinents. Le logiciel de Hakia détermine alors si ces pages ont déjà été analysées par le logiciel sémantique de l'entreprise. S'ils ne l'ont pas fait, ils seront traités et les résultats seront stockés sur les serveurs de Hakia. Nous explorons le Web de toute façon, dit Berkan. Mais sans l'index de Yahoo, nous serions en retard sur les sites que les gens recherchent aujourd'hui. Et plus les pages scannées par Hakia sont populaires, meilleur sera son index.

Une autre startup sémantique, appelée Cluuz , de l'Ontario, Canada, adopte une approche légèrement différente. Lorsqu'un utilisateur effectue une recherche avec Cluuz, il verra les résultats de Yahoo BOSS, mais ils sont réorganisés en fonction de la technologie de recherche sémantique de la startup. Lorsque vous effectuez une requête, explique Alex Zivkovic, CTO de Cluuz, nous la transmettons à Yahoo BOSS, et nous obtenons une liste de résultats… Ensuite, pour chacune de ces pages, le moteur Cluuz analyse le contenu, extrait des entités – personnes, entreprises, numéros de téléphone et ce genre de choses. Ces concepts, explique-t-il, sont ensuite comparés aux concepts trouvés sur d'autres pages, et les concepts qui surviennent le plus souvent sont jugés les plus pertinents.

Au lieu de regarder les pages liées en fonction des liens physiques, nous les examinons pour savoir si elles parlent ou non des mêmes concepts, explique Zivkovic. Cela conduit à une expérience utilisateur différente, ajoute-t-il. Par exemple, les termes pertinents pour une requête de recherche sont extraits du Web et mis en évidence sur la droite de la page de résultats. Une recherche de Kate Greene récupère immédiatement mon adresse e-mail à Examen de la technologie , l'université que j'ai fréquentée et un certain nombre de personnes que j'ai interviewées pour des histoires passées. De plus, Cluuz fournit d'autres outils qui permettent de visualiser facilement les liens et les relations entre différents concepts sémantiques.

Même avec la puissance de l'indice Yahoo derrière une entreprise, rien ne garantit que Hakia ou Cluuz seront un succès. Mais s'ils décollent, cela pourrait aider Yahoo, qui reste loin derrière Google en termes de popularité, à reprendre l'avantage. La philosophie sous-jacente [avec BOSS] est que nous ne pourrons pas tout inventer nous-mêmes, déclare Raghavan. Nous devons donc faciliter l'innovation.

cacher