Présentation Biblio. (DESS IIR) Les moteurs de recherche Web Jérémy CLUZEL Philippe ROCHEBLOINE

Présentation Biblio. (DESS IIR)Présentation Biblio. (DESS IIR)

Les moteurs de recherche WebLes moteurs de recherche Web

Jérémy CLUZEL

Philippe ROCHEBLOINE

Les moteurs de recherche web

SommaireSommaire

IntroductionDéfinitionPrésentationFonctionnementArchitectureConclusion


IntroductionIntroduction


IntroductionIntroduction

Internet en croissance exponentielle.

Source importante d’informations ne pouvant être ignorée (même si utilisée en complément…).

Données et documents pertinents noyés dans l’immensité du réseau.

Utilisation d’outils de recherche quasi-obligatoire.


DéfinitionDéfinition


DéfinitionDéfinition

Expression « moteur de recherche » souvent employée à tord.

Importance de la différenciation entre les différents outils existants

Diversité plus complémentaire que concurrentielle


PrésentationPrésentation


PrésentationPrésentation

moteursméta–moteursannuairesportailsanneaux« web invisible »autres…


MoteursMoteurs

Outil permettant de rechercher les pages comportant une expression donnée.

Ex: AltaVista, Excite, Google, Lycos…

+ Exhaustif, options de recherche utiles, indexation de chaque mot.

– Nombre de réponses souvent élevé, une certaine expérience d’utilisation est requise.


Moteurs (suite) – les catégoriesMoteurs (suite) – les catégories

Sémantiques : intégration du sens du langage au processus de recherche (dictionnaires de concepts, thésaurus).

Multi-dimensionnels : paramétrage poussé, affinage de la catégorisation des documents, et des procédés de requêtes croisées.

Verticaux : adaptation à des problématiques métier bien particulières.


Méta-moteursMéta-moteurs

« Super-moteurs » permettant d’effectuer simultanément une recherche sur plusieurs moteurs et annuaires.

Ex: Debriefing, MetaCrawler, Savvy Search.

+ Puissance cumulée de plusieurs outils, efficacité croissante.

– Longueur de la recherche, fantaisie de certains résultats, efficacité moindre par rapport aux moteurs spécialisés.


Annuaires (ou répertoire)Annuaires (ou répertoire)

C’est un catalogue de sites, ne recensant que certains sites seulement.

Création de fiches descriptives avec titre, URL, et bref descriptif (15 à 25 mots).

Utilisation de bases de données décrivant une sélection de sites indexée par une liste arborescente de catégories (ou rubriques).

Ex: Francité, Nomade, Yahoo...


Annuaires (suite)Annuaires (suite)

+ Utilisation simple, encadrement de l’internaute dans sa recherche à l’aide de raffinements successifs.

– Non-exhaustif (seule une petite partie du réseau est référencée) nécessité de mettre à jour très régulièrement le contenu des rubriques.


PortailsPortails

Site offrant un ensemble de ressources et de services (généraux ou propres à un domaine) à un ensemble d'utilisateurs défini (grand public, membre d'une profession, d'une branche d'activité...).

Ex: Cuisinons, Visioweb.

+ Navigation et recherche d'information facilitées, services à valeur ajoutée.

– Sites cloisonnant…


Portails (suite)Portails (suite)


Portails (suite) – les servicesPortails (suite) – les services

Outils de recherche, Information (actualité, finance, météo, etc.), Outils de communication (E-mail, listes de

diffusion, groupes de discussion), Outils de consommation (vente en ligne,

publicité, etc.), Personnalisation, Du contenu...


Anneaux (« WebRings »)Anneaux (« WebRings »)

Communauté (de sites) décentralisée à l'extrême, liée par un thème commun.

L'anneau sélectionne et contrôle humainement la qualité des sites proposés.

+ Qualité et fiabilité de l'information.– Recherche du « bon » anneau laborieuse.

http://nav.webring.yahoo.com


« Web invisible »« Web invisible »

Partie du Web contenant des documents n’ayant pas été indexés.

Origines : Type de fichiers, données dynamiques, robot de recherche bridé, documents « interdits de référencement »…

Outils :, All-One-Search, AlphaSearch, Fossick, Invisibleweb, Searchability…


Autres…Autres…

Impossibilité de citer, et de classer la totalité des outils de recherche existants.

Quelques exemples de ces catégories difficilement « classables » :

Recherche d'adresses classées par zone géographique (FinderSeeker, Excite Travel).

Recherche d‘objets perdus (Yellowtag).


FonctionnementFonctionnement


FonctionnementFonctionnement

Vue d’ensemble,

Le robot – explorateur,

Le système d’indexation,

Le module de recherche,Modes d’interrogation,Techniques utilisées.


Vue d’ensembleVue d’ensemble

Le « spider » récupère et analyse le maximum d’informations provenant des pages qu’il visite.

Le système d’indexation s’occupe de stocker, et classer ces informations dans une base de données.

Le « searcher » est chargé de retrouver dans cette base, les documents qui correspondent le mieux à la requête émise.


Fonctionnement généralFonctionnement général


Le robot – explorateur (« spider Le robot – explorateur (« spider »)») C’est un robot logiciel qui explore de façon

autonome le « Web ». Son efficacité est capitale pour le moteur. Identifie les liens des pages, puis les visite

à son tour, parcourant ainsi rapidement la totalité du site, puis ceux qui lui sont rattachés.

Examine périodiquement des millions de pages et constitue de cette façon une base de données de celles déjà visités.


Le système d’indexationLe système d’indexation

Analyse les informations collectées, construit un index des mots rencontrés (et des pages correspondantes), puis stocke l’ensemble dans une base de données.

Convertit certains fichiers ne pouvant pas être indexés à cause de leur format.

Utilise des outils d’extraction pour ne récupérer que « l’essence » des documents.

Ex: Fulcrum, Infoseek, Intelliserv, Livelink.


Le système d’indexation (suite)Le système d’indexation (suite)

Les techniques d’indexation :

Au début, seulement les titres des documents,

Puis, tous les mots du premier paragraphe,

Aujourd’hui : les méta-données (ou metatags), ex: balise HTML <META>.


Module de recherche (« searcher »)Module de recherche (« searcher »)

Le searcher est le frontal de l'utilisateur. Grâce à son interface graphique, on peut

poser une question, sélectionner les options disponibles, et lancer une recherche.

Un script faisant alors appel au système d'indexation pour qu’il exécute la requête sur la base de données.

Les résultats affichés sous forme de page Web intégrant généralement les réponses sous forme de liste.


Module de recherche – modes d’interro.Module de recherche – modes d’interro.

Booléen : utilisation des opérateurs logiques (AND, OR, NOT, NEAR, etc.),

Liste de mots : requête retranscrite en une expression booléenne,

En langage naturel (expérimental).


Module de recherche - techniquesModule de recherche - techniques

Documentaire classique : utilisant des fichiers d'index de type mots-clés (mots ou expressions normalisés).

Textuelle : cherchant à retrouver les documents " ressemblant " le plus à la question posée.Pour cela, on utilise des techniques linguistiques (question posée en langue naturelle) ou statistiques (pondération des valeurs des mots et des documents)

Floue : autorisant les erreurs (OCR)


ArchitectureArchitecture


ArchitectureArchitecture

Architecture Générale

Exemple de base de données (DILIB)

Exemple d’architectures (ALTAVISTA)


Architecture GénéraleArchitecture Générale

P ages W eb

BD

Robots

Indexation

Recherche

Serveur W eb

N av iga teu rC lien t

M o teu r d e rech erch e

R e c h e rc h e


DILIBDILIB

DILIB est une plate-forme pour l'Ingénierie du Document et de l'Information Scientifiques et Techniques

partie recherche


Structure base de données (DILIBStructure base de données (DILIB))

Données Source

Génération

Fichier D irect

Consignes

Fichiers Inverse

Fichiers Param ètre


Fichier direct / inverseFichier direct / inverse

N° enregistrement Titre Auteur Mots clés

000000 Tintin au Congo Herge Tintin, Milou, chien

000001 Tintin en Amérique Herge Tintin, Milou, cheval, chien

000003 Les Dalton Morris, Goscinny Lucky Luke, cheval

000004 Astérix le Gaulois Goscinny, Uderzo Asterix, Idefix, chien

Asterix 000004

Cheval 000002, 000003

Chien 000001, 000002, 000004

Idefix 000004

Lucky Luke 000003

Milou 000001, 000002

Tintin 000001, 000002

Goscinny 000003, 000004

Herge 000001, 000002

Morris 000004

Uderzo 000004

M ots clés Auteurs

Fichier direct

Fichier inverse


Architecture moteur ALTAVISTAArchitecture moteur ALTAVISTA


Deux serveursDeux serveurs


Serveurs en parallèlesServeurs en parallèles


Serveurs IndépendantsServeurs Indépendants


ConclusionConclusion

Accroissement important de la quantité d’informations disponible sur le réseau.

Progression notable (mais pas encore suffisante) des performances des outils de recherche.

Nouvelles technologies intelligentes prometteuses : agents, recherche en langage naturel.


BibliographieBibliographie

Glossaire spécialisé dans le domaine :

http://www.idf.net/mdr/glossaire.html

Divers sites explicatifs :

http://www.decisionnel.net/recherche/

http://www-dist.cea.fr/ext/neuf/moteur/

Sur le Web invisible :

http://www.asktibbs.com/web_invisible.html

Sur les Anneaux:

http://2sevres.clipewebring.free.fr/quoi.html

Liste de discussions :

[email protected]

Documents

Présentation Biblio. (DESS IIR) Les moteurs de recherche Web Jérémy CLUZEL Philippe ROCHEBLOINE