FAQ : fichier robots.txt et balises meta robots
Voici les questions (et les réponses !) les plus fréquemment posées sur les robots (ou crawlers ou spiders), la façon de les détecter et les moyens pour les empêcher d'indexer certaines pages.
Liste de toutes les questions
Ces questions sont données dans leur ordre initial, vous pouvez aussi les consulter classées par nombre de hits décroissant.
Fichier robots.txt
- Pourquoi ai-je des demandes pour un fichier /robots.txt dans mes fichiers log ?
- Comment interdire aux robots d'indexer mon site ?
- Quel est le format du fichier robots.txt ?
- J'ai créé un fichier robots.txt mais il n'est pas pris en compte. Pourquoi ?
- Est-il possible de créer un fichier robots.txt dans chaque répertoire ?
- Est-il possible d'exclure un type de fichier particulier ?
- Comment fixer des règles différentes suivant les robots ?
- Je n'ai pas la possibilité de créer un fichier robots.txt : comment faire ?
Balise META robots
- Qu'est-ce que la balise META robots ?
- Où dois-je placer la balise META robots ?
- Dois-je indiquer aux robots que j'autorise l'indexation d'une page ?
- Quelle est la syntaxe complète de la balise META robots ?
Lectures recommandées sur ce thème :
- La balise meta NOYDIR de Yahoo
- Des informations sur l'algorithme de Yahoo Search fournies par Priyank Garg
- X-Robots-Tag : directive pour bloquer les robots dans l'entête HTTP : explications
- Affichage de la description DMOZ dans MSN Search
- Balises meta et référencement : les bases à savoir
- Sortie de GoogleStats v2.01
- Outil officiel de suppression de pages de l'index Google
- Affichage de la description DMOZ dans Google
- Mort du META tag "keywords"
- Lancement de Spider Simulator
- robots.txt et balise meta robots, incompatibilité ?
- balises META et fichier robots txt
- Balise meta robots index,nofollow
- Meta robots ?
- syntaxe de la meta name robots
- Balise Meta Robots
- importance meta name et robots.txt ?
- Différence entre ces 2 meta robots
- Yahoo introduit la balise meta robots NOYDIR
- meta robots sur toutes les pages ?
Consultez la description détaillée des produits ou services de Google suivants : Google Feed Fetcher, Google Site Stats, Google Sitemaps
- Analyseur de densité
Cet outil vous permet de calculer l'indice de densité d'un mot-clé d'une page web. Il est calculé à la fois pour la balise TITLE, la balise META description et l'ensemble du texte de la page.
Hébergement web
Pour un bon référencement, il faut un bon hébergeur. Testez Sivit, l'hébergeur choisi par Olivier Duffez pour son site WebRankInfo (+ de 3 millions de visites/mois). Vous bénéficiez d'une garantie 30 jours satisfait ou remboursé.
A partir de 1,90 EUR HT/mois.
A la une sur WebRankInfo
Formation au référencement
Découvrez le programme de formation au référencement le plus complet : méthodologie d'optimisation du référencement Google, sites dynamiques, stratégies de liens, blogs, formation juridique Internet, Google Analytics, taux de transformation, ROI, etc.
Ce cycle de formation peut être pris en compte par votre budget formation... profitez-en !
Cette formation est assurée notamment par Olivier Duffez, créateur du site WebRankInfo et consultant indépendant en référencement.

