Question liée à l'utilisation d'un sitemap

Nouveau WRInaute
Bonjour,
J'aimerai juste savoir si, lors de l'utilisation d'un sitemap, le moteur de recherche ne prend en compte que les URLs du sitemap ou s'il référence aussi toutes celles qu'il trouve sur le site ?

Si je pose cette question c'est parce que je voudrais qu'il ne prenne en compte que les urls du sitemap et non ce qu'il pourrait trouver sur le site car j'ai parfois, suite à l'utilisation de categories et de sous categories, trois voir quatre URLS différentes pour la même page ce qui risque de posé problème.

Merci pour votre réponse
Philippe
 
WRInaute discret
Bonjour,

Il te suffit de mettre à la racine de ton serveur web (là ou il y a ta page index.html) un fichier qui s'appel robots.txt dans lequel tu précises aux robots d'indexation d'ignorer certaines pages ou répertoires de ton site.

Exemple :

User-agent: *
Disallow:/Edisys/
Disallow:/copyright.html
Disallow:/menu.php
Disallow:/quota.cgi
Disallow:/work_in_progress.html

Si tu as des pub google adsense sur ton site, ajouter également ces 2 lignes au début du fichier robots (pour autoriser le robot google adsense à regarder le contenu de tes pages afin de te proposer des pubs plus ciblées à tes visiteurs).

User-agent: Mediapartners-Google*
Disallow:

++
 
Nouveau WRInaute
Est-ce que le fait de mettre dans le fichier robots.txt

Code:
Disallow: /
va arreter la lecture du fichier par le robot ?
N'est-il pas possible de mettre les instructions comme ceci :

Code:
Disallow: /
Allow: /product_info.php
Allow: /index.php

merci pour votre aide
 
Discussions similaires
Haut