Robots.txt

Nouveau WRInaute
Salut a tous le monde,

Je voit partout qu'on peut indiquer les fichiers à ne pas indexer dans le robots.txt
mais une commande peut t'elle remplacer la ligne META :

Code:
<META NAME="Robots"         CONTENT="index,follow">   :?:

Ce seré le top pour mon portail phpbb url rewrité et le sid en - :lol: :lol:

Merci à tous
 
WRInaute impliqué
Je ne suis pas sûr d'avoir bien compris ta question (en fait je n'ai rien compris du tout :) ) mais dans robots.txt, tu agis au niveau des répertoires alors que la balise Meta Robots agit au niveau d'une page.
D'autre part, la balise meta robots index,follow est inutile puisque c'est le comportement par défaut. Tout comme pour robots.txt il faut indiquer ce que tu veux interdire, et les robots bien élevés obéiront.
 
Nouveau WRInaute
En fait j'ai un portal phpbb semi url rewriter ( seulement viewtopic et viewmessage )

Hier soir sur mes stats, je m'apercoi que googlebot et venu faire un tour, mais il n'a visiter que l'index sans suivre les autre liens aparement. (1hit)

donc au lieu de mettre la balise
Code:
<META NAME="Robots"         CONTENT="index,follow">

Pour que le robot suive les liens, je demandé si il y a une commande dans le robots.txt pour lui indiquer qu'il doit suivre les liens.
 
Olivier Duffez (admin)
Membre du personnel
si tu ne mets rien (ni meta robots ni robots.txt), les robots ont pour consigne de tout indexer.
il faut juste un peu de patience !
 
Discussions similaires
Haut