BOnjour,
1/ Interdire certaines pages
bon j'avais jamais eu le cas à faire depuis ces années mais je dois interdire certaines pages. Je pensais qu'un Disallow: /dossier dans le robots.txt suffisait mais apparemment non.
Des robots (j'ai reperé yahoo mais je suis sur que ggbot est passé) vont sur ces pages.
Faut savoir également que quelquefois, je mets des liens dofollow direct vers ces pages depuis des pages x (ces dernières étant crawlés par les bots).
C'est ce dofollow qui entraine l'indexation de ces pages ? Le disallow ne suffit donc pas ?
2/ redirection ?
Bon, j'ai encore des bots qui viennent tester certaines pages dont ca fait 2 mois que j'ai changé l'URL. Comme c'était un site tout neuf (juillet), j'ai pas fait de redirection. Je pensais que les bots allaient comprendre mais encore aujourd'hui, ils sont passés sur certaines pages avec l'ancienne url qui renvoie sur des 404. Sachant que le ref n'avait pas encore été véritablement commencé sur ces pages très profondes, la redirection est utile ? ou négligeable ?
Merci
1/ Interdire certaines pages
bon j'avais jamais eu le cas à faire depuis ces années mais je dois interdire certaines pages. Je pensais qu'un Disallow: /dossier dans le robots.txt suffisait mais apparemment non.
Des robots (j'ai reperé yahoo mais je suis sur que ggbot est passé) vont sur ces pages.
Faut savoir également que quelquefois, je mets des liens dofollow direct vers ces pages depuis des pages x (ces dernières étant crawlés par les bots).
C'est ce dofollow qui entraine l'indexation de ces pages ? Le disallow ne suffit donc pas ?
2/ redirection ?
Bon, j'ai encore des bots qui viennent tester certaines pages dont ca fait 2 mois que j'ai changé l'URL. Comme c'était un site tout neuf (juillet), j'ai pas fait de redirection. Je pensais que les bots allaient comprendre mais encore aujourd'hui, ils sont passés sur certaines pages avec l'ancienne url qui renvoie sur des 404. Sachant que le ref n'avait pas encore été véritablement commencé sur ces pages très profondes, la redirection est utile ? ou négligeable ?
Merci