Fichier robots.txt include et réécriture d'url

Discussion dans 'Crawl et indexation Google, sitemaps' créé par clad, 12 Septembre 2006.

  1. clad
    clad WRInaute occasionnel
    Inscrit:
    25 Février 2005
    Messages:
    339
    J'aime reçus:
    0
    Bonjour,

    je compte mettre dans mon fichier robots.txt des disalow sur des pages de mon site qui sont en duplicate.

    mais je voudrais y mettre des includes genre:

    index.php?page=blabla

    est ce que ca bloquera aussi ma réécriture d'url de cet include? genre:

    blabla.html
     
  2. dmathieu
    dmathieu WRInaute accro
    Inscrit:
    9 Janvier 2004
    Messages:
    5 596
    J'aime reçus:
    0
    Absolument pas. le robots.txt ne sert qu'aux robots, il n'a aucune influence sur ton serveur.

    Ceux-ci voyant les deux url différemment, ils n'indexeront pas celles interdites par le robots.txt & indexeront normalement les url rewritées.
     
  3. clad
    clad WRInaute occasionnel
    Inscrit:
    25 Février 2005
    Messages:
    339
    J'aime reçus:
    0
    merci pour ta réponse
     
Chargement...
Similar Threads - Fichier robots include Forum Date
Page de Login et fichier Robots.Txt Débuter en référencement 11 Septembre 2022
Search Console Prestashop | Robot.txt bloque des URL mais Outil de test du fichier robots.txt l'Authorise... Crawl et indexation Google, sitemaps 21 Novembre 2019
Aide sur le format de mon fichier robots.txt Crawl et indexation Google, sitemaps 25 Octobre 2019
Page de test et fichier Robots.txt Crawl et indexation Google, sitemaps 9 Octobre 2019
Search Console un fichier robots.txt pour chaque protocole Débuter en référencement 15 Août 2019
Search Console bloquée par le fichier robots.txt Crawl et indexation Google, sitemaps 25 Juin 2019
Search Console Passage de HTTP à HTTPS (Fichiers ROBOTS.TXT et SITEMAP) 0 Crawl et indexation Google, sitemaps 16 Mai 2019
"Indexée malgré le blocage par le fichier robots.txt" Que faire si ce message ? Crawl et indexation Google, sitemaps 12 Février 2019
noindex fr-fr dans fichier robots.txt avec translatepress Référencement international (langues, pays) 18 Décembre 2018
Indexée malgré le blocage par le fichier robots.txt Débuter en référencement 5 Décembre 2018
Bloquer une section dans mon fichier robots.txt Débuter en référencement 9 Novembre 2018
Mon site est bloqué par le fichier robots.txt Crawl et indexation Google, sitemaps 12 Septembre 2018
fichier robots.txt bloquer paramètre p= Crawl et indexation Google, sitemaps 4 Septembre 2018
Où puis-je configurer le fichier robots.txt et le htaccess ? Débuter en référencement 10 Avril 2018
Résolu Toutes les URL bloquées par le fichier robots.txt Crawl et indexation Google, sitemaps 28 Mars 2018
Prise en compte du fichier robots.txt Crawl et indexation Google, sitemaps 22 Avril 2017
Mon fichier robots.txt wordpress Développement d'un site Web ou d'une appli mobile 24 Octobre 2016
Ne pas indexer une page avec le fichier robots.txt Débuter en référencement 20 Juillet 2016
Page panier indexée plusieurs fois (duplicate content) ainsi que robots.txt et fichier map Crawl et indexation Google, sitemaps 17 Mars 2016
La description de ce résultat n'est pas accessible à cause du fichier robots.txt Crawl et indexation Google, sitemaps 31 Juillet 2015