Robots.txt : empêcher l'indexation d'une page sans pénaliser les sous pages

Discussion dans 'Problèmes de référencement spécifiques à vos sites' créé par milkiway, 28 Janvier 2010.

Tags:
  1. milkiway
    milkiway WRInaute accro
    Inscrit:
    3 Février 2004
    Messages:
    4 237
    J'aime reçus:
    0
    Bonjour,

    J'ai un site avec des url de type :
    -http://www.monsite.zob/dossier/
    -http://www.monsite.zob/dossier/sous-dossier1/
    -http://www.monsite.zob/dossier/sous-dossier2/
    -http://www.monsite.zob/dossier/sous-dossier1/article-ici

    Je voudrais empêcher l'indexation de l'URL -http://www.monsite.zob/dossier/ SANS empêcher celle des sous dossiers et ce afin d'éviter le duplicate content (cette URL contient le contenu des deux sous dossiers).

    Que dois-je mettre dans mon Robots.txt ?

    Merci
     
    #1 milkiway, 28 Janvier 2010
  2. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 883
    J'aime reçus:
    73
    Je rajouterais plutôt une meta noindex dans la page en question.
     
    #2 UsagiYojimbo, 28 Janvier 2010
  3. milkiway
    milkiway WRInaute accro
    Inscrit:
    3 Février 2004
    Messages:
    4 237
    J'aime reçus:
    0
    Merci, mais pourquoi ?
     
    #3 milkiway, 28 Janvier 2010
  4. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 883
    J'aime reçus:
    73
    #4 UsagiYojimbo, 28 Janvier 2010
  5. milkiway
    milkiway WRInaute accro
    Inscrit:
    3 Février 2004
    Messages:
    4 237
    J'aime reçus:
    0
    Faire ceci est il pertinent ?
    <meta name="robots" content="noindex, follow">

    C'est une page de catégorie donc il faut impérativement que les liens soient suivis par contre je ne veux pas indexer la page.
    A moins que je ne laisse google se débrouiller comme un grand et ne mettre ni robots.txt, ni noindex ?
     
    #5 milkiway, 28 Janvier 2010
  6. nza2k
    nza2k WRInaute impliqué
    Inscrit:
    16 Janvier 2004
    Messages:
    898
    J'aime reçus:
    2
    Oui, c'est bien ça que suggérait UsagiYojimbo je pense.
     
    #6 nza2k, 28 Janvier 2010
  7. DjamesAllen
    DjamesAllen WRInaute discret
    Inscrit:
    22 Février 2012
    Messages:
    146
    J'aime reçus:
    0
    Et si on ne peut pas rajouter la meta noindex. Comment on peut le faire via le robots.txt ?
     
    #7 DjamesAllen, 17 Avril 2012
  8. JanoLapin
    JanoLapin WRInaute accro
    Inscrit:
    21 Septembre 2008
    Messages:
    4 250
    J'aime reçus:
    0
    c'est au moins un site de film de boules avec de telles urls... :mrgreen:
     
    #8 JanoLapin, 17 Avril 2012
(Vous devez vous identifier ou vous inscrire pour poster ici.)
Chargement...
Similar Threads - Robots empêcher indexation Forum Date
Empêcher l'indexation des fichier .pdf et du robots.txt Crawl et indexation Google, sitemaps 28 Octobre 2014
Empêcher l'indexation avec robots.txt d'un sous domaine (version mobile) Administration d'un site Web 6 Mars 2013
Empêcher l'indexation des urls a paramètres sur robots.txt ? Débuter en référencement 30 Mars 2010
lien variable à bloquer sur robots Développement d'un site Web ou d'une appli mobile 3 Mai 2020
Urls orphelines crawlées par Google + Robots.txt ? Crawl et indexation Google, sitemaps 3 Avril 2020
Robots.txt du site Kayak Débuter en référencement 11 Mars 2020
Search Console Indexée malgré le blocage dans robots.txt Crawl et indexation Google, sitemaps 26 Février 2020
Search Console Prestashop | Robot.txt bloque des URL mais Outil de test du fichier robots.txt l'Authorise... Crawl et indexation Google, sitemaps 21 Novembre 2019
Search Console Images bloquées ... malgré absence de robots.txt Crawl et indexation Google, sitemaps 31 Octobre 2019
Aide sur le format de mon fichier robots.txt Crawl et indexation Google, sitemaps 25 Octobre 2019
  1. Ce site utilise des cookies. En continuant à utiliser ce site, vous acceptez l'utilisation des cookies.
    Accepter En savoir plus.
    Rejeter la notice