Crawl et indexation de certaines pages

Discussion dans 'Débuter en référencement' créé par Maxence_V, 30 Décembre 2019.

  1. Maxence_V
    Maxence_V Nouveau WRInaute
    Inscrit:
    30 Août 2019
    Messages:
    21
    J'aime reçus:
    0
    Bonjour à tous :),

    En faisant un crawl de mon site, j'ai aperçu différentes choses et j'aimerais être conseillé :

    1) Le crawl me révèle que de nouvelles pages sont indexables. Ce sont les pages .../feed. Je crois que ce sont les pages relatives au flux rss. Je ne sais pas comment elles ont été créées et comment elles ont été rendues indexables. Je pensais donc les désindéxer (depuis une balise meta robots ?). Est-ce la bonne solution ?

    2) Lors de la visualisation de mon crawl en version schéma, je de nombreuses url .../wp-json/... ont été créées. Je pense que c'est dû à l'ajout récent de données structurées via un plugin WP.
    Dois-je interdire le crawl pour ces pages ? (depuis le robots.txt ?)

    J'espère avoir été clair et que quelqu'un pourra me conseiller ! :)

    Bonne journée !
     
  2. saluts92
    saluts92 WRInaute passionné
    Inscrit:
    12 Avril 2006
    Messages:
    1 025
    J'aime reçus:
    45
Chargement...
Similar Threads - Crawl indexation Forum Date
Problème de crawl et d'indexation Crawl et indexation Google, sitemaps 1 Septembre 2022
Questions URL canonique, crawl et indexation Débuter en référencement 25 Mars 2022
Crawl et indexation Landing Page (site en création) Débuter en référencement 25 Mars 2021
Indexation de nouveaux url et crawl Référencement Google 15 Novembre 2018
Crawl indexation depuis mobile et AMP ? Référencement Google 7 Février 2018
Crawl et indexation Google par langue et pays Référencement international (langues, pays) 2 Février 2015
Premiere indexation et crawl suivants Référencement Google 22 Février 2014
Crawl, indexation, robots.txt : les mystères de Google expliqués Crawl et indexation Google, sitemaps 10 Juin 2013
Crawl, indexation et optimisation SEO pour Qwant Autres moteurs de recherche connus 14 Mars 2013
Pas d'indexation d'une page alors que google a bien fait son crawling du domaine Problèmes de référencement spécifiques à vos sites 24 Novembre 2009
[Problème] Indexation/Crawl d'un site Crawl et indexation Google, sitemaps 18 Mars 2009
Description du système de crawl et d'indexation de Google Crawl et indexation Google, sitemaps 20 Août 2008
Développement d'un crawler pour indexation petites annonces Développement d'un site Web ou d'une appli mobile 20 Avril 2007
Temps entre crawl et indexation Problèmes de référencement spécifiques à vos sites 22 Janvier 2006
Crawl des pages mais pas indexation? Crawl et indexation Google, sitemaps 23 Juin 2005
Google crawl indexation nouveaux domaines Crawl et indexation Google, sitemaps 18 Août 2003
Pages crawlées inconnues Crawl et indexation Google, sitemaps 12 Septembre 2022
Crawl - 301 crawlé, 404 factuel ? Crawl et indexation Google, sitemaps 7 Septembre 2022
Problème : Google Crawl et Index des pages en No Index et bloqué par le robot.txt Crawl et indexation Google, sitemaps 26 Avril 2022
Crawler une url présente dans un select Développement d'un site Web ou d'une appli mobile 28 Mars 2022