Crawl Site Web impossible avec n'importe quel outil

Discussion dans 'Crawl et indexation Google, sitemaps' créé par cedille, 29 Janvier 2015.

  1. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Bonjour,

    Après quelques recherches et vérifications, je me tourne vers vous afin de trouver une réponse à ma question.

    Voici le problème :

    Un site sur lequel j'ai repris la main en SEO a interdit, via le fichier robots.txt, l'indexation par les moteurs de recherche.
    Depuis quelques jours, ce même fichier n'interdit plus l'indexation.

    Je souhaitais effectuer une petite analyse du site via Screaming Frog SEO et j'obtiens ce message : "Connection refused".
    J'ai tenté avec Semrush et j'obtiens ce message : "No data available".
    Il en est de même avec d'autres outils.

    Je souhaiterai comprendre pourquoi j'obtiens ces messages.

    Merci d'avance pour votre aide.
     
  2. loubet
    loubet WRInaute impliqué
    Inscrit:
    19 Février 2003
    Messages:
    792
    J'aime reçus:
    0
    bloquage au niveau du fichier .htaccess, ou plus haut, chez l'hébergeur et son firewall.
     
  3. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Merci Loubet pour cette réponse.

    Quel peut être le facteur bloquant au niveau du fichier .htaccess ?
     
  4. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 883
    J'aime reçus:
    73
    Le plus simple serait de nous communiquer l'url, sans plus d'information on ne peut que conjecturer.
     
  5. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Malheureusement, et je comprends tout à fait, je ne peux communiquer l'URL s'agissant d'un client.
     
  6. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 883
    J'aime reçus:
    73
Chargement...
Similar Threads - Crawl Web impossible Forum Date
Crawl de page par Google Bot via une recherche web Crawl et indexation Google, sitemaps 5 Août 2015
Les ressources bloquées au crawl de Google [rubrique Webmaster Tools] Référencement Google 11 Mars 2015
Logiciel analyse backlinks => ils crawlent le web Netlinking, backlinks, liens et redirections 15 Avril 2014
Robots.txt, webmaster tool google, crawl Crawl et indexation Google, sitemaps 9 Avril 2010
Urls orphelines crawlées par Google + Robots.txt ? Crawl et indexation Google, sitemaps 3 Avril 2020
Le budget crawl Référencement Google 5 Mars 2020
Anomalie 404 lors du crawl Crawl et indexation Google, sitemaps 28 Février 2020
Crawl et indexation de certaines pages Débuter en référencement 30 Décembre 2019
Pages crawlées mais non indexées Crawl et indexation Google, sitemaps 9 Décembre 2019
Impact des crawlers sur le taux de rebond et le référencement Crawl et indexation Google, sitemaps 19 Septembre 2019
  1. Ce site utilise des cookies. En continuant à utiliser ce site, vous acceptez l'utilisation des cookies.
    Rejeter la notice