Crawl Site Web impossible avec n'importe quel outil

Discussion dans 'Crawl et indexation Google, sitemaps' créé par cedille, 29 Janvier 2015.

Tags:
  1. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Bonjour,

    Après quelques recherches et vérifications, je me tourne vers vous afin de trouver une réponse à ma question.

    Voici le problème :

    Un site sur lequel j'ai repris la main en SEO a interdit, via le fichier robots.txt, l'indexation par les moteurs de recherche.
    Depuis quelques jours, ce même fichier n'interdit plus l'indexation.

    Je souhaitais effectuer une petite analyse du site via Screaming Frog SEO et j'obtiens ce message : "Connection refused".
    J'ai tenté avec Semrush et j'obtiens ce message : "No data available".
    Il en est de même avec d'autres outils.

    Je souhaiterai comprendre pourquoi j'obtiens ces messages.

    Merci d'avance pour votre aide.
     
    #1 cedille, 29 Janvier 2015
  2. loubet
    loubet WRInaute impliqué
    Inscrit:
    19 Février 2003
    Messages:
    792
    J'aime reçus:
    0
    bloquage au niveau du fichier .htaccess, ou plus haut, chez l'hébergeur et son firewall.
     
    #2 loubet, 29 Janvier 2015
  3. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Merci Loubet pour cette réponse.

    Quel peut être le facteur bloquant au niveau du fichier .htaccess ?
     
    #3 cedille, 29 Janvier 2015
  4. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 911
    J'aime reçus:
    75
    Le plus simple serait de nous communiquer l'url, sans plus d'information on ne peut que conjecturer.
     
    #4 UsagiYojimbo, 29 Janvier 2015
  5. cedille
    cedille Nouveau WRInaute
    Inscrit:
    29 Janvier 2015
    Messages:
    3
    J'aime reçus:
    0
    Malheureusement, et je comprends tout à fait, je ne peux communiquer l'URL s'agissant d'un client.
     
    #5 cedille, 29 Janvier 2015
  6. UsagiYojimbo
    UsagiYojimbo WRInaute accro
    Inscrit:
    23 Novembre 2005
    Messages:
    11 911
    J'aime reçus:
    75
    En MP ?
     
    #6 UsagiYojimbo, 29 Janvier 2015
(Vous devez vous identifier ou vous inscrire pour poster ici.)
Chargement...
Similar Threads - Crawl Web impossible Forum Date
Crawl de page par Google Bot via une recherche web Crawl et indexation Google, sitemaps 5 Août 2015
Les ressources bloquées au crawl de Google [rubrique Webmaster Tools] Référencement Google 11 Mars 2015
Logiciel analyse backlinks => ils crawlent le web Netlinking, backlinks, liens et redirections 15 Avril 2014
Signaler aux crawler de ne pas suivre un lien qui nécessite une connexion Crawl et indexation Google, sitemaps 9 Juin 2021
Urls filtrées indexées et crawl robots.txt Crawl et indexation Google, sitemaps 19 Mai 2021
Crawl et indexation Landing Page (site en création) Débuter en référencement 25 Mars 2021
Critères de tri en GET et budget crawl Référencement Google 25 Février 2021
Stimuler GoogleBot pour crawler de nouvelles pages Crawl et indexation Google, sitemaps 24 Janvier 2021
Crawl prédictif Google : pourquoi c'est majeur en SEO Techniques avancées de référencement 17 Décembre 2020
Search Console Suivi du crawl Google (Statistiques sur l'exploration) Crawl et indexation Google, sitemaps 9 Décembre 2020