probléme file_get_contents

Discussion dans 'Développement d'un site Web ou d'une appli mobile' créé par monandroid, 4 Octobre 2019.

  1. monandroid
    monandroid Nouveau WRInaute
    Inscrit:
    27 Septembre 2019
    Messages:
    3
    J'aime reçus:
    0
    Bonjour,
    j'ai un problème avec le site leboncoin.fr quand j'utilise ( file_get_contents)

    Code:
    $homepage = file_get_contents('https://www.leboncoin.fr');
    echo $homepage;
    ou

    Code:
    ini_set('user_agent', 'Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.9.1) Gecko/20090615 Firefox/3.5');
        $homepage = file_get_contents('https://www.leboncoin.fr');
        echo $homepage;
    
    le message : Warning: file_get_contents(https://www.leboncoin.fr): failed to open stream: HTTP request failed! HTTP/1.0 403 Forbidden
     
  2. rick38
    rick38 WRInaute passionné
    Inscrit:
    23 Février 2013
    Messages:
    1 685
    J'aime reçus:
    251
    Leboncoin bloque les scripts de scraping.
     
  3. passion
    passion WRInaute accro
    Inscrit:
    6 Janvier 2006
    Messages:
    3 891
    J'aime reçus:
    174
    Si tu y vas à la méthode bourrin, c'est certain que tu vas être boulé par leur serveur.
    Je ne sais pas si c'est du scraping de masse ou juste quelques infos de temps à autre... mais une chose est sûr, tu auras plus de chances si tu simules la navigation "humaine".
    Commence par utiliser plutôt du curl et de ne pas oublier de mettre un user-agent et une tempo entre chaque requête.
    Have fun :)
     
    KOogar apprécie ceci.
  4. rick38
    rick38 WRInaute passionné
    Inscrit:
    23 Février 2013
    Messages:
    1 685
    J'aime reçus:
    251
    Même avec curl et un user-agent ça ne marchera pas pour Leboncoin.
    Ils en ont eu un peu marre de tous les sites qui viennent leur piquer leurs annonces...
    Il y a sans doute une solution mais il faudra bien chercher...
    Quel est le but ici ?
     
  5. passion
    passion WRInaute accro
    Inscrit:
    6 Janvier 2006
    Messages:
    3 891
    J'aime reçus:
    174
    Tu as l'air d'en parler avec expérience, tu en as fait les frais ? :p
     
  6. rick38
    rick38 WRInaute passionné
    Inscrit:
    23 Février 2013
    Messages:
    1 685
    J'aime reçus:
    251
    Dans une boîte de merde que j'ai quittée, j'ai vu passer un projet comme ça. Scrapper Leboncoin, Airbnb et d'autres, pour faire une base de données à jour des évolutions des prix immobiliers... Même quand on arrive à scrapper, on est bloqué après x pages par heure, ils ont mis plein d'astuces pour décourager la copie de leur site.
    Puis un projet qui repose sur le pompage d'autres sites je trouve ça malsain et sans intérêt pour un dev, bref moi j'ai dit "niet, faites-le faire par d'autres".
     
  7. passion
    passion WRInaute accro
    Inscrit:
    6 Janvier 2006
    Messages:
    3 891
    J'aime reçus:
    174
    Moi c'était pages jaunes ;)
     
  8. spout
    spout WRInaute accro
    Inscrit:
    14 Mai 2003
    Messages:
    9 153
    J'aime reçus:
    324
    Il faut faire ça avec Puppeteer.
     
  9. monandroid
    monandroid Nouveau WRInaute
    Inscrit:
    27 Septembre 2019
    Messages:
    3
    J'aime reçus:
    0
Chargement...
Similar Threads - probléme file_get_contents Forum Date
Search Console Problème de version de langue dans les résultats de recherche Google Référencement international (langues, pays) Hier à 21:24
Problème suivi Analytics avec AMP Débuter en référencement Samedi à 12:09
Problème suivi GTM : url lancées, cookies absents. Développement d'un site Web ou d'une appli mobile 29 Mai 2021
Problème avec Sirdata... Administration d'un site Web 25 Mai 2021
Search Console Problème d'indexation : Détectée, actuellement non indexée Référencement Google 16 Mai 2021
Problème trafic temps réel Google Analytics Google Analytics 14 Avril 2021
Problème filtrage Safesearch Problèmes de référencement spécifiques à vos sites 3 Avril 2021
Problème mail automatique Développement d'un site Web ou d'une appli mobile 31 Mars 2021
WordPress Problème avec catégories et balises canoniques Crawl et indexation Google, sitemaps 25 Mars 2021
Yoast SEO n'apparait plus, comment corriger ce problème ? Administration d'un site Web 16 Mars 2021