Formation par Olivier Duffez

Formation au référencement par Olivier Duffez, créateur de WebRankInfo !
Une formule efficace alliant théorie et pratique, avec une haute disponibilité des intervenants
Cette formule a déjà convaincu plusieurs centaines d'entreprises, pourquoi pas vous ?
Réservez vite votre place en ligne (convention possible pour imputer sur le budget formation)

Formation référencement Marseille

robot.txt interdire certains bots de venir

Poster un nouveau sujet Imprimer cette discussion    Forum -> Développement d'un site Web   Les dernières discussions de ce forum sont disponibles au format RSS
Voir le sujet précédent :: Voir le sujet suivant  
Auteur Message
 
john2
WRInaute occasionnel
WRInaute occasionnel

Inscrit le: 31 Déc 2003
Messages: 223
Localisation: Belgique

URL permanente de ce messagePosté le : Sam Avr 12, 2008 13:44    Sujet du message: robot.txt interdire certains bots de venir

lut, je voudrait a l'aide du fuchier robot.txt interdire l'access a certain robot

voir mieux un code qui indiquerait qu'elles sont les robot qui peuvent venir indexer le site ( et donc tout les autres ne pourrait venir )

par exemple seulement autoriser l'accès a google,yahoo et msn, que faudrait t-il mettre ?

si sa n'est pas possible, donc obliger de definir un par un ceux qu'on ne veut pas, existe t-il une liste avec tout les bots qui viennent flooder les requete sql et la bande passante ?
 
john2 Visiter le site web du posteur
Szarah
WRInaute accro
WRInaute accro

Inscrit le: 22 Fév 2006
Messages: 7713

URL permanente de ce messagePosté le : Sam Avr 12, 2008 13:48    Sujet du message: robot.txt interdire certains bots de venir

Tu as un exemple d'exclusions pas très loin :
http://www.webrankinfo.com/robots.txt
 
Szarah Visiter le site web du posteur
john2
WRInaute occasionnel
WRInaute occasionnel

Inscrit le: 31 Déc 2003
Messages: 223
Localisation: Belgique

URL permanente de ce messagePosté le : Sam Avr 12, 2008 14:25    Sujet du message: robot.txt interdire certains bots de venir

a ui merci Very Happy

bonne idee d'ailleur, je vais voir ce que mettent les plus gros site dans leur robots.txt
 
john2 Visiter le site web du posteur
padawan2
WRInaute passionné
WRInaute passionné

Inscrit le: 02 Fév 2007
Messages: 585

URL permanente de ce messagePosté le : Sam Avr 12, 2008 16:06    Sujet du message: robot.txt interdire certains bots de venir

Il est par nature difficile d'exclure les visiteurs source de "bot spamming" à moins de connaitre précisément leur IP ou user agent et de les exlclure par des moyens plus drastiques.

Tu ne viendras pas à bout des robots nuisibles avec un le robots.txt.
 
padawan2
john2
WRInaute occasionnel
WRInaute occasionnel

Inscrit le: 31 Déc 2003
Messages: 223
Localisation: Belgique

URL permanente de ce messagePosté le : Dim Avr 13, 2008 4:32    Sujet du message: robot.txt interdire certains bots de venir

a ui merci de l'avoir dit, j'ai chercher un peu et je suis tmber sur ce script

http://www.modsecurity.org/documentation/modsecurity-apache/2.1.0/modsecurity2-a...

mais sa ma l'air compliquer a installer Confused il faut pas mal de truc d'installer avant

si quelqu'un conait un script plutot moyennement a jour, voir meme très a jour, pas autant compliquer que l'autre a installer Twisted Evil
 
john2 Visiter le site web du posteur
Madrileño
Madrileño
Madrileño

Inscrit le: 07 Juil 2004
Messages: 15550
Localisation: -------------- -- España Mi Amor ! -- -------------------------- :)

URL permanente de ce messagePosté le : Dim Avr 13, 2008 4:40    Sujet du message: Re: robot.txt interdire certain bot de venir

Peut être que ça peut être utile ce post sur les bots d'aspiration si vous cherchez à limiter les accès :
http://www.webrankinfo.com/forums/viewtopic_24860.htm

Ou encore connaître les bots qui viennent sur le serveur avec RobotStats:
http://www.webrankinfo.com/forums/forum_7.htm
 
Madrileño Visiter le site web du posteur
john2
WRInaute occasionnel
WRInaute occasionnel

Inscrit le: 31 Déc 2003
Messages: 223
Localisation: Belgique

URL permanente de ce messagePosté le : Dim Avr 13, 2008 18:58    Sujet du message: robot.txt interdire certains bots de venir

merci pour les liens Smile

j'ai trouver un plugin ( pour joomla ) mais sa doit se trouver pour tout site, qui permet de mettre une protection contre le fllood ( bot rapide ) ( exemple 10 clic max en 10sec ) si plus, il y a un page ( fllooding ) qui s'ouvre et qui reste active pendant 30sec

mais je ne sais pas si c'est vraiment efficace, si les bot change d'ip a chaque clic, pas sur que sa fonctionne
 
john2 Visiter le site web du posteur
 
Montrer les messages depuis:   
Revenir en haut    Forum -> Développement d'un site Web Toutes les heures sont au format GMT + 1 Heure
Page 1 sur 1 - 
Connexion
Nom d'utilisateur:    Mot de passe:      Se connecter automatiquement à chaque visite    

CLIQUEZ ICI pour vous inscrire à WebRankInfo (forum, annuaire, outils...)

Connexion

© 2001-2005 phpBB Group, support français
Personnalisation : WebRankInfo ™


 ODP  Firefox  Alsacreations  annuaire webmaster Yagoort