le mieux pour robot.txt ?

WRInaute discret
vaut-il mieux déclarer user-agent : * ou bien user-agent : all ?

Et une autre question, pourquoi ia_archiver ne relève que le robot.txt et ne vas pas plus loin alors que les autres robots passe sans difficultés ?
ia_archiver serait- il plus ou moins lié à Dmoz ?
 
WRInaute discret
merci, c'est ce que j'ai mis, mais je commençais à douter car ça fait un mois et demi que IA ne vient que sur le robot.txt et s'arrête là.
Pas grave le temps fera les choses :-)
 
WRInaute accro
je rappelle que le fichier en question doît se nommer
robots.txt
:wink:
Fred
(peut être s'agit-il simplement d'une "coquille" dans la frappe :lol: )
 
WRInaute occasionnel
Ah oui, bien vu. S'il s'agit d'une co(q)uille, elle est présente dans le titre du post, et dans le post original... Bonne piste :)
 

➡️ Offre MyRankingMetrics ⬅️

pré-audit SEO gratuit avec RM Tech (+ avis d'expert)
coaching offert aux clients (avec Olivier Duffez ou Fabien Faceries)

Voir les détails ici

coaching SEO
Discussions similaires
Haut