Google Webmaster Tools peut le voir, mais je ne le trouve pas. Avez-vous une idée de la façon dont il est généré ou de la structure du fichier? Je ne vois pas le fichier dans ma racine. Mon site Web se trouve à http://mikewills.me et l'adresse URL du fichier robots.txt est http://mikewills.me/robots.txt .
En fin de compte, Google n'indexe pas mon site et j'essaie de comprendre comment modifier le fichier robots.txt de manière à ce que l'indexation soit autorisée. J'ai changé l'option de confidentialité pour autoriser l'indexation, mais cela n'a pas mis à jour le fichier robots.txt.
Il est généré dynamiquement par la fonction do_robots()
, qui comporte à la fois une action (do_robotstxt
) et un filtre (robots_txt
). Si vous créez un fichier robots.txt
dans votre racine WordPress, il sera (probablement) servi lorsque /robots.txt
sera demandé, sinon le traitement retombera sur WordPress.
Votre fichier actuel ressemble à ceci:
User-agent: *
Disallow:
Sitemap: http://mikewills.me/sitemaps/mikewills-me.xml.gz
Les deux premiers paramètres conviennent à un blog indexable. Donc, vous pouvez simplement attendre Google à ce stade. Peut-être avez-vous besoin de demander le réexamen de votre site .
le fichier robots.txt est créé dynamiquement. Il n'y a pas de fichier robots.txt. Installer un plugin robot.txt résoudra votre problème. J'espère que cela t'aides