web-dev-qa-db-fra.com

"Le plan du site contient des URL bloquées par le fichier robots.txt". Avertissement - Cependant, le fichier robots.txt ne semble rien bloquer

Notre site est construit sur WordPress.

Au cours de la phase de développement, nous avions la possibilité de décourager les moteurs de recherche d’indexer ce site cochée (Lecture des paramètres).

Nous avons maintenant rendu le site actif et décoché cette option.

Hier, j'ai envoyé un plan du site dans la console de recherche Google mais de nombreux chemins d'accès au plan du site contiennent l'avertissement suivant:

Le plan du site contient des URL bloquées par le fichier robots.txt.

Autant que je sache, aucune URL du site (à l'exception du /wp-admin/) n'est bloquée par notre fichier robots.txt. Je l'ai testé dans la console de recherche et cela signifie que tout va bien.

J'ai lu des articles qui disaient que le fichier pouvait être mis en cache pendant un moment, mais cela fait maintenant un jour que je ne le soumets pas.

Y a-t-il quelque chose qui me manque ou que je peux faire pour empêcher cet avertissement d'être lancé?

Plan du site - https://www.justaccounts.com/sitemap_index.xml

Fichier Robots:

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

Quelques exemples d'URL qui sont affichés comme bloqués:

  • https://www.example.com/page-sitemap.xml
  • https://www.example.com/category-sitemap.xml
  • https://www.example.com/attachment-sitemap.xml
1
Peter Rowlands

Dans mon cas, Google refusait d'utiliser (sans dire) le nouveau fichier robots.txt en raison des fins de ligne Windows. J'ai utilisé la commande dos2unix et soumis à nouveau.

1
Simeon Petrov