Il y a presque 3 mois, j'ai mis une balise sans index sur environ 3 000 pages de mon site Web et 301 redirections (qui sont des redirections permanentes) sur près de 15 000 pages. (Le site comprend environ 50 000 pages)
Et pourtant, à ce jour, toutes ces pages apparaissent toujours dans google index.
J'ai également mis à jour le plan du site.
Qu'est-ce qui peut le causer? aucun conseil?
exemple de page sans index: http://www.carz.co.il/review/8186
exemple de page de redirection 301: http://www.carz.co.il/gen/491/overview/2010/
Toutes les autres pages sont exactement les mêmes (mêmes balises méta, réponse HTTP, etc.)
selon les outils Google pour les webmasters, il y a environ 4000 pages explorées par jour.
Je vais devoir dire que Google est trop lent.
Votre meilleur choix est d'accéder à la console de recherche Google, d'accéder à votre domaine au sein de celui-ci, puis de sélectionner l'icône représentant un engrenage, puis les paramètres du site. Pour définir le taux d'analyse, sélectionnez "Limiter le taux d'analyse maximal de Google", puis sélectionnez la plus grande valeur d'analyse en déplaçant le curseur tout le chemin à droite. Ensuite, Google fera plus de 2 demandes par seconde. Si vous êtes chanceux, cela vous permettra peut-être même de choisir 10 demandes par seconde.
Lorsque vous autorisez Google à effectuer un nombre maximal de requêtes, il numérise vos pages plus rapidement et trouve les balises sans index beaucoup plus rapidement qu'auparavant et le temps d'attente pour obtenir les résultats sera probablement plus court.
Dans les deux cas, je suggère d'attendre environ une journée pour obtenir des résultats. Voici le calcul qui l'explique.
3000 ... You applied a no-index tag to 3000 pages.
+15000 ... You applied a 301 redirect to 15000 pages.
------
18000 ... Total modified pages
/ 0.2 ... (divide by google's default scan rate of 0.2 pages per second)
------
72000 ... 72,000 seconds waiting time which is 1,200 minutes or 20 hours.
Maintenant, si vous augmentez le paramètre à 10 demandes par seconde et que Google effectue 10 demandes par seconde, voici votre nouveau calcul pour le temps d'attente des résultats:
3000 ... You applied a no-index tag to 3000 pages.
+15000 ... You applied a 301 redirect to 15000 pages.
------
18000 ... Total modified pages
/ 10 ... (10 requests per second)
------
1800 ... 1,800 seconds waiting time which is only 30 minutes.