Voici le problème:
Disons que j'ai mydomain.com
. Le externaldomain.com/article/mydomain
a une iframe
avec mydomain.com
à l'intérieur, mais le externaldomain.com
robots.txt contient:
Disallow: /article/
Google va-t-il explorer mydomain.com
à l'intérieur de la iframe
à externaldomain.com/article/mydomain
ou il bloquera mydomain.com
, car externaldomain.com
robots.txt n'autorisera pas le dossier /article
?
Disallow: /article/
bloquera l'URL (ou la page) article/
et tous les sous-dossiers ou sous-pages.
C'est pourquoi, si le fichier robots.txt de externaldomain.com
applique cette directive pour l'agent utilisateur est googlebot
, ne vous inquiétez pas. .
Voici instructions Google à ce sujet.