Il tag robots
META Robots
Se si dispone di pagine che si vogliono specificatamente NON ragni di vedere, è necessario utilizzare un tag robots per specificarlo. Ci si potrebbe chiedere perché si vuole fare in modo di una pagina non viene indicizzato. Considerate le pagine private sul vostro sito, pagine di login, ecc
Insieme con i tag META altri, inserire il seguente codice:
<meta name="robots" content="noindex,nofollow">
o
<meta name="robots" content="none">
Se si vuole assicurarsi che la pagina non vengono indicizzati, ma il ragno può seguire i link che trova, è possibile utilizzare questo tag:
<meta name="robots" content="noindex,follow">










