Quais são os obstáculos para a indexação de um site ?
A lista de fatores que bloqueiam ou penalizam a indexação é bastante longa. Com o aprimoramento das práticas de desenvolvimento, a crescente qualidade dos CMS populares e os avanços dos mecanismos de pesquisa, torna-se hoje cada vez mais difícil não ser indexado.
Algumas tecnologias são autênticas catástrofes desastres reais, se quiser beneficiar de uma excelente indexação.
Os sites ou os caminhos de navegação dos sites, inteiramente e somente pensados em Javascript, também costumam apresentar problemas de interpretação.
Uma vez que o site não tem nenhum link apontando para ele, levará mais tempo para se indexar, especialmente se não receber quaisquer visitantes.
Também é mais complicado indexar sites usando frames ou i-frames.
A duplicação em massa de conteúdo pode ser uma preocupação, para manter a confiança dos robôs. Se a maioria do conteúdo que encontrarem já existir, estes certamente preferirão usar os seus recursos (tempo de máquina) noutro lugar.
As URLs realmente exóticas são também mais difíceis de indexar, mesmo que a maioria dos mecanismos seja menos restritivos do que antes. Sabia que, há alguns anos, indexar uma URL contendo mais de 3 hifens no mecanismo da Microsoft era mais complexo, se não impossível?
Páginas muito profundas com uma rede interna fraca, obviamente não incentivam os mecanismos para indexá-los rapidamente ou pelo menos rastreá-los regularmente.