robots.unavailable
Que el robots.txt del sitio se pueda leer.
Por qué importa
Cuando tu servidor da un error o no responde al pedir el robots.txt, los buscadores interrumpen el rastreo de tu sitio hasta poder leerlo. Un 429 («demasiadas peticiones») cuenta como error del servidor, como hace Google. Seotres sigue la misma norma: el análisis se queda en las páginas revisadas hasta ese momento.
Cómo se corrige
Comprueba que https://tudominio.es/robots.txt responde bien desde fuera de tu red y vuelve a lanzar el informe. Si el sitio estaba caído o limitaba las visitas, el análisis completo será posible cuando se estabilice.
Paso a paso: el prompt para tu IA
Cuando Seotres encuentra este problema en tu web, te da un prompt listo para pegar en la IA que uses, con los datos de tu página. Este es el de esta regla con una web de ejemplo (tudominio.com):
Problema: no se ha podido leer el robots.txt y el análisis se ha quedado en las páginas revisadas hasta entonces.
Datos de tu web: Aquí van la página y la evidencia que ha encontrado Seotres.
Objetivo
Que https://tudominio.com/robots.txt responda de forma estable (200 con el archivo, o 404 si no quiero reglas) para que el análisis pueda cubrir toda la web.
Pasos
- Abre /robots.txt desde fuera de tu red y mira qué responde. Si da un error del servidor o un 429, la causa está en el servidor, el CDN o un límite de peticiones.
- Revisa si un cortafuegos o una protección anti-bots bloquea esa dirección y deja pasar /robots.txt.
- Si la web es código propio o un servidor que gestionas: edita el archivo robots.txt de la raíz del sitio (o el código o la configuración que lo genera) y publícalo.
- Si usas WordPress: el robots.txt suele generarlo WordPress o el plugin SEO; busca en los ajustes del plugin SEO la opción de editar robots.txt o, si tu alojamiento lo permite, sube un archivo robots.txt a la raíz.
- Si usas Shopify: el robots.txt se personaliza desde el tema, con la plantilla robots.txt.liquid; no borres las reglas que trae Shopify por defecto.
- Si usas Wix, Squarespace u otro creador de webs: busca en los ajustes de SEO si permite editar el robots.txt; si no lo permite, dímelo y no intentes otra vía.
Límites
- No crees un robots.txt con «Disallow: /» para salir del paso: prohibiría todo el sitio.
Términos de esta regla
- robots.txt
Archivo en la raíz de tu web que dice a los robots qué partes pueden rastrear y cuáles no.
Ejemplo: La línea «Disallow: /carrito/» pide a los robots que no entren en el carrito. Si el archivo da un error 4xx (salvo 429), Google rastrea sin restricciones; si da un error 5xx, deja de rastrear la web las primeras 12 horas y, durante los 30 días siguientes, usa la última versión buena. Si a los 30 días sigue fallando, actúa como si no hubiera robots.txt cuando el resto de la web responde, y deja de rastrear si la web también falla.
- HTTPS
La versión cifrada de HTTP: lo que viaja entre el navegador y tu web no se puede leer ni alterar por el camino.
Ejemplo: https://tudominio.com en lugar de http://tudominio.com.
Fuente: MDN Web Docs: HTTPS
Fuente oficial
https://developers.google.com/crawling/docs/robots-txt/robots-txt-spec