Saltar al contenido

SeotresBot, nuestro rastreador

SeotresBot es el rastreador de Seotres. Solo visita una web cuando alguien pide una auditoría o lanza una herramienta sobre ella, va despacio y respeta robots.txt. Si lo ves en tus registros, esto es lo que hace y para qué.

Cómo se identifica

Todas sus peticiones llevan este user agent, con la dirección de esta página para que sepas quién es y cómo contactarnos:

User agent
SeoTresBot/0.1 (+https://seotres.com/bot)

Siempre se identifica así: no se hace pasar por un navegador. Para reconocerlo, usa el user agent.

Cuándo visita tu web

Auditoría gratis
Alguien escribe la dirección de una página en nuestra herramienta: SeotresBot lee tu robots.txt y, si no prohíbe esa página a SeotresBot, la descarga una vez.
Herramientas con cuenta
Quien tiene cuenta en Seotres lanza una herramienta sobre una dirección: SeotresBot lee tu robots.txt y descarga solo las páginas que esa herramienta necesita, cada una una vez por análisis.
Auditoría completa
Con el dominio verificado por su dueño, rastrea hasta 500 páginas HTML, a un máximo de 5 clics desde la portada, además de las variantes con y sin www o https y una dirección inexistente para ver qué responde.
Comprobación de migraciones
Pide las direcciones de una lista que sube quien lanza la herramienta, para ver adónde redirigen. Lo hace despacio y con un tope diario por sitio.

No rastrea por su cuenta ni guarda copias de las páginas: solo lo necesario para el resultado de esa auditoría.

A qué ritmo

  • Como mucho 2 peticiones a la vez a cada sitio, y al menos 1 segundo entre el inicio de una petición y la siguiente.
  • Respeta el Crawl-delay de tu robots.txt, hasta 10 segundos; si pide más, el análisis de esa web queda parcial.
  • Si responde un 403, un 429, un 503 o un desafío anti-bots, espera (lo que indique Retry-After, o 5 y 15 segundos) y lo intenta hasta 3 veces en total.
  • Si sigue sin poder entrar, deja ese sitio en pausa 10 minutos y lo que no ha podido comprobar se marca como «Sin comprobar»: no se cobra.
  • Cada descarga tiene un límite de tamaño y de tiempo; no ejecuta JavaScript ni descarga imágenes, hojas de estilo ni scripts salvo que una herramienta lo necesite para esa comprobación.

Cómo permitirlo

Si tu web está detrás de Cloudflare, Sucuri, Imperva, Wordfence, de la protección de tu plataforma de alojamiento o de otra protección anti-bots, puede que desafíe o bloquee a SeotresBot, sobre todo si varias herramientas lo piden en poco tiempo. Cuando pasa, la comprobación sale como «Sin comprobar» y no se cobra.

Para permitirlo, añade en tu servicio una regla que deje pasar las peticiones cuyo user agent contenga SeoTresBot. Los nombres de las opciones cambian de un servicio a otro: consulta su documentación (suelen llamarse lista de permitidos, regla de excepción o bots permitidos). Un user agent se puede falsificar, así que usa la regla de menor alcance que te ofrezca tu servicio.

Si tu web está en Vercel: Firewall → Custom Rule → si User-Agent contiene SeoTresBot → Bypass. Por seguridad, limita la regla a GET y a tus rutas públicas; un user agent se puede falsificar.

robots.txt y cómo bloquearlo

SeotresBot lee tu robots.txt antes que nada y no pide ninguna URL que prohíba a SeoTresBot (o a todos los robots, *) en los rastreos de una web entera. Si robots.txt no le deja pasar a la portada, la herramienta no puede analizarla.

Para que no rastree nada de tu web, añade a tu robots.txt:

robots.txt · bloquear SeotresBot en todo el sitio
1User-agent: SeoTresBot2Disallow: /

O, para dejar fuera solo una parte:

robots.txt · bloquear una carpeta
1User-agent: SeoTresBot2Disallow: /privado/

La auditoría gratis descarga solo la página que alguien ha pedido, una vez, y antes lee tu robots.txt. Si tiene un grupo propio para SeotresBot (User-agent: SeoTresBot) que prohíbe esa página, no la descarga ni guarda nada, y quien la pidió ve que la web ha pedido que no la visitemos. Si la página solo está bloqueada para todos los robots (User-agent: *), la descarga igualmente, porque la pide una persona, y el resultado lo indica como hallazgo. Si no podemos leer robots.txt antes, lo leemos junto con la página y, si la prohíbe a SeotresBot, la descartamos sin analizarla. Si tu robots.txt da un error del servidor o no responde, por prudencia no visitamos la web; si no existe o no nos deja leerlo (404, 410, 401 o 403), entendemos que no hay restricciones.

Si algo no va bien

Si crees que SeotresBot está causando problemas en tu servidor, escríbenos con la fecha, la hora y las URL que ves en tus registros.