Screaming Frog 403 Forbidden Error

It can be very frustrating when you’re trying to crawl a website and suddenly see the timeout or 403 Forbidden error message. What do you do when you encounter the most common on-page messages on your screen: HTTP status code errors, bad requests, internal server errors, or HTTP response “no response” errors? How can you fix it? In this blog post, we’ll explain the 403 Forbidden error and provide some solutions to fix it. Stay tuned!

rana gritona
Isaac Adams-Hands - Screaming Frog 403 Forbidden Error

¿Qué es un error 403 Forbidden?

El código de estado 403 Forbidden es un error del lado del servidor que indica que el archivo servidor refuses to fulfill the request. This can be due to several reasons, including but not limited to: the request is being made for a resource that does not exist, the user does not have sufficient permissions to access the requested resource or the server is configured to bloque requests from the user’s IP address.

Independientemente del motivo, un error 403 Forbidden impedirá que el usuario acceda a la información solicitada. recurso. En algunos casos, el servidor puede proporcionar una redirección a otra página o recurso al que se pueda acceder; en otros casos, el usuario tendrá que ponerse en contacto con el propietario o administrador del sitio web para resolver el problema. En cualquier caso, un error 403 Forbidden frustra a cualquier usuario. usuario que se encuentra con él.

Cómo solucionar el error de código de estado 403 prohibido en Screaming Frog

  1. La página no sale

    abrir en el navegador

    Plausible cause 1: The request is being made for a resource that does not exist

    Deberá verificar que la página web existe. Puede hacerlo abriendo la URL en su navegador.

    Esta prueba le mostrará si la página web es accesible desde el navegador.

  2. Autenticación requerida

    Autenticación requerida

    Plausible cause 2: The user does not have sufficient permissions to access the requested resource.

    En algunos casos, la página está protegida por contraseña. Tendrás que introducir el nombre de usuario y la contraseña en el modal de Screaming Frog para que pueda rastrear esa página.

  3. El servidor te bloquea

    bloqueador de bots de cloudflare

    Plausible cause 3: The server is configured to block requests from the user’s Dirección IP.

    Si la página web se puede ver en su ordenador utilizando un navegador, significa que el sitio web está bloqueando el bot (rastreador) y es un hecho aislado.

  4. Velocidad de arrastre inferior

    velocidad de rastreo

    Solución 1: Es posible que la araña esté configurada para arrastrarse demasiado rápido y de forma demasiado agresiva.

    Para arreglar los escaneos agresivos, tendrá que bajar la tasa de rastreo:

    Configuración >> Velocidad >> Spider Speed Configuration

    Si se reduce la tasa de rastreo, aumentará el tiempo que se tarda en realizar los escaneos y se reducirá la carga de recursos del servidor.

  5. Cambiar el agente de usuario

    usuario-agente

    Solución 2: Si el sitio web está bloqueando el rastreador Screaming Frog, cambie la directiva Usuario-Agente en Screaming Frog.

    Configuración >> Usuario-Agente >> Present User-Agents

    Algunos servidores están configurados para bloquear todo lo que no sea un GoogleBot.

  6. Cambie su IP

    desarrollador

    Solución 3: Cambie su dirección IP

    El servidor podría estar bloqueando tu dirección IP, así que lo mejor es intentar el rastreo desde otro proveedor de servicios de Internet.

    Intenta el rastreo desde casa si estás en el trabajo y quieres cambiar tu dirección IP. Si estás en casa, prueba en una cafetería con buen internet. Si no puedes salir, intenta conectar tu ordenador a tu teléfono. Cambiar de ubicación te ayudará a solucionar problemas y determinar si tu IP está bloqueada.

  7. Poner su IP en la lista blanca

    fail2ban

    Solución 4: Lista blanca de su dirección IP en el servidor o sitio web

    Puedes poner tu dirección IP en la lista blanca del sitio web, del servidor o del servidor DNS cuando sea posible.

    Las opciones son infinitas, pero algunos servicios de seguridad que bloquean su rastreo podrían serlo: Wordfence, CloudFlarey Fail2Ban; si desconoce cualquier software de seguridad funcionamiento, lo mejor es que consultes con tu departamento informático.

Conclusión

Encountering a 403 Forbidden error while using Screaming Frog SEO Spider can be a frustrating hurdle in the pursuit of optimizing a website’s performance. 

However, armed with an understanding of its causes and solutions, one can effectively navigate through this issue. By addressing potential factors such as non-existent pages, authentication requirements, server restrictions, and arrastrarse speed, users can troubleshoot and resolve this error efficiently. 

Additionally, implementing strategies like changing User-Agent, IP address, or whitelisting can further mitigate such obstacles. By leveraging the functionalities within Screaming Frog, users can enhance their technical SEO endeavors, ensuring smoother crawling experiences and facilitating the optimization process. 

Remember to verify internal configurations, check robots.txt files, address broken links, and utilize meta tags like canonical and nofollow to bolster search engine visibility. By staying informed and proactive in managing client errors like the 403 Forbidden status code, webmasters can navigate through technical challenges, fostering a more optimized and seamlessly accessible online presence. 

For more detailed guidance on addressing technical SEO issues, explore the resources available on screamingfrog.co.uk and utilize tools such as the Response Codes tab within the Screaming Frog interface. With diligence and strategic implementation of solutions, users can overcome hurdles and propel their websites toward greater visibility and success in the digital landscape.

Don’t hesitate to contact us if you still have trouble fixing the 403 Forbidden error. We’ll be more than happy to help out!

PREGUNTAS FRECUENTES

  • ¿Cuántas personas pueden utilizar la licencia de Screaming Frog?

Publicado en: 2022-09-01
Updated on: 2024-04-10

Avatar de Isaac Adams-Hands

Isaac Adams-Hands

Isaac Adams-Hands es el director de SEO en SEO North, una empresa que ofrece servicios de optimización de motores de búsqueda. Como profesional de SEO, Isaac tiene una considerable experiencia en SEO On-page, SEO Off-page y SEO Técnico, lo que le da una ventaja frente a la competencia.
es_ESSpanish