Saltar al contenido principal
WEB_MAP lista las direcciones de un sitio sin leer su contenido. Una tarea lee los enlaces de la página de inicio, el robots.txt para los sitemaps que indica (o /sitemap.xml y /sitemap_index.xml si no indica ninguno) y esos sitemaps. Úsalo para elegir páginas para WEB_SCRAPE o para acotar un WEB_CRAWL.

Solicitud

Parámetros

En un patrón, * coincide dentro de un segmento de ruta y ** entre segmentos; cualquier otro carácter coincide consigo mismo. /blog/** también coincide con /blog. Las rutas se comparan tras decodificar los caracteres codificados con porcentaje. El sitio es el host al que llega la dirección de inicio tras las redirecciones, con o sin www..

Respuesta

Por ejemplo:

Límites y errores

  • La tarea falla con PAGE_UNAVAILABLE cuando ninguna dirección coincide con includePaths y excludePaths, o cuando la página de inicio no se puede leer y el sitio no indica ningún sitemap.
  • Las opciones no válidas devuelven 422 VALIDATION_ERROR con el nombre del campo.
  • WEB_MAP ignora markdown, rawResponse y searchQueries. Rechaza html y analysis con 422 y citationAnalysis con 400; consulta flags no admitidos.
  • Los demás errores de solicitud se enumeran en Errores.

Relacionado