WEB_MAP lista las direcciones de un sitio sin leer su contenido. Una tarea lee los enlaces de la página de inicio, el robots.txt para los sitemaps que indica (o /sitemap.xml y /sitemap_index.xml si no indica ninguno) y esos sitemaps. Úsalo para elegir páginas para WEB_SCRAPE o para acotar un WEB_CRAWL.
Solicitud
Parámetros
En un patrón,
* coincide dentro de un segmento de ruta y ** entre segmentos; cualquier otro carácter coincide consigo mismo. /blog/** también coincide con /blog. Las rutas se comparan tras decodificar los caracteres codificados con porcentaje.
El sitio es el host al que llega la dirección de inicio tras las redirecciones, con o sin www..
Respuesta
Por ejemplo:Límites y errores
- La tarea falla con
PAGE_UNAVAILABLEcuando ninguna dirección coincide conincludePathsyexcludePaths, o cuando la página de inicio no se puede leer y el sitio no indica ningún sitemap. - Las opciones no válidas devuelven
422 VALIDATION_ERRORcon el nombre del campo. WEB_MAPignoramarkdown,rawResponseysearchQueries. Rechazahtmlyanalysiscon422ycitationAnalysiscon400; consulta flags no admitidos.- Los demás errores de solicitud se enumeran en Errores.
Relacionado
- Web crawl para leer las páginas en Markdown
- Web scrape