WEB_MAP lista os endereços de um site sem ler o conteúdo deles. Uma tarefa lê a página inicial em busca de links, o robots.txt em busca dos sitemaps que ele indica (ou /sitemap.xml e /sitemap_index.xml quando não indica nenhum) e esses sitemaps. Use-o para escolher páginas para o WEB_SCRAPE ou para delimitar um WEB_CRAWL.
Requisição
Parâmetros
Em um padrão,
* corresponde dentro de um segmento do caminho e ** entre segmentos; qualquer outro caractere corresponde a si mesmo. /blog/** também corresponde a /blog. Os caminhos são comparados já decodificados (percent-decoding).
O site é o host onde o endereço inicial chega depois dos redirecionamentos, com ou sem www..
Resposta
Por exemplo:Limites e erros
- A tarefa falha com
PAGE_UNAVAILABLEquando nenhum endereço corresponde aincludePathseexcludePaths, ou quando a página inicial não pode ser lida e o site não indica nenhum sitemap. - Opções inválidas retornam
422 VALIDATION_ERRORindicando o campo. WEB_MAPignoramarkdown,rawResponseesearchQueries. Recusahtmleanalysiscom422ecitationAnalysiscom400; veja flags não suportadas.- Os demais erros de requisição estão em Erros.
Relacionados
- Web crawl para ler as páginas em Markdown
- Web scrape