Saltar para o conteúdo principal
WEB_MAP lista os endereços de um site sem ler o conteúdo deles. Uma tarefa lê a página inicial em busca de links, o robots.txt em busca dos sitemaps que ele indica (ou /sitemap.xml e /sitemap_index.xml quando não indica nenhum) e esses sitemaps. Use-o para escolher páginas para o WEB_SCRAPE ou para delimitar um WEB_CRAWL.

Requisição

Parâmetros

Em um padrão, * corresponde dentro de um segmento do caminho e ** entre segmentos; qualquer outro caractere corresponde a si mesmo. /blog/** também corresponde a /blog. Os caminhos são comparados já decodificados (percent-decoding). O site é o host onde o endereço inicial chega depois dos redirecionamentos, com ou sem www..

Resposta

Por exemplo:

Limites e erros

  • A tarefa falha com PAGE_UNAVAILABLE quando nenhum endereço corresponde a includePaths e excludePaths, ou quando a página inicial não pode ser lida e o site não indica nenhum sitemap.
  • Opções inválidas retornam 422 VALIDATION_ERROR indicando o campo.
  • WEB_MAP ignora markdown, rawResponse e searchQueries. Recusa html e analysis com 422 e citationAnalysis com 400; veja flags não suportadas.
  • Os demais erros de requisição estão em Erros.

Relacionados