Saltar para o conteúdo principal
WEB_SCRAPE lê uma página e retorna o conteúdo principal em Markdown: títulos, parágrafos, listas, tabelas, links e imagens, sem o cabeçalho, o rodapé e a navegação do site. Páginas que um script desenha, como páginas de produto de lojas, são renderizadas antes da leitura. Para ler um resultado de busca, passe um link dos organicResults do GOOGLE_SERP.

Requisição

A tarefa roda de forma assíncrona. Leia o resultado como descrito em Tarefas assíncronas.

Parâmetros

Resposta

Por exemplo:

PDFs

HTML, texto simples e PDFs com texto são suportados. Um PDF retorna o texto na ordem das páginas, o título, o autor, o assunto (como description) e o idioma quando disponíveis, e images: []. OCR, anexos e reconstrução do layout não são suportados. O documento inteiro é verificado independentemente de maxChars; só o Markdown retornado é encurtado. PDFs sem texto, criptografados, danificados, incompletos ou acima dos limites falham com PAGE_UNAVAILABLE.

Limites e erros

  • Uma página que não pode ser lida faz a tarefa falhar com PAGE_UNAVAILABLE e o motivo: um formato não suportado, uma página que responde 404 ou 410, ou um site que recusa a requisição.
  • Um redirecionamento para um endereço que viola as regras de url faz a tarefa falhar. As regras são verificadas de novo a cada salto de redirecionamento.
  • WEB_SCRAPE ignora markdown, rawResponse e searchQueries. Recusa html e analysis com 422 e citationAnalysis com 400; veja flags não suportadas.
  • Os demais erros de requisição estão em Erros.

Relacionados

  • Web crawl para ler muitas páginas de um site
  • Web map para listar antes os endereços de um site