Saltar al contenido principal
WEB_SCRAPE lee una página y devuelve su contenido principal en Markdown: títulos, párrafos, listas, tablas, enlaces e imágenes, sin la cabecera, el pie ni la navegación del sitio. Las páginas que dibuja un script, como las fichas de producto de una tienda, se renderizan antes de leerlas. Para leer un resultado de búsqueda, pasa un link de los organicResults de GOOGLE_SERP.

Solicitud

La tarea se ejecuta de forma asíncrona. Lee el resultado como se describe en Tareas asíncronas.

Parámetros

Respuesta

Por ejemplo:

PDF

Se admiten HTML, texto plano y PDF con texto. Un PDF devuelve su texto en orden de páginas, su título, autor, asunto (como description) e idioma cuando existen, e images: []. No se admiten OCR, adjuntos ni reconstrucción del diseño. Se comprueba todo el documento independientemente de maxChars; solo se recorta el Markdown devuelto. Los PDF sin texto, cifrados, dañados, incompletos o que superan los límites fallan con PAGE_UNAVAILABLE.

Límites y errores

  • Una página que no se puede leer hace fallar la tarea con PAGE_UNAVAILABLE y el motivo: un formato no admitido, una página que responde 404 o 410, o un sitio que rechaza la petición.
  • Una redirección a una dirección que incumple las reglas de url hace fallar la tarea. Las reglas se vuelven a comprobar en cada salto de redirección.
  • WEB_SCRAPE ignora markdown, rawResponse y searchQueries. Rechaza html y analysis con 422 y citationAnalysis con 400; consulta flags no admitidos.
  • Los demás errores de solicitud se enumeran en Errores.

Relacionado

  • Web crawl para leer muchas páginas de un sitio
  • Web map para listar primero las direcciones de un sitio