Passer au contenu principal
WEB_SCRAPE lit une page et renvoie son contenu principal en Markdown : titres, paragraphes, listes, tableaux, liens et images, sans l’en-tête, le pied de page ni la navigation du site. Les pages qu’un script dessine, comme les fiches produit d’une boutique, sont rendues avant d’être lues. Pour lire un résultat de recherche, passez un link des organicResults de GOOGLE_SERP.

Requête

La tâche s’exécute de façon asynchrone. Lisez le résultat comme décrit dans Tâches asynchrones.

Paramètres

Réponse

Par exemple :

PDF

HTML, texte brut et PDF contenant du texte sont pris en charge. Un PDF renvoie son texte dans l’ordre des pages, son titre, son auteur, son sujet (dans description) et sa langue quand ils sont présents, avec images: []. L’OCR, les pièces jointes et la reconstruction de la mise en page ne sont pas pris en charge. Le document entier est vérifié indépendamment de maxChars ; seul le Markdown renvoyé est raccourci. Les PDF sans texte, chiffrés, endommagés, incomplets ou hors limites échouent avec PAGE_UNAVAILABLE.

Limites et erreurs

  • Une page illisible fait échouer la tâche avec PAGE_UNAVAILABLE et la raison : format non pris en charge, page répondant 404 ou 410, ou site qui refuse la requête.
  • Une redirection vers une adresse qui enfreint les règles de url fait échouer la tâche. Les règles sont revérifiées à chaque étape de redirection.
  • WEB_SCRAPE ignore markdown, rawResponse et searchQueries. Il refuse html et analysis avec 422 et citationAnalysis avec 400 ; voir flags non pris en charge.
  • Les autres erreurs de requête sont listées dans Erreurs.

Voir aussi

  • Web crawl pour lire de nombreuses pages d’un site
  • Web map pour lister d’abord les adresses d’un site