跳转到主要内容
WEB_CRAWL 从起始地址按广度优先跟随站点的链接,并像 WEB_SCRAPE 一样读取每个页面。一个结果中即可获得每个页面的 Markdown、元数据和图片。

请求

参数

爬取只跟随满足以下条件的链接:留在同一站点(带不带 www. 均可),匹配路径模式,指向网页而非文件(跳过 PDF、图片、压缩包等文件),并且站点 robots.txt 允许所有爬虫访问。

响应

例如:

积分

提交时,任务按 maxPages 每页预留 1 积分(上例为 25 积分)。完成时,按 pages 中的每个页面扣 1 积分,其余预留积分释放。failed 中的页面不收费。25 个页面中返回 3 个的爬取花费 3 积分。预留机制见积分与限制。

限制与错误

  • 起始页无法读取时,任务以 PAGE_UNAVAILABLE 失败。其他无法读取的页面记入 failed,爬取继续进行。
  • 无效选项返回 422 VALIDATION_ERROR,并指出相应字段。
  • WEB_CRAWL 忽略 markdown、rawResponse 和 searchQueries。它以 422 拒绝 html 和 analysis,以 400 拒绝 citationAnalysis;见不支持的标志。
  • 其他请求错误见错误。

相关内容