WEB_CRAWL 从起始地址按广度优先跟随站点的链接,并像 WEB_SCRAPE 一样读取每个页面。一个结果中即可获得每个页面的 Markdown、元数据和图片。
请求
参数
爬取只跟随满足以下条件的链接:留在同一站点(带不带
www. 均可),匹配路径模式,指向网页而非文件(跳过 PDF、图片、压缩包等文件),并且站点 robots.txt 允许所有爬虫访问。
响应
例如:积分
提交时,任务按maxPages 每页预留 1 积分(上例为 25 积分)。完成时,按 pages 中的每个页面扣 1 积分,其余预留积分释放。failed 中的页面不收费。25 个页面中返回 3 个的爬取花费 3 积分。预留机制见积分与限制。
限制与错误
- 起始页无法读取时,任务以
PAGE_UNAVAILABLE失败。其他无法读取的页面记入failed,爬取继续进行。 - 无效选项返回
422 VALIDATION_ERROR,并指出相应字段。 WEB_CRAWL忽略markdown、rawResponse和searchQueries。它以422拒绝html和analysis,以400拒绝citationAnalysis;见不支持的标志。- 其他请求错误见错误。