Cookbook·电商·woolworths.co.za

抓取 woolworths.co.za 的商品页

今天能从 woolworths.co.za 返回商品页的调用，以及自 2026年8月14日 起从请求日志读出的参数、模式和失败情形。 最近测试于 2026年9月6日。

成功率 99.9% · 2026年8月90% 的调用使用浏览器标准价格 · 1 积分

关于 woolworths.co.za

woolworths.co.za 这样描述自己：“家居用品、时尚、食品和美妆在线购物。在 Woolworths 在线商店发现品质与超值的世界”。

其站点地图在 19 个文件中列出了 6,013 个 URL（food, online-feature, quality-sale, country-road-trenery-witchery-politix-sale, black-friday, wcellar）。

其 robots.txt 指定了 1 个站点地图，并禁止 12 个路径，其中包括 /dashboard, /checkout, /login。

基于 Crawlbase 测得

2026年8月 对每个账户的每个请求统计的成功率：99.9%。URL 模式、国家和失败情况来自自 2026年8月14日 起的请求日志；90.2% 的成功调用使用了 JavaScript 令牌，响应中位时间为 4.1s。

在 Cookbook 的 20 个电商站点中，woolworths.co.za 按成功率排在第 2 位（共 20 个）；类别中位数为 96.3%。 其响应中位时间 4.1s 慢于类别中位数 2.9s。 20 个站点中有 9 个接受普通令牌；这个站点只在部分页面接受。

调用

商品页是各账户在此抓取最多的页面形态，附带最常成功的国家和令牌。请把占位路径换成站点上真实的商品 URL。

在 Playground 中运行
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.woolworths.co.za%2Fprod%2Fexample-section%2Fexample-page"

关键参数

参数设置为原因
country不设置大多数成功调用未设置 country（99.3%），成功率为 99.7%。
javascript不设置普通令牌调用的成功率为 99.9%，占流量的 99.2%。浏览器成本更高，而在该站点上没有任何收益。

各账户抓取的 URL 模式

模式成功占比JavaScript 令牌Country查询参数
/prod/{slug}/{slug}98.0%0.0%无isFromPLP
/cat/{slug}/{slug}2.0%0.0%无无

你能得到的字段

商品页通常带有 ld+json 的 Product 块，包含名称、价格、货币和库存状态，可见标记中也有相同的值。先读这个块，它比页面布局变化得更少。

会出问题的地方及修复方法

自 2026年8月14日 以来的失败中，站点的响应为：

200：占失败的 22.2% 站点返回了 200，但给出的是拦截页或同意页而不是内容；Crawlbase 将其计为失败而不向你收费。用 JavaScript 令牌和成功调用所用的国家重试一次。
999：占失败的 17.8% 999 表示站点拒绝了这次抓取。把它当作拦截处理：用 JavaScript 令牌和成功调用所用的国家重试一次，然后停止。
504：占失败的 8.9% 504 是超时：页面未在限定时间内完成。重试一次，并让你自己的客户端超时高于该站点显示的响应时间中位数。
591, 517：合计占失败的 31.1% 5xx 是站点自身故障，不是抓取的问题。一分钟后重试。

定时运行

刷新目录就是一份商品 URL 列表。把它连同回调推送到 Crawler，让它控制调用节奏并重试站点拒绝的请求，然后从 Cloud Storage 读取结果。该站点的响应中位时间为 4.1s。

常见问题

抓取 woolworths.co.za 需要浏览器吗？

不需要。99.9% 的普通令牌调用成功，各账户 99.2% 的流量不使用浏览器。

在 Crawlbase 上抓取一个 woolworths.co.za 页面要多少钱？

不用浏览器时为 1 积分。woolworths.co.za 属于标准等级。

抓取 woolworths.co.za 应该设置哪个 country？

不需要：大多数成功调用未设置它。

站点名称用于标识配方抓取的页面。Crawlbase 与所列任何站点均无关联。请在以下范围内使用配方： 可接受使用政策.数据测自 2026年8月，每月更新