抓取 wayfair.com 的商品页
今天能从 wayfair.com 返回商品页的调用，以及自 2026年8月14日 起从请求日志读出的参数、模式和失败情形。 最近测试于 2026年9月6日。
成功率 96.7% · 2026年8月无需浏览器复杂 II价格 · 4.5 积分
关于 wayfair.com
wayfair.com 这样描述自己：“在 Wayfair 选购各种风格和预算的海量家居用品。5,000 个家具、灯具、厨具等品牌。大多数商品免运费”。
其首页声明了 5 种语言：en-ca, en-gb, en-ie, en-us, fr-ca。
其站点地图在 15 个文件中列出了 541,022 个 URL（seo-category-sitemap~0, seo-keyword-sitemap~0, seo-keyword-sitemap~1, seo-keyword-sitemap~2, seo-keyword-sitemap~3, seo-keyword-sitemap~4）。
其 robots.txt 指定了 6 个站点地图，并禁止 12 个路径，其中包括 /ajax/, /filter/, /filters/。
基于 Crawlbase 测得
2026年8月 对每个账户的每个请求统计的成功率：96.7%。URL 模式、国家和失败情况来自自 2026年8月14日 起的请求日志；0.0% 的成功调用使用了 JavaScript 令牌，响应中位时间为 2.8s。
在 Cookbook 的 17 个家居建材站点中，wayfair.com 按成功率排在第 10 位（共 17 个）；类别中位数为 97.5%。 其响应中位时间 2.8s 慢于类别中位数 2.0s。 17 个站点中有 11 个接受普通令牌，这个站点也在其中。
调用
商品页是各账户在此抓取最多的页面形态，附带最常成功的国家和令牌。请把占位路径换成站点上真实的商品 URL。
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&country=US&url=https%3A%2F%2Fwww.wayfair.com%2Fexample-section%2Fexample-page%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.wayfair.com/example-section/example-page/example-page', {'country': 'US'}) html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.wayfair.com/example-section/example-page/example-page', { country: 'US' });
关键参数
| 参数 | 设置为 | 原因 |
|---|---|---|
country | US | 99.8% 的成功调用设置了它，成功率为 97.7%；未设置 country 的调用成功率为 86.8%。 |
javascript | 不设置 | 普通令牌调用的成功率为 97.6%，占流量的 100%。浏览器成本更高，而在该站点上没有任何收益。 |
各账户抓取的 URL 模式
| 模式 | 成功占比 | JavaScript 令牌 | Country | 查询参数 |
|---|---|---|---|---|
/{slug}/{slug}/{slug} | 36.9% | 0.0% | US | piid, categoryid |
/home-improvement/{slug}/{slug} | 29.5% | 0.0% | US | piid, categoryid |
/storage-organization/{slug}/{slug} | 13.0% | 0.0% | US | piid, categoryid |
/outdoor/{slug}/{slug} | 8.3% | 0.0% | US | piid, categoryid |
你能得到的字段
商品页通常带有 ld+json 的 Product 块，包含名称、价格、货币和库存状态，可见标记中也有相同的值。先读这个块，它比页面布局变化得更少。
会出问题的地方及修复方法
自 2026年8月14日 以来的失败中，站点的响应为：
429：占失败的 67.5% 429 是站点侧的速率限制。拉开调用间隔，或把它们推送到 Crawler，由它控制节奏。
0：占失败的 17.2% 状态 0 表示请求在超时之前从未得到响应。如果该模式需要浏览器，用 JavaScript 令牌重试一次。
591：占失败的 9.6% 5xx 是站点自身故障，不是抓取的问题。一分钟后重试。
定时运行
刷新目录就是一份商品 URL 列表。把它连同回调推送到 Crawler，让它控制调用节奏并重试站点拒绝的请求，然后从 Cloud Storage 读取结果。该站点的响应中位时间为 2.8s。
常见问题
抓取 wayfair.com 需要浏览器吗？
不需要。97.6% 的普通令牌调用成功，各账户 100% 的流量不使用浏览器。
在 Crawlbase 上抓取一个 wayfair.com 页面要多少钱？
不用浏览器时为 4.5 积分。wayfair.com 属于复杂 ii等级。
抓取 wayfair.com 应该设置哪个 country？
US：这是 99.8% 的成功调用所使用的。
站点名称用于标识配方抓取的页面。Crawlbase 与所列任何站点均无关联。请在以下范围内使用配方： 可接受使用政策.数据测自 2026年8月，每月更新