什么是使用 Crawlbase 的电商抓取?
使用 Crawlbase 进行电商抓取,就是把产品、搜索或分类页面的 URL 发送到 Crawling API,并以渲染后的 HTML 或解析好的 JSON 形式拿回页面。代理、JavaScript 渲染和验证码都由 Crawlbase 处理,你只需关注数据。
对于 Amazon、Walmart、eBay、AliExpress、Galaxus、Best Buy、Google Shopping、TikTok Shop 和 OLX,在请求中加上 amazon-product-details 这样的抓取工具名称,返回结果就是结构化 JSON。对于其他任何商店,同一个调用会返回完整 HTML,供你自行解析。你可以免费开始,最多 5,000 次请求,无需信用卡。
抓取你所销售的电商网站。
产品描述、价格、卖家信息、评分等,覆盖各大重要市场平台。
Crawlbase 支持这些以及许多其他电商页面。
现成的电商抓取工具。
每个抓取工具只针对一种页面类型,因此 JSON 结构保持稳定。在 Crawling API 调用的 scraper 参数中传入它的名称即可。输入格式和输出结构请参阅文档。
Amazon
产品详情、搜索结果、所有卖家的报价列表、产品评论,以及 Best Sellers 和 New Releases 榜单。传入 country(例如 US、UK 或 DE)即可访问对应地区的站点。
Walmart
产品页、搜索结果以及部门或分类信息流。适合追踪同一商品在 Amazon 和 Walmart 之间的价格差异。
Galaxus
瑞士 Galaxus 和 Digitec 的产品页、搜索结果和买家评论。将 country 设为 CH 可获得准确的价格和库存。
结构化数据,即取即用。
产品详情
- 产品标题
- 描述
- 图片
- 类别
市场洞察
- 客户评论
- 卖家信息
- 热门产品
- 折扣与优惠
物流数据
- 产品库存
- 配送时间
- 运费
- 配送方式
四步从 URL 到 JSON。
目录中的每个电商平台都使用同样的流程。
获取令牌
免费注册 Crawlbase 账户,复制你的 Crawling API 令牌。
选择抓取工具
按页面类型选择对应的抓取工具:产品、搜索、分类、卖家店铺、报价或评论。
发送 URL
使用你的令牌、目标 URL 和抓取工具名称调用 Crawling API。需要特定地区站点时加上 country。
拿回 JSON
Crawlbase 负责路由请求、渲染页面、通过机器人检测,并返回解析好的 JSON。只有成功的请求才计费。
用 Python 发起同样的调用。
使用 pip install crawlbase 安装官方 SDK,然后把抓取工具名称作为选项传入。Node.js、Ruby、PHP、Go、Java 和 .NET 也有对应的 SDK。
from crawlbase import CrawlingAPI
import json
api = CrawlingAPI({'token': 'YOUR_TOKEN'})
res = api.get(
'https://www.amazon.com/Apple-iPhone-Silicone-Case-MagSafe/dp/B0CHX2XFLN',
{'scraper': 'amazon-product-details'}
)
data = json.loads(res['body'])
print(data['name'], data['price'])团队用电商数据构建什么。
价格监控
定期调用 amazon-product-details 或 walmart-product-details,保存价格和库存,任一变化时发出提醒。
竞争情报
针对目标关键词运行 amazon-serp,再获取每个结果的产品详情,看清谁在排名以及价格如何。
商品目录补全
利用产品详情抓取工具返回的品牌、图片、特性和描述,补全你自己的 SKU 信息。
新品与广告效果衡量
在营销活动或新品发布前后追踪 amazon-best-sellers 和 amazon-new-releases 的排名。
经销商追踪
使用 ebay-seller-shop 长期追踪某个卖家的商品目录,而不是单个商品。
评论分析
抓取 amazon-product-reviews 或 galaxus-product-reviews,追踪你和竞争对手产品的评分与反复出现的投诉。
为规模化的精准电商数据而打造。
- 优质的支持与文档
- 无缝的扩展能力
- 精准且一致的电商数据
- 无限制,全球代理可访问任何网站
- 符合 GDPR 与 CCPA 规范
- 轻松访问被拦截的内容
采集、存储与扩展。
Crawling API
为任何产品或搜索页面获取完整渲染的 HTML 或自动解析的 JSON。轮换代理与 AI 可清除来自任何地理位置的 IP 拦截和 CAPTCHA。
Cloud Storage
只需一个参数,即可将爬取的页面直接发送至云端,无需自行搭建存储。
Crawler
对于大型项目,可运行带回调的异步爬取,以节省成本、重试与带宽。
用 Crawlbase 进行电商爬取。
易于使用,即使编程知识有限也能上手。
借助我们的全球代理,实现高度可扩展的 API。
为 JavaScript 密集型网站自动化浏览器抓取。
保护你的爬虫免受拦截、IP 泄露和 CAPTCHA 的影响。
将数据导出为原始 HTML 或结构化 JSON。
获取快速、可靠且高质量的数据。
开始之前。
没有抓取工具的网站
对于目录之外的商店,不带 scraper 参数调用 Crawling API,然后自行解析返回的 HTML。
地区站点
传入 country(例如 DE),即可看到当地买家看到的内容:货币、语言和地区库存。
一个令牌通用
同一个令牌可用于每个抓取工具和普通的 Crawling API 调用,速率限制相同。无需针对每个网站单独配置。
稳定的输出
每个抓取工具只针对一种页面类型,因此即使底层 HTML 变化,JSON 结构也保持稳定。