解决方案 / 电商

爬取并抓取
电商数据。

使用 Crawlbase Crawling API 抓取 Amazon、eBay、AliExpress 和 Walmart 等电商网站。提取热门产品、价格、评论及畅销洞察,无需管理任何拦截。

最多 5,000 次请求免费无需信用卡受 70,000+ 用户信赖
任意 URLHTML · JSON · 图片any-website.com/any/pathCrawlbase路由渲染提取渲染后的 HTML结构化 JSON截图crawling-apigeneric-extractorscreenshot=trueany-website.com · rendered · 200
01 简而言之

什么是使用 Crawlbase 的电商抓取?

使用 Crawlbase 进行电商抓取,就是把产品、搜索或分类页面的 URL 发送到 Crawling API,并以渲染后的 HTML 或解析好的 JSON 形式拿回页面。代理、JavaScript 渲染和验证码都由 Crawlbase 处理,你只需关注数据。

对于 Amazon、Walmart、eBay、AliExpress、Galaxus、Best Buy、Google Shopping、TikTok Shop 和 OLX,在请求中加上 amazon-product-details 这样的抓取工具名称,返回结果就是结构化 JSON。对于其他任何商店,同一个调用会返回完整 HTML,供你自行解析。你可以免费开始,最多 5,000 次请求,无需信用卡。

02 爬取并抓取网站

抓取你所销售的电商网站。

产品描述、价格、卖家信息、评分等,覆盖各大重要市场平台。

Crawlbase 支持这些以及许多其他电商页面。

03 抓取工具目录

现成的电商抓取工具。

每个抓取工具只针对一种页面类型,因此 JSON 结构保持稳定。在 Crawling API 调用的 scraper 参数中传入它的名称即可。输入格式和输出结构请参阅文档。

amazon-product-details · amazon-serp · amazon-offer-listing · amazon-product-reviews · amazon-best-sellers · amazon-new-releases

Amazon

产品详情、搜索结果、所有卖家的报价列表、产品评论,以及 Best Sellers 和 New Releases 榜单。传入 country(例如 US、UK 或 DE)即可访问对应地区的站点。

抓取工具页面 · 文档

walmart-product-details · walmart-serp · walmart-category

Walmart

产品页、搜索结果以及部门或分类信息流。适合追踪同一商品在 Amazon 和 Walmart 之间的价格差异。

抓取工具页面 · 文档

ebay-product · ebay-serp · ebay-seller-shop

eBay

包含价格、卖家、成色和运费的商品页,搜索结果,以及单个卖家店铺中的全部商品。

抓取工具页面 · 文档

aliexpress-product · aliexpress-serp

AliExpress

产品页和搜索结果。搭配 country 使用,可查看目标买家市场的本地化价格和运费。

抓取工具页面 · 文档

galaxus-product · galaxus-serp · galaxus-product-reviews

Galaxus

瑞士 Galaxus 和 Digitec 的产品页、搜索结果和买家评论。将 country 设为 CH 可获得准确的价格和库存。

抓取工具页面 · 文档

bestbuy-product-details · bestbuy-serp

Best Buy

产品详情和搜索结果。非常适合追踪北美消费电子产品的价格。

抓取工具页面 · 文档

google-product-offers

Google Shopping

Google Shopping 商品的全部商家报价,包含价格、评分和卖家信息。无需逐个抓取商店即可进行跨商家比价。

文档

tiktok-shop

TikTok Shop

TikTok Shop 店铺页:店铺元数据、商品、评分和粉丝数。搭配你的 JavaScript 令牌效果最佳。

文档

olx-serp · olx-item

OLX

OLX 共用前端上的搜索或分类结果以及单个广告页:olx.pl、olx.ua、olx.pt、olx.ro、olx.bg、olx.kz 和 olx.uz。

抓取工具页面 · 文档

04 你可以抓取的内容

结构化数据,即取即用。

产品详情

  • 产品标题
  • 描述
  • 图片
  • 类别

市场洞察

  • 客户评论
  • 卖家信息
  • 热门产品
  • 折扣与优惠

物流数据

  • 产品库存
  • 配送时间
  • 运费
  • 配送方式
05 工作原理

四步从 URL 到 JSON。

目录中的每个电商平台都使用同样的流程。

01

获取令牌

免费注册 Crawlbase 账户,复制你的 Crawling API 令牌。

02

选择抓取工具

按页面类型选择对应的抓取工具:产品、搜索、分类、卖家店铺、报价或评论。

03

发送 URL

使用你的令牌、目标 URL 和抓取工具名称调用 Crawling API。需要特定地区站点时加上 country。

04

拿回 JSON

Crawlbase 负责路由请求、渲染页面、通过机器人检测,并返回解析好的 JSON。只有成功的请求才计费。

06 看它如何运作

一次 GET 请求,返回结构化数据。

将 Crawling API 指向 Amazon 产品或搜索 URL,即可获得渲染后的页面或自动解析的 JSON。无需代理,无需 CAPTCHA。

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&scraper=amazon-product-details\
&url=https://www.amazon.com/dp/B07S5QWM6L"
07 代码示例

用 Python 发起同样的调用。

使用 pip install crawlbase 安装官方 SDK,然后把抓取工具名称作为选项传入。Node.js、Ruby、PHP、Go、Java 和 .NET 也有对应的 SDK。

from crawlbase import CrawlingAPI
import json

api = CrawlingAPI({'token': 'YOUR_TOKEN'})
res = api.get(
    'https://www.amazon.com/Apple-iPhone-Silicone-Case-MagSafe/dp/B0CHX2XFLN',
    {'scraper': 'amazon-product-details'}
)
data = json.loads(res['body'])
print(data['name'], data['price'])
08 使用场景

团队用电商数据构建什么。

USE / 01价格

价格监控

定期调用 amazon-product-details 或 walmart-product-details,保存价格和库存,任一变化时发出提醒。

USE / 02竞争

竞争情报

针对目标关键词运行 amazon-serp,再获取每个结果的产品详情,看清谁在排名以及价格如何。

USE / 03目录

商品目录补全

利用产品详情抓取工具返回的品牌、图片、特性和描述,补全你自己的 SKU 信息。

USE / 04营销

新品与广告效果衡量

在营销活动或新品发布前后追踪 amazon-best-sellers 和 amazon-new-releases 的排名。

USE / 05卖家

经销商追踪

使用 ebay-seller-shop 长期追踪某个卖家的商品目录,而不是单个商品。

USE / 06评论

评论分析

抓取 amazon-product-reviews 或 galaxus-product-reviews,追踪你和竞争对手产品的评分与反复出现的投诉。

09 团队为何选择 Crawlbase

为规模化的精准电商数据而打造。

  • 优质的支持与文档
  • 无缝的扩展能力
  • 精准且一致的电商数据
  • 无限制,全球代理可访问任何网站
  • 符合 GDPR 与 CCPA 规范
  • 轻松访问被拦截的内容
10 一体化平台

采集、存储与扩展。

Crawling API

为任何产品或搜索页面获取完整渲染的 HTML 或自动解析的 JSON。轮换代理与 AI 可清除来自任何地理位置的 IP 拦截和 CAPTCHA。

Cloud Storage

只需一个参数,即可将爬取的页面直接发送至云端,无需自行搭建存储。

Crawler

对于大型项目,可运行带回调的异步爬取,以节省成本、重试与带宽。

11 概览

用 Crawlbase 进行电商爬取。

易于使用,即使编程知识有限也能上手。

借助我们的全球代理,实现高度可扩展的 API。

为 JavaScript 密集型网站自动化浏览器抓取。

保护你的爬虫免受拦截、IP 泄露和 CAPTCHA 的影响。

将数据导出为原始 HTML 或结构化 JSON。

获取快速、可靠且高质量的数据。

12 须知

开始之前。

没有抓取工具的网站

对于目录之外的商店,不带 scraper 参数调用 Crawling API,然后自行解析返回的 HTML。

地区站点

传入 country(例如 DE),即可看到当地买家看到的内容:货币、语言和地区库存。

一个令牌通用

同一个令牌可用于每个抓取工具和普通的 Crawling API 调用,速率限制相同。无需针对每个网站单独配置。

稳定的输出

每个抓取工具只针对一种页面类型,因此即使底层 HTML 变化,JSON 结构也保持稳定。

13 常见问题

电商抓取相关问题。

对于 Amazon、eBay、AliExpress、Walmart 和 Best Buy 等网站,你可以将数据导出为 CSV、Excel 或 JSON。对于其他电商网站,默认输出为 HTML。需要其他格式?请联系支持团队获取定制方案。
是的。我们的支持团队全天候 24/7 提供服务,帮助解决任何问题或疑问。
Crawling API 平均响应时间约为 4 到 10 秒。我们建议将超时设置为至少 90 秒。
Amazon、Walmart、eBay、AliExpress、Galaxus、Best Buy、Google Shopping(商品报价)、TikTok Shop 和 OLX。抓取工具覆盖产品详情、搜索结果、分类信息流、卖家店铺、报价列表和评论等页面类型。
可以。不带 scraper 参数把 URL 发送到 Crawling API,你会拿回完整的页面 HTML,代理、渲染和验证码都已处理好。然后再解析你需要的字段。
在请求中加上 country 参数,例如 country=DE。Crawlbase 会相应路由请求,让你看到该国买家看到的货币、语言和库存。
不需要。Crawling API 会轮换代理,在需要时渲染 JavaScript,并为你处理验证码和封锁。
你可以免费开始,最多 5,000 次请求,无需信用卡。之后只为成功的请求付费,一个令牌即可用于每个抓取工具和 Crawling API。当前价格请查看定价页面。

开始抓取电商数据。
跳过拦截。

最多 5,000 次请求免费,无需信用卡。一个 API 覆盖每个市场平台,无需管理代理或 CAPTCHA。