crawlbase文档
登录

概述

社交媒体抓取器涵盖了大多数团队所抓取的五大平台的公开页面:Facebook、Instagram、TikTok、LinkedIn 和 Reddit。每个抓取器只面向一种页面类型 - 资料、帖子、话题标签、活动、动态、subreddit 列表、评论讨论串 - 因此即使底层应用重构其界面,JSON 结构也保持可预测。我们处理反机器人、速率限制和住宅路由;你收到已解析的结构。

常见用例:

  • 品牌监控:轮询 instagram-profile / tiktok-profile 以获取关注者数量、发帖节奏,以及竞争对手和网红的互动趋势。
  • 网红发现:遍历 instagram-hashtaginstagram-reels-audio,以找到使用特定话题标签或热门音效的创作者。
  • 招聘 / 销售寻源:用 linkedin-profilelinkedin-company 数据丰富 CRM - 职位、员工人数、标题、当前角色。
  • 活动营销:拉取 facebook-event 的参与情况和时间安排,以跟踪某城市或行业垂直领域的活动饱和度。
  • 趋势研究:将 tiktok-productinstagram-post 馈入趋势检测流程,用于营销或产品研究。
  • 社区与情感研究:拉取 reddit-subredditreddit-post 以获取排名帖子和完整评论树,从而跟踪情感、产品反馈和新兴讨论。

仅支持公开页面 - 需登录或私密的内容不在范围内,抓取器也不会尝试获取。当一个平台有多种帖子类型时(例如 Instagram 有资料 + 帖子 + reel + 话题标签),每种都有各自的抓取器,因此你不会为不需要的字段付费。

Facebook

公开的 Facebook 页面 - 主页、资料、群组、话题标签、活动。适用于品牌监控、活动营销,以及在 Facebook 份额高于 Instagram 的地区(EMEA 大部分地区、拉美部分地区)进行发现。

Instagram

五个 Instagram 抓取器,涵盖与网红营销和趋势研究最相关的页面 - 资料、单个帖子和 reels、话题标签动态,以及用于以音乐/音效驱动的趋势跟踪的 reels-audio。

TikTok

TikTok 资料和单个视频/产品帖子。如果你在跟踪创作者电商,可与电商类别中的 tiktok-shop 搭配使用。

LinkedIn

公开的 LinkedIn - 资料、公司主页和动态帖子。B2B 寻源、招聘和竞争性员工人数跟踪的标准选择。

Reddit

公开的 Reddit 页面 - subreddit 列表、搜索结果,以及带有完整评论树的单个帖子。适用于社区监控、情感分析,以及跨主题社区的趋势检测。

  • Reddit Subreddit - 来自 subreddit 列表的排名帖子(标题、作者、分数、评论数、flair、分页)。
  • Reddit Search - Reddit 搜索结果 - 匹配的帖子以及相关的 subreddit。
  • Reddit Post - 单个帖子,包含正文、分数、点赞比例和完整的嵌套评论树。

调用示例

下面是一次 instagram-profile 调用。抓取器返回公开资料快照 - 用户名、简介、关注者/关注中数量、帖子数、认证标志和头像 URL。

curl 'https://api.crawlbase.com/?token=YOUR_TOKEN' \
  --data-urlencode 'url=https://www.instagram.com/apple/' \
  --data-urlencode 'scraper=instagram-profile' -G

响应示例

{
  "username": "apple",
  "full_name": "Apple",
  "biography": "Welcome to @apple. The latest creativity going on around us.",
  "followers_count": 33800000,
  "following_count": 9,
  "posts_count": 1284,
  "is_verified": true,
  "is_private": false,
  "profile_pic_url": "https://scontent.cdninstagram.com/...jpg"
}

完整参考(参数、全部 4 种 SDK 语言、边界情况): Instagram Profile - 完整参考