跳转到主要内容
Gologin Web Unlocker 是一个单端点抓取 API,适用于大量依赖 JS 渲染以及有防护机制的网站。 你只需发送一个 URL,即可获得渲染后的页面 HTML/文本,然后在自己的数据提取流程中进行处理。

为什么将它用作 Scraping API

  • 任意目标 URL 只需一个端点
  • 使用 API 密钥认证,无需编排浏览器
  • 以 HTML 为主的响应,可直接接入现有解析器
  • 适合 ETL、监控、AI 数据摄取和数据管道

端点

GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}

身份验证

在请求头中发送你的 API 密钥:

请求模型

快速开始

cURL

Python

JavaScript (fetch)

响应行为

当前响应体为原始的渲染后 HTML/文本。
  • 200 -> 成功,响应体包含页面 HTML/文本
  • 401 / 403 -> API 密钥无效或缺失
  • 422 -> url 无效或缺失
  • 429 -> 触发速率限制
  • 500+ -> 服务端临时错误

重试建议

对以下情况,请使用指数退避策略进行重试:
  • 网络错误
  • 408、429、500、502、503、504

范围说明

当前公开的端点以 HTML 为主。除非文档明确说明且已为你的账户启用,否则请不要假定存在其他后端端点(例如截图/爬取/搜索/用量)。

官方 Node.js SDK

安装:

SDK 快速开始

构造函数选项

SDK 核心方法

  • scrape(url) -> 标准化的响应对象
  • scrapeRaw(url) -> 原生 Response
  • buildScrapeUrl(url) -> 完整的请求 URL

SDK 端派生方法(基于返回的 HTML)

这些不是独立的后端端点,而是 SDK 基于 API 返回的 HTML 派生出来的:
  • scrapeText(url) -> 纯文本
  • scrapeMarkdown(url) -> Markdown
  • scrapeJSON(url) -> 结构化元数据(title、meta、links、headings)
  • batchScrape(urls, { concurrency }) -> 用于多次抓取调用的辅助方法

类型化错误

  • WebUnlockerError
  • AuthenticationError
  • RateLimitError
  • APIError
  • TimeoutError
  • NetworkError
映射关系:
  • 401 / 403 -> AuthenticationError
  • 429 -> RateLimitError
  • 500+ -> APIError
  • 超时/中止 -> TimeoutError
  • fetch/网络故障 -> NetworkError

CLI

命令:
  • scrape(原始 HTML/文本)
  • text(派生的文本)
  • markdown(派生的 Markdown)
  • json(派生的元数据)
示例:

典型抓取使用场景

  • 价格和商品目录监控
  • 线索和名录信息补全
  • 市场情报数据管道
  • 内容聚合与索引
  • LLM 数据摄取和提取工作流

Gologin Web Access CLI(统一版)

如果你需要功能更强大的 CLI,在同一套命令中结合使用 Web Unlocker 和 Cloud Browser,请使用 gologin-web-access:
完整参考请参阅 Gologin Web Access CLI。

相关文档