跳转到主要内容
Gologin Web Access 是一个统一的 CLI,将两款 Gologin 产品整合到同一套命令中:
  • Web Unlocker — 无状态的读取与提取。适合无需维护浏览器会话、只想快速获取页面内容的场景。
  • 云浏览器 — 有状态的交互。适合需要导航、点击、输入、截图,或需要在多条命令之间保持状态的多步骤流程。
两种模式共用同一套配置模型和凭证设置。建议提前配置好两种凭证,这样智能体在执行任务的过程中就不会因为缺少密钥而中途停下来询问。

安装

需要 Node.js >= 18.17。

凭证

两种模式分别使用两种不同的 Gologin 凭证:

配置文件

将凭证保存在 ~/.gologin-web-access/config.json 中:
以交互方式初始化配置:

快速开始 — 读取页面

快速开始 — 与网站交互


命令参考 — 抓取 / 读取

这些命令使用 Web Unlocker。它们是无状态的,不会维护浏览器会话。

单个页面

常用选项: --format text|markdown|html、--source auto|unlocker|browser、--fallback none|browser

批量操作

批量选项: --format、--source、--only-main-content、--retry <n>、--backoff-ms <ms>、--summary、--output <path>、--strict 默认情况下,batch-scrape 在部分成功时返回退出码 0。添加 --strict 后,任何错误都会导致失败。

搜索与发现

选项: --limit <n>、--max-depth <n>、--concurrency <n>、--only-main-content

异步爬取任务

变化追踪

Runbook


命令参考 — 浏览器 / 交互

这些命令使用云浏览器,并通过本地守护进程维护有状态的会话。

会话管理

选项: 使用 --profile <id> 指定要使用的 Gologin 配置文件。

页面读取

交互

导航

标签页

高级


使用场景与示例

抓取竞品的价格页面

以结构化 JSON 返回页面标题、描述、各级标题和链接。如果页面被 Cookie 同意墙或验证挑战拦截,outcome 字段会告诉你,同时 nextActionHint 会建议切换到浏览器模式。

基于文档站点构建研究语料库

可将输出内容交给 LLM,用于摘要、问答或微调。

监控页面变化

可通过 cron 每天运行,并对比差异,以发现价格变动、新功能或被移除的内容。

使用 schema 提取结构化数据

先定义你想提取的内容:
然后执行提取:
使用 batch-extract 可对多个页面执行同样的提取。

搜索网页并抓取结果

登录网站并进行交互

当仅靠抓取还不够,需要点击、输入、导航时:

解析本地文档

不仅限于网页,还可以解析 PDF、Word 文档和 Excel 文件:

使用 runbook 自动化多步骤工作流

用 JSON 定义一系列步骤,即可重复执行:

来源路由

支持 --source 的命令可以通过不同的后端处理请求:

结构化输出

scrape-json 会返回丰富的元数据,包括:
  • title、description、headings、headingsByLevel、links
  • 结果分类: ok、empty、incomplete、authwall、challenge、blocked、cookie_wall
  • nextActionHint — 当页面无法完全访问时建议的下一步操作
search 会返回 requestedLimit、returnedCount、warnings、cacheTtlMs,以及每条结果的 position。

相关内容

npm 包

gologin-web-access

源代码

GologinLabs/gologin-web-access