メインコンテンツへスキップ
Gologin Web Unlocker は、JavaScript を多用するサイトや保護されたサイト向けのシングルエンドポイントの Scraping API です。 URL を送信すると、レンダリング済みのページ HTML/テキストが返されます。取得した内容は、お使いの抽出パイプラインで処理できます。

Scraping API として使う理由

  • あらゆる対象 URL に対応する 1 つのエンドポイント
  • API キー認証のみで、ブラウザのオーケストレーションは不要
  • 既存のパーサーにそのまま組み込める HTML ベースのレスポンス
  • ETL、モニタリング、AI へのデータ取り込み、データパイプラインに最適

エンドポイント

GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}

認証

API キーをヘッダーで送信します。

リクエストモデル

クイックスタート

cURL

Python

JavaScript (fetch)

レスポンスの動作

現在のレスポンスボディは、レンダリング済みの生の HTML/テキストです。
  • 200 -> 成功。ボディにページの HTML/テキストが含まれます
  • 401 / 403 -> API キーが無効、または指定されていません
  • 422 -> url が無効、または指定されていません
  • 429 -> レート制限
  • 500+ -> サーバー側の一時的なエラー

リトライの推奨事項

次の場合は、指数バックオフでリトライしてください。
  • ネットワークエラー
  • 408、429、500、502、503、504

対応範囲に関する注意

現在の公開エンドポイントは HTML を中心としたものです。スクリーンショット、クロール、検索、使用量取得などの追加のバックエンドエンドポイントは、ドキュメントに明記され、お使いのアカウントで有効化されている場合を除き、利用できるものと想定しないでください。

公式 Node.js SDK

インストール:

SDK クイックスタート

コンストラクターのオプション

SDK の主なメソッド

  • scrape(url) -> 正規化されたレスポンスオブジェクト
  • scrapeRaw(url) -> ネイティブの Response
  • buildScrapeUrl(url) -> 完全なリクエスト URL

SDK 側で生成されるメソッド (返された HTML から生成)

これらは独立したバックエンドエンドポイントではありません。API から返された HTML をもとに SDK 側で生成されます。
  • scrapeText(url) -> プレーンテキスト
  • scrapeMarkdown(url) -> Markdown
  • scrapeJSON(url) -> 構造化されたメタデータ (title、meta、links、headings)
  • batchScrape(urls, { concurrency }) -> 複数のスクレイピング呼び出しをまとめて行うヘルパー

型付きエラー

  • WebUnlockerError
  • AuthenticationError
  • RateLimitError
  • APIError
  • TimeoutError
  • NetworkError
対応関係:
  • 401 / 403 -> AuthenticationError
  • 429 -> RateLimitError
  • 500+ -> APIError
  • タイムアウト/中断 -> TimeoutError
  • fetch/ネットワーク障害 -> NetworkError

CLI

コマンド:
  • scrape (生の HTML/テキスト)
  • text (生成されたテキスト)
  • markdown (生成された Markdown)
  • json (生成されたメタデータ)
例:

スクレイピングの主なユースケース

  • 価格やカタログのモニタリング
  • リードやディレクトリ情報の拡充
  • マーケットインテリジェンスのパイプライン
  • コンテンツの集約とインデックス作成
  • LLM へのデータ取り込みと抽出ワークフロー

Gologin Web Access CLI (統合版)

Web Unlocker と Cloud Browser を 1 つのコマンド体系にまとめた、より強力な CLI が必要な場合は、gologin-web-access を使用してください。
詳しいリファレンスは Gologin Web Access CLI をご覧ください。

関連ドキュメント