Scraping API として使う理由
- あらゆる対象 URL に対応する 1 つのエンドポイント
- API キー認証のみで、ブラウザのオーケストレーションは不要
- 既存のパーサーにそのまま組み込める HTML ベースのレスポンス
- ETL、モニタリング、AI へのデータ取り込み、データパイプラインに最適
エンドポイント
GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}
認証
API キーをヘッダーで送信します。リクエストモデル
クイックスタート
cURL
Python
JavaScript (fetch)
レスポンスの動作
現在のレスポンスボディは、レンダリング済みの生の HTML/テキストです。200-> 成功。ボディにページの HTML/テキストが含まれます401/403-> API キーが無効、または指定されていません422->urlが無効、または指定されていません429-> レート制限500+-> サーバー側の一時的なエラー
リトライの推奨事項
次の場合は、指数バックオフでリトライしてください。- ネットワークエラー
408、429、500、502、503、504
対応範囲に関する注意
現在の公開エンドポイントは HTML を中心としたものです。スクリーンショット、クロール、検索、使用量取得などの追加のバックエンドエンドポイントは、ドキュメントに明記され、お使いのアカウントで有効化されている場合を除き、利用できるものと想定しないでください。公式 Node.js SDK
インストール:SDK クイックスタート
コンストラクターのオプション
SDK の主なメソッド
scrape(url)-> 正規化されたレスポンスオブジェクトscrapeRaw(url)-> ネイティブのResponsebuildScrapeUrl(url)-> 完全なリクエスト URL
SDK 側で生成されるメソッド (返された HTML から生成)
これらは独立したバックエンドエンドポイントではありません。API から返された HTML をもとに SDK 側で生成されます。scrapeText(url)-> プレーンテキストscrapeMarkdown(url)-> MarkdownscrapeJSON(url)-> 構造化されたメタデータ (title、meta、links、headings)batchScrape(urls, { concurrency })-> 複数のスクレイピング呼び出しをまとめて行うヘルパー
型付きエラー
WebUnlockerErrorAuthenticationErrorRateLimitErrorAPIErrorTimeoutErrorNetworkError
401/403->AuthenticationError429->RateLimitError500+->APIError- タイムアウト/中断 ->
TimeoutError - fetch/ネットワーク障害 ->
NetworkError
CLI
scrape(生の HTML/テキスト)text(生成されたテキスト)markdown(生成された Markdown)json(生成されたメタデータ)
スクレイピングの主なユースケース
- 価格やカタログのモニタリング
- リードやディレクトリ情報の拡充
- マーケットインテリジェンスのパイプライン
- コンテンツの集約とインデックス作成
- LLM へのデータ取り込みと抽出ワークフロー
Gologin Web Access CLI (統合版)
Web Unlocker と Cloud Browser を 1 つのコマンド体系にまとめた、より強力な CLI が必要な場合は、gologin-web-access を使用してください。