Chuyển đến nội dung chính
Gologin Web Unlocker là một scraping API chỉ với một endpoint dành cho các trang web nặng JavaScript và có cơ chế bảo vệ. Bạn gửi một URL, nhận về HTML/văn bản của trang đã được render, rồi xử lý bằng quy trình trích xuất dữ liệu của riêng bạn.

Vì sao nên dùng như một Scraping API

  • Một endpoint cho mọi URL đích
  • Xác thực bằng API key, không cần điều phối trình duyệt
  • Phản hồi ưu tiên HTML, dễ tích hợp với các bộ phân tích cú pháp (parser) hiện có
  • Phù hợp với ETL, giám sát, nạp dữ liệu cho AI và các pipeline dữ liệu

Endpoint

GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}

Xác thực

Gửi API key của bạn trong header:

Mô hình yêu cầu

Bắt đầu nhanh

cURL

Python

JavaScript (fetch)

Hành vi của phản hồi

Nội dung phản hồi hiện tại là HTML/văn bản thô đã được render.
  • 200 -> thành công, nội dung chứa HTML/văn bản của trang
  • 401 / 403 -> API key không hợp lệ hoặc bị thiếu
  • 422 -> url không hợp lệ hoặc bị thiếu
  • 429 -> vượt giới hạn tốc độ (rate limit)
  • 500+ -> lỗi tạm thời từ phía máy chủ

Hướng dẫn thử lại

Hãy thử lại với cơ chế exponential backoff (tăng dần thời gian chờ) khi gặp:
  • lỗi mạng
  • 408, 429, 500, 502, 503, 504

Lưu ý về phạm vi

Endpoint công khai hiện tại ưu tiên HTML. Đừng mặc định rằng có thêm các endpoint backend khác (ví dụ chụp ảnh màn hình/crawl/tìm kiếm/usage), trừ khi chúng được nêu rõ trong tài liệu và đã được bật cho tài khoản của bạn.

SDK Node.js chính thức

Cài đặt:

Bắt đầu nhanh với SDK

Tùy chọn của constructor

Các phương thức chính của SDK

  • scrape(url) -> đối tượng phản hồi đã được chuẩn hóa
  • scrapeRaw(url) -> Response gốc
  • buildScrapeUrl(url) -> URL yêu cầu đầy đủ

Các phương thức suy ra ở phía SDK (từ HTML trả về)

Đây không phải là các endpoint backend riêng biệt; chúng được SDK suy ra từ HTML mà API trả về:
  • scrapeText(url) -> văn bản thuần
  • scrapeMarkdown(url) -> markdown
  • scrapeJSON(url) -> siêu dữ liệu có cấu trúc (title, meta, links, headings)
  • batchScrape(urls, { concurrency }) -> hàm hỗ trợ gọi scrape cho nhiều URL

Lỗi có kiểu xác định

  • WebUnlockerError
  • AuthenticationError
  • RateLimitError
  • APIError
  • TimeoutError
  • NetworkError
Ánh xạ lỗi:
  • 401 / 403 -> AuthenticationError
  • 429 -> RateLimitError
  • 500+ -> APIError
  • hết thời gian chờ/bị hủy -> TimeoutError
  • lỗi fetch/mạng -> NetworkError

CLI

Các lệnh:
  • scrape (HTML/văn bản thô)
  • text (văn bản được suy ra)
  • markdown (markdown được suy ra)
  • json (siêu dữ liệu được suy ra)
Ví dụ:

Các trường hợp sử dụng scraping điển hình

  • giám sát giá và danh mục sản phẩm
  • bổ sung dữ liệu cho danh sách khách hàng tiềm năng và danh bạ
  • các pipeline thu thập thông tin thị trường
  • tổng hợp và lập chỉ mục nội dung
  • quy trình nạp dữ liệu và trích xuất cho LLM

Gologin Web Access CLI (hợp nhất)

Nếu bạn cần một CLI mạnh mẽ hơn, kết hợp Web Unlocker với Cloud Browser trong cùng một bộ lệnh, hãy dùng gologin-web-access:
Xem Gologin Web Access CLI để biết đầy đủ tài liệu tham khảo.

Tài liệu nguồn