Vì sao nên dùng như một Scraping API
- Một endpoint cho mọi URL đích
- Xác thực bằng API key, không cần điều phối trình duyệt
- Phản hồi ưu tiên HTML, dễ tích hợp với các bộ phân tích cú pháp (parser) hiện có
- Phù hợp với ETL, giám sát, nạp dữ liệu cho AI và các pipeline dữ liệu
Endpoint
GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}
Xác thực
Gửi API key của bạn trong header:Mô hình yêu cầu
Bắt đầu nhanh
cURL
Python
JavaScript (fetch)
Hành vi của phản hồi
Nội dung phản hồi hiện tại là HTML/văn bản thô đã được render.200-> thành công, nội dung chứa HTML/văn bản của trang401/403-> API key không hợp lệ hoặc bị thiếu422->urlkhông hợp lệ hoặc bị thiếu429-> vượt giới hạn tốc độ (rate limit)500+-> lỗi tạm thời từ phía máy chủ
Hướng dẫn thử lại
Hãy thử lại với cơ chế exponential backoff (tăng dần thời gian chờ) khi gặp:- lỗi mạng
408,429,500,502,503,504
Lưu ý về phạm vi
Endpoint công khai hiện tại ưu tiên HTML. Đừng mặc định rằng có thêm các endpoint backend khác (ví dụ chụp ảnh màn hình/crawl/tìm kiếm/usage), trừ khi chúng được nêu rõ trong tài liệu và đã được bật cho tài khoản của bạn.SDK Node.js chính thức
Cài đặt:Bắt đầu nhanh với SDK
Tùy chọn của constructor
Các phương thức chính của SDK
scrape(url)-> đối tượng phản hồi đã được chuẩn hóascrapeRaw(url)->ResponsegốcbuildScrapeUrl(url)-> URL yêu cầu đầy đủ
Các phương thức suy ra ở phía SDK (từ HTML trả về)
Đây không phải là các endpoint backend riêng biệt; chúng được SDK suy ra từ HTML mà API trả về:scrapeText(url)-> văn bản thuầnscrapeMarkdown(url)-> markdownscrapeJSON(url)-> siêu dữ liệu có cấu trúc (title,meta,links,headings)batchScrape(urls, { concurrency })-> hàm hỗ trợ gọi scrape cho nhiều URL
Lỗi có kiểu xác định
WebUnlockerErrorAuthenticationErrorRateLimitErrorAPIErrorTimeoutErrorNetworkError
401/403->AuthenticationError429->RateLimitError500+->APIError- hết thời gian chờ/bị hủy ->
TimeoutError - lỗi fetch/mạng ->
NetworkError
CLI
scrape(HTML/văn bản thô)text(văn bản được suy ra)markdown(markdown được suy ra)json(siêu dữ liệu được suy ra)
Các trường hợp sử dụng scraping điển hình
- giám sát giá và danh mục sản phẩm
- bổ sung dữ liệu cho danh sách khách hàng tiềm năng và danh bạ
- các pipeline thu thập thông tin thị trường
- tổng hợp và lập chỉ mục nội dung
- quy trình nạp dữ liệu và trích xuất cho LLM
Gologin Web Access CLI (hợp nhất)
Nếu bạn cần một CLI mạnh mẽ hơn, kết hợp Web Unlocker với Cloud Browser trong cùng một bộ lệnh, hãy dùnggologin-web-access: