Перейти к основному содержанию
Gologin Web Unlocker — это scraping API с единой конечной точкой для сайтов с большим количеством JavaScript и защитой от парсинга. Вы отправляете URL, получаете отрендеренный HTML/текст страницы и обрабатываете его в собственном конвейере извлечения данных.

Зачем использовать его как Scraping API

  • Одна конечная точка для любого целевого URL
  • Авторизация по API-ключу, оркестрация браузеров не требуется
  • Ответ в формате HTML, который легко подключается к существующим парсерам
  • Подходит для ETL, мониторинга, загрузки данных для ИИ и конвейеров обработки данных

Конечная точка

GET https://parsing.webunlocker.gologin.com/v1/scrape?url={encoded_url}

Авторизация

Передайте свой API-ключ в заголовках:

Модель запроса

Быстрый старт

cURL

Python

JavaScript (fetch)

Поведение ответа

Сейчас тело ответа содержит необработанный отрендеренный HTML/текст.
  • 200 -> успех, тело содержит HTML/текст страницы
  • 401 / 403 -> неверный или отсутствующий API-ключ
  • 422 -> неверный или отсутствующий url
  • 429 -> превышен лимит запросов
  • 500+ -> временная ошибка на стороне сервера

Рекомендации по повторным запросам

Повторяйте запрос с экспоненциальной задержкой (exponential backoff) при:
  • сетевых ошибках
  • кодах 408, 429, 500, 502, 503, 504

Примечание об области применения

Текущая публичная конечная точка возвращает HTML. Не рассчитывайте на дополнительные серверные конечные точки (например, для скриншотов, обхода сайтов, поиска или статистики использования), если они явно не описаны в документации и не включены для вашего аккаунта.

Официальный Node.js SDK

Установка:

Быстрый старт с SDK

Параметры конструктора

Основные методы SDK

  • scrape(url) -> нормализованный объект ответа
  • scrapeRaw(url) -> нативный Response
  • buildScrapeUrl(url) -> полный URL запроса

Производные методы SDK (на основе возвращённого HTML)

Это не отдельные серверные конечные точки: SDK получает их из HTML, который вернул API:
  • scrapeText(url) -> обычный текст
  • scrapeMarkdown(url) -> markdown
  • scrapeJSON(url) -> структурированные метаданные (title, meta, links, headings)
  • batchScrape(urls, { concurrency }) -> вспомогательный метод для нескольких запросов scrape

Типизированные ошибки

  • WebUnlockerError
  • AuthenticationError
  • RateLimitError
  • APIError
  • TimeoutError
  • NetworkError
Соответствие:
  • 401 / 403 -> AuthenticationError
  • 429 -> RateLimitError
  • 500+ -> APIError
  • тайм-аут/прерывание запроса -> TimeoutError
  • сбой fetch/сети -> NetworkError

CLI

Команды:
  • scrape (необработанный HTML/текст)
  • text (производный текст)
  • markdown (производный markdown)
  • json (производные метаданные)
Примеры:

Типичные сценарии скрейпинга

  • мониторинг цен и каталогов
  • обогащение данных о лидах и справочниках
  • конвейеры рыночной аналитики
  • агрегация и индексация контента
  • загрузка данных в LLM и сценарии их извлечения

Gologin Web Access CLI (единый)

Если вам нужен более мощный CLI, который объединяет Web Unlocker и Cloud Browser в одном наборе команд, используйте gologin-web-access:
Полный справочник смотрите в разделе Gologin Web Access CLI.

Связанные материалы