Отримайте доступ до більш ніж 6,9 мільйона ротаційних житлових IP-адрес у більш ніж 100 країнах світу
Середній показник успіху
Підтримка клієнтів
Країн для таргетингу
Scrapy дозволяє вам змінювати проксі-сервери за запитом, що полегшує обхід лімітів швидкості IP і захисту від скрапінгу, не сповільнюючи сканування.
Скрейпінг з географічними проксі дозволяє тестувати місцевий контент, збирати міжнародні ціни або відстежувати регіональних конкурентів.
Проксі-сервери IPv6 надають Scrapy доступ до величезних діапазонів IP-адрес, що дозволяє виконувати паралельний скрейпінг у великих обсягах без типових проблем дефіциту IPv4.
Додавання або зміна проміжного програмного забезпечення для завантаження: class ProxyMiddleware: def process_request(self, request, spider): request.meta['proxy'] = 'http://ip:port' Активуйте його в DOWNLOADER_MIDDLEWARES.
Додавання заголовків HTTP Basic Auth вручну: import base64 class ProxyAuthMiddleware: def process_request(self, request, spider): request.meta['proxy'] = 'http://ip:port' user_pass = base64.b64encode(b'user:pass').decode('utf-8') request.headers['Proxy-Authorization'] = 'Basic ' + user_pass
Використовуйте список проксі-серверів і призначайте проксі-сервери для кожного запиту: import random class RotateProxyMiddleware: def __init__(self, proxies): self.proxies = proxies @classmethod def from_crawler(cls, crawler): return cls(proxies=crawler.settings.getlist('PROXY_LIST')) def process_request(self, request, spider): request.meta['proxy'] = random.choice(self.proxies)
На більшість ваших запитань ми вже відповіли. З будь-яких інших питань звертайтеся до нас.
Так, але вимагає встановлення PySocks. Встановіть проксі як socks5://ip:port в request.meta['proxy'].
Так, ви можете налаштувати логіку у проміжному програмному забезпеченні для зіставлення павуків або доменів і умовно призначити різні проксі-сервери.
Не за замовчуванням. Для багатохопового проксінгу використовуйте зовнішні інструменти тунелювання, такі як ProxyChains, або кастомну VPN-маршрутизацію поза Scrapy.
Так. Використовуйте HttpErrorMiddleware або перевірте коди response.status, щоб виявити таймаути, заборони або перенаправлення.
Уникайте їх жорсткого кодування. Використовуйте змінні оточення або зашифровані конфігураційні файли та завантажуйте їх у налаштування або проміжне програмне забезпечення.
Сполучені
Сполучені Штати
Об'єднане
Королівство
Німеччина
Франція
Мексика
Канада
Італія
Бразилія
Rapidseedbox пропонує надійні та ефективні ротаційні резидентні проксі-сервіси з винятковим показником успішності 99,9 %.
Надайте потужності своїм проєктам зі скрейпінгу з ротаційними резидентними проксі-серверами з пулу, що складається з понад 6,9 млн IP-адрес. Завдяки глобальному охопленню резидентних IP-адрес ви можете легко долати геолокаційні блокування.
Ротаційні резидентні проксі-сервери Rapidseedbox забезпечують виняткову гнучкість і контроль. Вони підтримують як «липкі», так і ротаційні сесії для універсального керування IP-адресами. Проксі-сервери прості у використанні завдяки зручному інтерфейсу або гнучкому REST API.