· 4 мин. чтения

Куда утекает трафик на резидентных прокси?

Резидентные прокси берут с одной целью: чтобы сложные сайты (маркетплейсы, Google, Авито, соцсети) перестали выдавать капчи и отдавали данные как обычным домашним пользователям.

Но довольно часто картина выглядит так: подключили пул, запустили сбор, а через пару часов оплаченные гигабайты кончились, часть потоков простаивает в таймаутах, а в базе накопились дубли или пустые строки.

В большинстве случаев трафик и скорость сгорают не из-за самих прокси, а на одних и тех же типовых ошибках в настройке. Разберем 4 главных момента.

1. Слив оплаченного трафика на тяжелые медиа и скрипты

В отличие от серверных прокси с безлимитным каналом, на резидентных сетях тарифицируется каждый переданный мегабайт. Если на датацентровых IP объем скачанного никого не волнует, то на резидентном пуле лишние запросы напрямую бьют по карману.

Типичный сценарий: для сбора нужны только текстовые данные (цена, наличие, артикул), но задача загружает страницу целиком со всеми баннерами, тяжелыми фото, стилями и внешними счетчиками. В итоге полезный контент составляет лишь небольшую долю от оплаченного объема, а львиная часть пакета уходит на оформление.

Что делать: Если сайт позволяет забрать данные прямым HTTP-запросом или через внутренний API, выбирайте этот путь вместо браузерного рендеринга. А если без браузера задачу не решить, отсекайте загрузку ненужных медиаресурсов и аналитики. Оплаченный трафик должен уходить на данные, а не на отрисовку картинок.

2. Ротация не к месту: где нужен Sticky, а где смена IP

У резидентных прокси два основных режима работы, и путать их сценарии не стоит:

  • Смена IP на каждый запрос (Rotating): подходит для скоростного сбора сотен тысяч открытых страниц каталогов. Но если задача требует авторизации, прохождения капчи или работы с корзиной, частая ротация ломает процесс: сайт сбрасывает токен корзины, требует повторный чекпоинт или завершает сессию. Прыжки между адресами из разных городов во время одного сеанса антифрод воспринимает как аномалию.
  • Липкие сессии (Sticky Sessions на 10–60 минут): удерживают один адрес на цепочку запросов. Типичная ошибка: поставить одну сессию и в 50 параллельных потоков отправлять сотни запросов через один и тот же домашний IP. Домашний роутер не должен отправлять по 300 запросов в минуту, иначе антифрод сайта быстро включит ограничение по частоте.

Что делать: Для каталогов используйте ротацию на каждый запрос. Для сессионных цепочек нужны липкие сессии с нормальными паузами между шагами.

3. Ложные «200 OK»: когда в логе всё зеленое, а в файле пусто

Классическая ловушка для самописных скриптов, стороннего софта и базовых библиотек. Если сайт отдает явный 403 Forbidden, парсер сразу понимает: доступ закрыт, пора менять прокси. Но гораздо коварнее мягкие блокировки.

DataDome, внутренние фильтры маркетплейсов или страницы со встроенной проверкой часто возвращают HTTP 200 OK. Только вместо карточки товара в теле ответа лежит проверочная заглушка Turnstile, слайдер или страница «Подождите, идет проверка…». Сетевых ошибок ноль, сбор бодро рапортует об успехе, а в итоговом файле накапливаются пустые поля либо тысячи одинаковых строк.

Что делать: Никогда не доверяйте голым HTTP-статусам. Всегда настраивайте строгую проверку содержимого: если обязательного поля (цены, артикула) на странице нет, помечайте попытку ошибкой и отправляйте URL в повтор со сменой IP.

4. Длинные серверные таймауты на домашних нодах

Домашний прокси устроен иначе, чем сервер в датацентре с аптаймом 99.9%. Это реальный ноутбук или домашний Wi-Fi обычного пользователя. Человек может закрыть крышку ноутбука ровно в ту секунду, когда через него пошел ваш запрос.

Если в настройках стоят стандартные серверные таймауты по 60–120 секунд, поток будет висеть пару минут в ожидании ответа от отключившегося устройства. При многопоточном сборе эффективная параллельность падает: пока часть потоков висит в долгом ожидании, скорость всей задачи заметно проседает.

Что делать: Для резидентных сетей ставьте короткие таймауты: 10–15 секунд на соединение. Если нода не ответила за это время, делайте сброс, берите следующий IP из пула и сразу повторяйте запрос.

Итог

Резидентный пул дает высокую проходимость на защищенных сайтах, но требует аккуратной настройки таймаутов, ротации и расхода трафика.

Если хотите протестировать пулы на своих источниках:

Задать вопрос по пулам или настройке можно в поддержке @aparser_proxy_bot.

Поделиться:
Назад в блог