- Регистрация
- 07.02.2020
- Сообщения
- 48
- Благодарностей
- 4
- Баллы
- 8
Всем привет. Подскажите, как лучше реализовать парсинг прокси по ссылке? Изначально было сделано решение парсинга всех проксей по ссылке с помощью гет запроса в список. Но проблема заключается в том, что поток выполняется 2-3 сек. Если потоков много, то обращений к ссылке проксей тоже много. Прокси меняется раз в 10 минут, а поставщик проксей ругается, + банит на какое-то время прокси, за такую активность (что самое главное и проблемное).
Сейчас приходится запускать 2 проекта параллельно, один специально для парсинга проксей в 1 поток, после чего стоит пауза 5-7 минут. По факту этот проект 99,9% занят паузой.
Скорее всего решение простое, но найти его пока не удалось. :/
Сейчас приходится запускать 2 проекта параллельно, один специально для парсинга проксей в 1 поток, после чего стоит пауза 5-7 минут. По факту этот проект 99,9% занят паузой.
Скорее всего решение простое, но найти его пока не удалось. :/