Вобщем такое дело,начал собирать базу паблик листов руками. Естественно каждый лист проверяется на отсутствие ЖС и прочей ерунды,каждый лист доступен + есть прокси и регулярка для парсинга.
Засунул список в проксичекер - из 30 источников "зелёными" стали только 8,проксичекер нашел с десяток проксей и закончил парсинг.
Попробовал второй раз (те же листы и настройки) - загрузилось 14 источников,за полчаса нашлось около 30 проксей.
На третий раз не загрузился ни один источник.
Пробую сейчас - загрузилось 17 источников,уже около 10минут идет парсинг (1100проксей/мин) и не найдено ни одного прокси.
Собсно вопрос : почему такая нестабильность и как от нее избавиться? может чтото я не то делаю? однако когда собирал прокси листы,каждый урл чекал отдельно,при этом с каждого списка выходило по несколько десятков прокси.. обидно
Засунул список в проксичекер - из 30 источников "зелёными" стали только 8,проксичекер нашел с десяток проксей и закончил парсинг.
Попробовал второй раз (те же листы и настройки) - загрузилось 14 источников,за полчаса нашлось около 30 проксей.
На третий раз не загрузился ни один источник.
Пробую сейчас - загрузилось 17 источников,уже около 10минут идет парсинг (1100проксей/мин) и не найдено ни одного прокси.
Собсно вопрос : почему такая нестабильность и как от нее избавиться? может чтото я не то делаю? однако когда собирал прокси листы,каждый урл чекал отдельно,при этом с каждого списка выходило по несколько десятков прокси.. обидно