Это нормальная скорость работы?

hronos

Client
Регистрация
07.12.2013
Сообщения
6
Благодарностей
1
Баллы
3
День добрый Купил шаблон под Лайт версию. Шаблон должен ходить по ссылкам и собирать информацию о фирмах со временем работы *(все с одного сайта, 1 ссылка одна фирма). Шаб за 5 дней обработал 3000 ссылок. Парсится через прокси. Теперь вопрос это нормальная скорость работы в один поток или нет? Канал у меня широкий на 100 Мбит, машина нормальная 8 ГБ памяти на Интел 3. Пауза в шабе одна на 3-6 сек. У меня уже срок платных проксей выходит, а воз и ныне там. Может что то где то настроить надо? Подскажите где копать.
 

LexxWork

Client
Регистрация
31.10.2013
Сообщения
1 190
Благодарностей
791
Баллы
113
25 ссылок в час... из них 1.5 минуты на ожидание - одна ссылка в две минуты... долго очень...
если у вас есть список проксей и без браузера никак не обойтись тоо даже в таком случае можно было бы вобще работать без пауз, просто чистить кеш и подгружать профиль на прокси и сразу же делать что хотите. Даже если у вас допустим всего 3 прокси в списке а страница грузится 15-20 секунд в худшем случае то сами посчитайте - около 200 новых страниц в час минимум.
Если это сделать на запросах то скорость будет в идеале N страниц в секунду где N - кол-во проксей. То есть теоретически 3000 ссылок вы бы могли получить через 1 секунду если у вас будет 3000 проксей. А если сайт вобще несерьезный то и без проксей вовсе.
Короче копайте своему работнику мозг )
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)