Многопоточный парсинг. ЦП 100% , ОЗУ там же, дерево процессов Chhromium instance.

TwistDanceR

Client
Регистрация
30.05.2019
Сообщения
481
Реакции
201
Баллы
43
Просто - в чем дело? Одна задача у меня работает в 4 потока, ещё 1 поток оставил под выполнение шаба, который сегодня из диспетчера выполнился 619 раз.
Это из-за диспетчера или что происходит? Шаблон работает c браузером без отображения содержимого, с использованием HtmlAgilityPack. Да даже если б без браузера - с чего такое поведение?
Раньше (вчера) такого не происходило.
 

Вложения

  • 2019-12-01_01-17-52.png
    2019-12-01_01-17-52.png
    40,7 KB · Просмотры: 320
  • 2019-12-01_01-18-55.png
    2019-12-01_01-18-55.png
    161,3 KB · Просмотры: 297
Добавьте пауз в экшены обработки JSON (до обработки паузу в 3 сек)
 
А работа в браузере ведётся или на запросах? Обработок регулярок много в проекте?

Вчера - на запросах , пишу же: HtmlAgilityPack, он без браузера посылает запросы.

Сегодня паршу вот только что - с браузером уже, но вообще не обрабатываю регулярками, тупо tab.DomText забираю в файл. Сейчас после выполнения 100 заданий - зависло около 15 инстансов таких же... Прошло 5 минут и они пропали. А те вчерашние не пропадали несколько часов (пока спал , часов 6 - точно)
 
А работа в браузере ведётся или на запросах? Обработок регулярок много в проекте?

Cейчас их не много, а вот к концу подвиснет нормально. И как этого избежать?
 

Вложения

  • 2019-12-01_13-01-16.png
    2019-12-01_13-01-16.png
    163,9 KB · Просмотры: 278

Кто просматривает тему: (Всего: 0, Пользователи: 0, Гости: 0)