Многопоточный парсинг. ЦП 100% , ОЗУ там же, дерево процессов Chhromium instance.

TwistDanceR

Client
Регистрация
30.05.2019
Сообщения
479
Благодарностей
200
Баллы
43
Просто - в чем дело? Одна задача у меня работает в 4 потока, ещё 1 поток оставил под выполнение шаба, который сегодня из диспетчера выполнился 619 раз.
Это из-за диспетчера или что происходит? Шаблон работает c браузером без отображения содержимого, с использованием HtmlAgilityPack. Да даже если б без браузера - с чего такое поведение?
Раньше (вчера) такого не происходило.
 

Вложения

Juniorcpa

Client
Регистрация
27.05.2014
Сообщения
2 031
Благодарностей
1 286
Баллы
113
Добавьте пауз в экшены обработки JSON (до обработки паузу в 3 сек)
 

TwistDanceR

Client
Регистрация
30.05.2019
Сообщения
479
Благодарностей
200
Баллы
43

Juniorcpa

Client
Регистрация
27.05.2014
Сообщения
2 031
Благодарностей
1 286
Баллы
113

TwistDanceR

Client
Регистрация
30.05.2019
Сообщения
479
Благодарностей
200
Баллы
43
А работа в браузере ведётся или на запросах? Обработок регулярок много в проекте?
Вчера - на запросах , пишу же: HtmlAgilityPack, он без браузера посылает запросы.

Сегодня паршу вот только что - с браузером уже, но вообще не обрабатываю регулярками, тупо tab.DomText забираю в файл. Сейчас после выполнения 100 заданий - зависло около 15 инстансов таких же... Прошло 5 минут и они пропали. А те вчерашние не пропадали несколько часов (пока спал , часов 6 - точно)
 

TwistDanceR

Client
Регистрация
30.05.2019
Сообщения
479
Благодарностей
200
Баллы
43

Вложения

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)