Проблема с проектом при поточности

  • Автор темы Автор темы Tonny
  • Дата начала Дата начала

Tonny

Client
Регистрация
20.07.2013
Сообщения
142
Реакции
5
Баллы
18
Есть проект, парсит сайты и сохраняет результат в txt фаилы.
До 10 потоков проект стабильно работает. Но нужно больше.
Взял сервак 14 ядер 16гигов RAM, канал 200мбит, запускаю на 20 потоков, проект начинает косячить, загруженность проца на 30-40%, оперативы 5гб.
Проблема в том что не всегда txt фаилы с результатом создаются, т.е. как бы файловая система несправляется чтоли.. в некоторых папках с результатом пусто, просто нет фаилов.. Таймауты тоже выставлял после сохранения результата.
Что то можно подкрутить? В винде может какие настройки нужны?
 
А загруженность жесткого диска смотрели?
 
А как файлы создаются? Уверены что есть данные для записи? И что они, например, не дублируются с файлами других потоков?
 
Загруженность жесткого диска:
7VX40nZ.png


Этло процессор:

iPcYOIP.png
 
Фаилы создаются - через экшен привязки фаила к списку. Да уверен что данные есть и каждый фаил создается с уникальным идентификатором + рандомное значение, немогут пересекаться в потоках.
 
включите подробный лог.
он должен логировать проблемы с файлами

upload_2015-12-1_17-17-39.png
 

Кто просматривает тему: (Всего: 0, Пользователи: 0, Гости: 0)