Опять про оперативку, как решить?

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18
есть шаблон, полностью на гетах, на коде c#? , без браузера.., 15 мин работы, оперативка на 100!!! проц забита... Его (zp) после этого даже не перезагрузить, не отвечает )))... используется большой список , подозреваю, что из-за него.., как можно обойти .., типа на базы данных переходить (?
 

zortexx

Client
Регистрация
19.09.2011
Сообщения
2 520
Благодарностей
1 226
Баллы
113
есть шаблон, полностью на гетах, на коде c#? , без браузера.., 15 мин работы, оперативка на 100!!! проц забита... Его (zp) после этого даже не перезагрузить, не отвечает )))... используется большой список , подозреваю, что из-за него.., как можно обойти .., типа на базы данных переходить (?
БД - вполне очевидный ответ. Ну и память надо освобождать.
 

Mikhail B.

Client
Регистрация
23.12.2014
Сообщения
14 419
Благодарностей
5 454
Баллы
113
Недопустима работа при значениях ОЗУ 90-100%
 

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18
не понимаю, лям строчек и все , загибон идет?
 

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18
БД - вполне очевидный ответ. Ну и память надо освобождать.
В смысле освобождать?.., в процессе работы шаба?, мож там можно как-то из оперативки списки, или что он там так копит интенсивно, очищать периодически.., прост процесс до безобразия простой, взять строку, гетом качнуть по ней файл и тд.., так не хочется с бд там что то городить
 

zortexx

Client
Регистрация
19.09.2011
Сообщения
2 520
Благодарностей
1 226
Баллы
113
В смысле освобождать?.., в процессе работы шаба?, мож там можно как-то из оперативки списки, или что он там так копит интенсивно, очищать периодически.., прост процесс до безобразия простой, взять строку, гетом качнуть по ней файл и тд.., так не хочется с бд там что то городить
8 гигов для зенки маловато. Тем более для списка в миллион строк.
Если не хотите использовать БД, попробуйте списки поменьше.
И не забывайте перезагружать инстанс, бывает память у зенки течет.
 

seoshnek

Client
Регистрация
08.03.2010
Сообщения
101
Благодарностей
47
Баллы
28
В смысле освобождать?.., в процессе работы шаба?, мож там можно как-то из оперативки списки, или что он там так копит интенсивно, очищать периодически.., прост процесс до безобразия простой, взять строку, гетом качнуть по ней файл и тд.., так не хочется с бд там что то городить
Разбить список на 1000 подсписков физически. И брать итерациями или рандомом.
 

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18
8 гигов для зенки маловато. Тем более для списка в миллион строк.
Если не хотите использовать БД, попробуйте списки поменьше.
И не забывайте перезагружать инстанс, бывает память у зенки течет.
Нету там браузера.. А если брать подписок с удалением без привязки к файлу, типа у каждого потока будет свой, и с ним работать.., или ещё больше нагрузит))..., а что 8 маловато, там с такой скоростью её забивает, что и 64 будет через час забито
 
Последнее редактирование:

zortexx

Client
Регистрация
19.09.2011
Сообщения
2 520
Благодарностей
1 226
Баллы
113
Нету там браузера.. А если брать подписок с удалением без привязки к файлу, типа у каждого будет свой, и с ним работать.., или ещё больше нагрузит))..., а что 8 маловато, там с такой скоростью её забивает, что и 64 будет через час забито
Ваш выбор - БД. Смиритесь.
Кстати, память может успешно течь и без браузера. Тут, как обычно, комплекс причин.
 

elakeri

Client
Регистрация
23.07.2018
Сообщения
199
Благодарностей
10
Баллы
18
Ваш выбор - БД. Смиритесь.
Кстати, память может успешно течь и без браузера. Тут, как обычно, комплекс причин.
не пойму.., порезал по 30к строк, все равно начинается необратимый процесс заполнения оперативы (((, че за хрень
 

Alexmd

Client
Регистрация
10.12.2018
Сообщения
1 021
Благодарностей
1 423
Баллы
113
что-то мне подсказывает, что проблема у Вас в
есть шаблон, полностью на гетах, на коде c#
и завышенных ожиданиях из-за непонимания вычислительных процессов
 

Crucifer

Client
Регистрация
23.06.2014
Сообщения
120
Благодарностей
82
Баллы
28
не пойму.., порезал по 30к строк, все равно начинается необратимый процесс заполнения оперативы (((, че за хрень
Что у вас с файловым накопителем?

В данный момент крутится зенка в 75 потоков
1 задание 5 потоков, файл в 2кк строк, берется с удалением, пишется в новый данные.
2 задание 70 потоков, файл в 5кк строк, берется с удалением, пишется в новый файл

Плюс идет оптимизация большой базы данных, буфер Innodb - 4 гига оперативки
Проц слабенький интел, оперативки 8 гигов, используется 90-92%, все работает стабильно.
Использование проца есть на скрине.

44583
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)