base.exe очень большой объем - проект виснет

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0
Парсю информацию на сайте - 10 ссылок на каждой странице, переход по ссылкам по очереди, парсю мейл, закрываю. на странице седьмой base уже за 1 гб проект идет медленнее и потом вообще виснет.
что делать?
оперативы 8 гигов.
 

Hungry Bulldozer

Moderator
Регистрация
12.01.2011
Сообщения
3 441
Благодарностей
834
Баллы
113
Делайте перезагрузку инстанса через несколько навигейтов
 

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
20 339
Благодарностей
9 088
Баллы
113
можно по-русски? т.е. поподробнее! )
в начале шаблона вставьте экшен перезагрузки инстанса и посомтрите на эффект, скорее всего поможет..
если шаблон внутри зациклен на большое кол-во страниц парсинга, то внутри в цикле парсинга вставьте этот экшен..
 

ZennoScript

Moderator
Регистрация
04.03.2011
Сообщения
4 450
Благодарностей
1 885
Баллы
113
Мне так кажется, что там весь шаблон закольцован и работает до тех пор, пока помрёт.
Это частая ошибка новичков. Для повторений в зенке используются другие инструменты - Устанавливается количество сколько делать шаблон.
Избавътесь от всех ненужных циклов в шаблоне.
Т.е. везде, где по логике шаблон может закончится один раз и начаться сначала второй раз без потери данных ненужно создавать дополнительные циклы.
 

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0
Мне так кажется, что там весь шаблон закольцован и работает до тех пор, пока помрёт.
Это частая ошибка новичков. Для повторений в зенке используются другие инструменты - Устанавливается количество сколько делать шаблон.
Избавътесь от всех ненужных циклов в шаблоне.
Т.е. везде, где по логике шаблон может закончится один раз и начаться сначала второй раз без потери данных ненужно создавать дополнительные циклы.
идет переход по страницами и данныt записываются в файл, т.е. если закрыть проект и начать его заново то придется заново начинать по страницам прыгать, я нашел выход сделав так: парсится информация с нескольких страниц потом сохраняется в файл урл страницы на которой закончился парс, далее проект закрывается сохранив данные и снова запускается и берется с файла урл на котором закончился проект. единственно плохо что если страницы заканчиваются то последняя страница парсится пока не закончатся попытки проекта (
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
20 339
Благодарностей
9 088
Баллы
113
идет переход по страницами и данныt записываются в файл, т.е. если закрыть проект и начать его заново то придется заново начинать по страницам прыгать, я нашел выход сделав так: парсится информация с нескольких страниц потом сохраняется в файл урл страницы на которой закончился парс, далее проект закрывается сохранив данные и снова запускается и берется с файла урл на котором закончился проект. единственно плохо что если страницы заканчиваются то последняя страница парсится пока не закончатся попытки проекта (
в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..
 

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0
в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..
на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
20 339
Благодарностей
9 088
Баллы
113
на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать
тогда завести глобальную переменную, туда впихивать счетчик строк урлов, если он не изменяется, то выходить из парсинга..
 

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0
в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..
на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать
 

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Благодарностей
0
Баллы
0

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)