base.exe очень большой объем - проект виснет

  • Автор темы Автор темы AlexEx
  • Дата начала Дата начала

AlexEx

Новичок
Регистрация
06.08.2013
Сообщения
23
Реакции
0
Баллы
0
Парсю информацию на сайте - 10 ссылок на каждой странице, переход по ссылкам по очереди, парсю мейл, закрываю. на странице седьмой base уже за 1 гб проект идет медленнее и потом вообще виснет.
что делать?
оперативы 8 гигов.
 
Делайте перезагрузку инстанса через несколько навигейтов
 
можно по-русски? т.е. поподробнее! )

в начале шаблона вставьте экшен перезагрузки инстанса и посомтрите на эффект, скорее всего поможет..
если шаблон внутри зациклен на большое кол-во страниц парсинга, то внутри в цикле парсинга вставьте этот экшен..
 
Мне так кажется, что там весь шаблон закольцован и работает до тех пор, пока помрёт.
Это частая ошибка новичков. Для повторений в зенке используются другие инструменты - Устанавливается количество сколько делать шаблон.
Избавътесь от всех ненужных циклов в шаблоне.
Т.е. везде, где по логике шаблон может закончится один раз и начаться сначала второй раз без потери данных ненужно создавать дополнительные циклы.
 
Мне так кажется, что там весь шаблон закольцован и работает до тех пор, пока помрёт.
Это частая ошибка новичков. Для повторений в зенке используются другие инструменты - Устанавливается количество сколько делать шаблон.
Избавътесь от всех ненужных циклов в шаблоне.
Т.е. везде, где по логике шаблон может закончится один раз и начаться сначала второй раз без потери данных ненужно создавать дополнительные циклы.

идет переход по страницами и данныt записываются в файл, т.е. если закрыть проект и начать его заново то придется заново начинать по страницам прыгать, я нашел выход сделав так: парсится информация с нескольких страниц потом сохраняется в файл урл страницы на которой закончился парс, далее проект закрывается сохранив данные и снова запускается и берется с файла урл на котором закончился проект. единственно плохо что если страницы заканчиваются то последняя страница парсится пока не закончатся попытки проекта (
 
идет переход по страницами и данныt записываются в файл, т.е. если закрыть проект и начать его заново то придется заново начинать по страницам прыгать, я нашел выход сделав так: парсится информация с нескольких страниц потом сохраняется в файл урл страницы на которой закончился парс, далее проект закрывается сохранив данные и снова запускается и берется с файла урл на котором закончился проект. единственно плохо что если страницы заканчиваются то последняя страница парсится пока не закончатся попытки проекта (

в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..
 
в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..

на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать
 
на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать

тогда завести глобальную переменную, туда впихивать счетчик строк урлов, если он не изменяется, то выходить из парсинга..
 
в начале шаблона подсчитывай строки урлов для парсинга, если число строк не равно нулю, то идем дальше, если равно нулю, то выходим с сообщением: закончились урлы..

на последней странице можеть быть несколько урлов и он их будет постоянно пересчитывать
 

Кто просматривает тему: (Всего: 0, Пользователи: 0, Гости: 0)