Навигация

wekze

Client
Регистрация
14.12.2015
Сообщения
25
Благодарностей
1
Баллы
3
Привет ребзя. Делаю парсер текста. Всё было ок, когда на траницах сайтов для парсинга была такая навигация:
, зенно нажимал на кнопочку некст, парсил текст и т.д.

Но сейчас остались сайты с такой навигацией:


урлы страницы имеют такой вид: http://www.site.com/pages1.html, http://www.site.com/pages2.html, http://www.site.com/pages3.html и т.д. Как в зенно задать чтобы он переходил на всем урлам по порядку, без создания списков, чтобы он из файла брал по порядку заранее заданные урлы. Наверняка есть более простое решение
 

Ribas

Client
Регистрация
31.05.2014
Сообщения
1 440
Благодарностей
503
Баллы
113
Если в один поток - сделать переменную с номером страницы, после каждого прохода увеличивать на единицу. А если брать из файла, то почему не устраивает работа с ним как со списком? Тогда и в несколько потоков каждый поток будет забирать свой урл.
 
  • Спасибо
Реакции: wekze

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 379
Благодарностей
2 041
Баллы
113
http://www.site.com/pages1.html как ты видишь в твоей сылке изменяется цифпа страницы pages , поставь цикл или счётчик до определённого числа взяв сылку подставляй номер страницы из счётчика
 
  • Спасибо
Реакции: wekze

wekze

Client
Регистрация
14.12.2015
Сообщения
25
Благодарностей
1
Баллы
3
ну вот а как сделать, чтобы в переменно со значением http://www.site.com/pages1.html каждый раз номер pages менялось на 1,2,3 и т.д.
Со списком не устраивает тем что надо ручками в файле прописывать 500 урлов, и скрипт будет не универсален, под каждый сайт придётся менять это огроменный список.
 

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 379
Благодарностей
2 041
Баллы
113
ну вот а как сделать, чтобы в переменно со значением http://www.site.com/pages1.html каждый раз номер pages менялось на 1,2,3 и т.д.
Со списком не устраивает тем что надо ручками в файле прописывать 500 урлов, и скрипт будет не универсален, под каждый сайт придётся менять это огроменный список.
Я ведь написал, создай счётчик и передавай значение в переменную, вместо цифры страницы твоя переменная
 
  • Спасибо
Реакции: wekze

Ribas

Client
Регистрация
31.05.2014
Сообщения
1 440
Благодарностей
503
Баллы
113
ну вот а как сделать, чтобы в переменно со значением http://www.site.com/pages1.html каждый раз номер pages менялось на 1,2,3 и т.д.
Со списком не устраивает тем что надо ручками в файле прописывать 500 урлов, и скрипт будет не универсален, под каждый сайт придётся менять это огроменный список.
Создаём переменную, записываем туда первый необходимый номер страницы. Переходим по адресу вида http://www.site.com/pages{-Variable.counter-}.html Парсим, далее обработка переменных - увеличить счётчик на единицу, снова парсим и т.д.
 
  • Спасибо
Реакции: wekze

wekze

Client
Регистрация
14.12.2015
Сообщения
25
Благодарностей
1
Баллы
3
Я ведь написал, создай счётчик и передавай значение в переменную, вместо цифры страницы твоя переменная
просто не имел ещё дела с счётчиками, ок сейчас погуглю и попробую, спасибо :ay:
 

wekze

Client
Регистрация
14.12.2015
Сообщения
25
Благодарностей
1
Баллы
3
Создаём переменную, записываем туда первый необходимый номер страницы. Переходим по адресу вида http://www.site.com/pages{-Variable.counter-}.html Парсим, далее обработка переменных - увеличить счётчик на единицу, снова парсим и т.д.
Спасибо, буду пробовать сейчас ;-)
 

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 379
Благодарностей
2 041
Баллы
113
ну примерно так
2015-12-14_185934.png

P.S. Чуть не правильно, экшены if и переход на страницу поменять местами
 
  • Спасибо
Реакции: wekze и Ribas

wekze

Client
Регистрация
14.12.2015
Сообщения
25
Благодарностей
1
Баллы
3

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)