Проблема при парсинге ВебАрхива.

PNR

Новичок
Регистрация
06.09.2020
Сообщения
7
Благодарностей
1
Баллы
3
Всем доброго времени.

Пробую парсить ВебАрхив. Столкнулся со следующей проблемой:

Пример шаблона:

63567

Проблема в следующем: если в PM делаем выполнение по F10 (пошагово) то все то нужные данные парсятся нормально, если же выполнять по F5 или F11 - то данные начинают парсится до того как ВебАрхив их нам выгрузит, ну и как результат получаю соответственно не то.

Подскажите пожалуйста что почитать, или что тут можно сделать.

Всем заранее благодарен!
 

Gunjubasik

Client
Регистрация
30.05.2019
Сообщения
3 496
Благодарностей
1 304
Баллы
113
Всем доброго времени.

Пробую парсить ВебАрхив. Столкнулся со следующей проблемой:

Пример шаблона:


Проблема в следующем: если в PM делаем выполнение по F10 (пошагово) то все то нужные данные парсятся нормально, если же выполнять по F5 или F11 - то данные начинают парсится до того как ВебАрхив их нам выгрузит, ну и как результат получаю соответственно не то.

Подскажите пожалуйста что почитать, или что тут можно сделать.

Всем заранее благодарен!
Один из вариантов, ставить паузы, но это если я вас верно понял, если нет, смогу зайти удаленно посмотреть, только добавьте в телеграм.
 

PNR

Новичок
Регистрация
06.09.2020
Сообщения
7
Благодарностей
1
Баллы
3
Ставить паузу как вариант, но выполнение тогда затребует много времени.
Может есть какое-то типовое решение для ВебАрхива? Довольно популярный ресурс для парсинга.

Как один из вариантов которые нашел: - можно в строку браузера сразу забивать нужный URL для ВА, но тогда придется каждый раз загружать сайт. Это тоже долго.

Хотелось бы найти вариант через поисковую строку на ВА.
 

Nord

Client
Регистрация
22.03.2012
Сообщения
2 403
Благодарностей
1 468
Баллы
113
Поработать со сниффером, узнать, ответ на какие запросы нужно обязательно
получить, чтоб были все данные, а потоми через монитор трафика в цикле с интервалом в 1 секунду смотреть(instance.UseTrafficMonitoring = true; instance.ActiveTab.GetTraffic(); ), получен ли ответ на нужные нам запросы, когда получили все - парсим нужные данные и переходим дальше
 

PNR

Новичок
Регистрация
06.09.2020
Сообщения
7
Благодарностей
1
Баллы
3
Поработать со сниффером, узнать, ответ на какие запросы нужно обязательно
получить, чтоб были все данные, а потоми через монитор трафика в цикле с интервалом в 1 секунду смотреть(instance.UseTrafficMonitoring = true; instance.ActiveTab.GetTraffic(); ), получен ли ответ на нужные нам запросы, когда получили все - парсим нужные данные и переходим дальше

Спасибо, попробую разобраться как это работает.
 

Кто просматривает тему: (Всего: 2, Пользователи: 0, Гости: 2)