Сбор ссылок с сайта на ASP.NET

Регистрация
23.03.2015
Сообщения
1 316
Реакции
850
Баллы
113
Привет мужики, выручайте

Есть задача собрать данные с сайта https://www.globalair.com/
Как оказалось он на asp.net. Инфу дёргать получается, а вот собрать ссылки, дл этого, нет
Файла sitemap.xml нет, в поиске нужных страниц нет.

Подскажите решение. Пожалуйста.
 
Привет! Если ссылок не особо много можно расширение для хрома попробовать. linkgopher. Иногда пользуюсь.
 
  • Оценить
Реакции: KolkaPetkinSyn
как вариант - кликать на каждый див самолёта переходить на страницу брать урл - и закрывать её и так далее, в однопоточном режиме будет работать.
тут дело не в том, что асп, а в том что переход на самолёт жс направляет, а не ссылка в штмл
 
  • Оценить
Реакции: KolkaPetkinSyn
Нет.
Допустим от сюда https://www.globalair.com/aircraft-for-sale/Citation-Bravo
нужны ссылки на все самолёты. Идеи есть, но много ручного труда
Как бы сделал я, исходя из контексте этой задачи:

Ссылка на каталог выглядит так: https://www.globalair.com/aircraft-for-sale/Citation-Bravo
Ссылка на самолёт: https://www.globalair.com/aircraft-for-sale/ListingDetail/Citation-Bravo?AdId=XXXXX

Подробная ссылка нам недоступна из исходного кода, но мы можем сформировать её самостоятельно.
Для этого с помощью регулярных выражений и замены добавляем /ListingDetail/ перед названием модели самолёта.

Далее нам нужен его ID, который можно найти здесь:
x5XlUVZ.png


Парсим данный элемент, забирая только цифры.
Формируем ссылку:
Код:
Развернуть Свернуть Копировать
https://www.globalair.com/aircraft-for-sale/ListingDetail/Citation-Bravo?AdId={-Variable.ID-}
 
  • Оценить
Реакции: grin-du и KolkaPetkinSyn
Там формирование ссылок идёт с помощью добавление в урл категории слова ListingDetail и ?AdId=83666 где 83666 номер страниц объявления и эти номер есть в коде категории. Сейчас осталось придумать как листать страницы категории где их несколько
 
Там формирование ссылок идёт с помощью добавление в урл категории слова ListingDetail и ?AdId=83666 где 83666 номер страниц объявления и эти номер есть в коде категории. Сейчас осталось придумать как листать страницы категории где их несколько
Там ничего придумывать не нужно, перелистывание реализовано "табами".
Все элементы доступны на первой странице, в чём можете убедиться самостоятельно.
Перейдите на страницу категории и кликните на вторую страницу:
https://www.globalair.com/aircraft-for-sale/Citation-Bravo

И возьмите AdId последнего самолёта (82884).
Далее откройте исходный код категории и увидите, что этот ID есть в исходном коде.
 

Кто просматривает тему: (Всего: 0, Пользователи: 0, Гости: 0)