Парсинг поиска vk обход ограничения

yarchino

Client
Регистрация
05.06.2016
Сообщения
170
Благодарностей
31
Баллы
28
Нужно спарсить документы из поиска https://vk.com/docs но поиск отдает только первые 1000 документов всех есть 3000. Пробовал через веб, там только 20шт. можно получить. На АРI стоит ограничение "Обратите внимание — даже при использовании параметра offset для получения информации доступны только первые 1000 результатов."
Пробовал через execute получаю, также первые 1000 файлов. Какие есть варианты обойти это ограничение? И спарсить все 3000 документов.
 

arhip1985

Client
Регистрация
31.10.2011
Сообщения
2 994
Благодарностей
787
Баллы
113
если нет параметра - дата загрузки - то видится, что никак
 

yarchino

Client
Регистрация
05.06.2016
Сообщения
170
Благодарностей
31
Баллы
28
Никаких дополнительных параметров нет, только ввод ключевого слова и поиск. Не ужели vk с этим все так защищено. Или есть идеи но они...
 

amyboose

Client
Регистрация
21.04.2016
Сообщения
2 312
Благодарностей
1 191
Баллы
113
А что мешает авторизироваться в ВК на запросах и парсить все без API?
 

yarchino

Client
Регистрация
05.06.2016
Сообщения
170
Благодарностей
31
Баллы
28

evgen_po

Client
Регистрация
27.08.2013
Сообщения
848
Благодарностей
532
Баллы
93
А что мешает авторизироваться в ВК на запросах и парсить все без API?
Так оно все равно даже таким способом не выдает больше тысячи, как на запросах так и в браузере!
Те, ограничения, которые есть у АПИ - они же стоят и на гет-пост запросах.
 

amyboose

Client
Регистрация
21.04.2016
Сообщения
2 312
Благодарностей
1 191
Баллы
113
Так оно все равно даже таким способом не выдает больше тысячи, как на запросах так и в браузере!
Те, ограничения, которые есть у АПИ - они же стоят и на гет-пост запросах.
А в браузере тоже нельзя выходит? Просто если в браузере контент догружается через аякс сверх лимита, то можно было бы попробовать и на запросах реализовать.
 

evgen_po

Client
Регистрация
27.08.2013
Сообщения
848
Благодарностей
532
Баллы
93
А в браузере тоже нельзя выходит? Просто если в браузере контент догружается через аякс сверх лимита, то можно было бы попробовать и на запросах реализовать.
Так я и говорю, не дописал просто тогда. В браузере тоже нельзя - если даже догрузить до конца - то там где лимиты АПИ стоят, то и в браузере больше 1000 не дает!
 

yarchino

Client
Регистрация
05.06.2016
Сообщения
170
Благодарностей
31
Баллы
28
Пробовал искать какие-то зависимости в названиях файлов, ничего нет.
 

arhip1985

Client
Регистрация
31.10.2011
Сообщения
2 994
Благодарностей
787
Баллы
113

yarchino

Client
Регистрация
05.06.2016
Сообщения
170
Благодарностей
31
Баллы
28

JanCarlo

Client
Регистрация
04.03.2018
Сообщения
358
Благодарностей
40
Баллы
28
Никто не обошел лимит? что в браузере что при апи выдает только 1000
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)