Может куки генерируют скрипты и они это делают только при заходе с браузера
Зайдите с браузера возьмите куки и уже с профиля с этими куками отправляйте post
Вообще я тоже задавался этим вопросом и итоговым решением пользуюсь именно тем что вы и сказали - прогружаю сайт в веб, а дальше уже работаю на запросах, но у такого подхода есть 2 огромных минуса:
1. Для работы требуется огромное количество ресурсов. Что бы работать в 100 потоков одной машины уже не хватит. В то время как при работе на запросах ресурсы потребляться будут в десятки раз меньше.
2. Зачастую при таком подходе уже через 2-3 минут работы нам надо обновлять куки - заново прогружать сайт.
Поэтому присоединюсь к вопросу о том возможно ли вообще с такими сайтами работать исключительно на запросах. Кто шарит, поделитесь опытом