Большой объем данных

rich788

Client
Регистрация
20.09.2017
Сообщения
33
Благодарностей
3
Баллы
8
Всем привет.Зенка не тянет файл формата "YML",объемом 1,17 гб.Что делать?
Скачал с пратнерки список книг,и не могу их этого файла вытянуть url адреса.
 

vlsdrmy

Client
Регистрация
20.12.2015
Сообщения
25
Благодарностей
1
Баллы
3
Разбить файл на несколько более мелких, я например разбивал например этим: KeyWordKeeper.
А вообще Zennoposter объем 1,17 Гб по идее должен тянуть, видимо физической памяти на компе не хватает.
 
  • Спасибо
Реакции: rich788

fri-lancer

Client
Регистрация
01.10.2013
Сообщения
418
Благодарностей
156
Баллы
43
Всем привет.Зенка не тянет файл формата "YML",объемом 1,17 гб.Что делать?
Скачал с пратнерки список книг,и не могу их этого файла вытянуть url адреса.
Посмотрите тут https://zennolab.com/discussion/threads/poluchaem-spiski-nuzhnyx-url-po-patternam-v-bolshom-kolichestve-cdx-cc.110869/
Автор пишет:
Готовые решения мне не подошли, нужен был кастом, поэтому собрал на ZP. Требование были простые -сделать выборку как указано выше и как можно быстрей. Получилось приемлимо - ~2 минуты на один 5-7 Гб файл.
Видеопруф - чтобы исключить вопросы новичков - "Действительно ZP может обрабатывать файлы большого размера с высокой скоростью".
 
  • Спасибо
Реакции: rich788

DevOps

Client
Регистрация
30.11.2020
Сообщения
496
Благодарностей
314
Баллы
63
Всем привет.Зенка не тянет файл формата "YML",объемом 1,17 гб.Что делать?
Скачал с пратнерки список книг,и не могу их этого файла вытянуть url адреса.
Используйте StreamReader для чтения файла. Хоть террабайт весом пусть будет, Зенка схавает
PS Можете прислать код если хотите, сделаю под поточную обработку
 
  • Спасибо
Реакции: rich788

rich788

Client
Регистрация
20.09.2017
Сообщения
33
Благодарностей
3
Баллы
8
Всем большое спасибо,все что вы посоветовали,пригодится в будущем.Решил ситуацию.Что сделал,открыл через нотепад ++ и с помощью регулярки,удалил до и после искомого текста,что очистило файл на 800 мб и дальше уже зенка справилась.И да,оперативы маловато на пк.
 

DevOps

Client
Регистрация
30.11.2020
Сообщения
496
Благодарностей
314
Баллы
63
Всем большое спасибо,все что вы посоветовали,пригодится в будущем.Решил ситуацию.Что сделал,открыл через нотепад ++ и с помощью регулярки,удалил до и после искомого текста,что очистило файл на 800 мб и дальше уже зенка справилась.И да,оперативы маловато на пк.
Молодец!
 
  • Спасибо
Реакции: rich788

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)