Обработка больших объемов данных

Lite

Client
Регистрация
17.10.2013
Сообщения
283
Благодарностей
89
Баллы
28
Есть файлы с данными, строки в несколько параметров, надо парсить файлы и делать выборку по одному из параметров.
Общий объем выходит в несколько гб, и в данный момент обход по очереди всех файлов и парсинг каждого выходит очень долгим.
Как лучше увеличить производительность?
а)Собрать всё в один текстовый и парсить его.
б)Собрать всё в одну БД mysql и делать запросы. (с бд в зенке еще не работал, одна таблица в несколько гигов будет нормально обрабатываться?)
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
20 407
Благодарностей
9 116
Баллы
113
Есть файлы с данными, строки в несколько параметров, надо парсить файлы и делать выборку по одному из параметров.
Общий объем выходит в несколько гб, и в данный момент обход по очереди всех файлов и парсинг каждого выходит очень долгим.
Как лучше увеличить производительность?
а)Собрать всё в один текстовый и парсить его.
б)Собрать всё в одну БД mysql и делать запросы. (с бд в зенке еще не работал, одна таблица в несколько гигов будет нормально обрабатываться?)
по варианту б) будет однозначно быстрее и надежнее работать..
 
  • Спасибо
Реакции: Lite

Lite

Client
Регистрация
17.10.2013
Сообщения
283
Благодарностей
89
Баллы
28
по варианту б) будет однозначно быстрее и надежнее работать..
Спасибо за совет)
Давно надо было перейти - один раз спарсил, теперь всё работает за пару секунд.
Не говоря уже о возможностях запросов (модификация данных, регулярки, поиск по совпадению двух полей и т.п.)
 
  • Спасибо
Реакции: afk и Sergodjan

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)