Параллельный парсер

biryukovm

Client
Регистрация
19.05.2019
Сообщения
147
Благодарностей
10
Баллы
18
Привет всем.
наверно уже этот вопрос подымался на форуме.

В общем у меня такая проблема я запускаю парсер и у меня получается несколько раз делается одна запись

Вот мой пример структур кода.
1 - Я получаю последний ID
2 - Я запоминаю этот ID и делаю запись во временную таблицу на +1 чтоб записи не повторялись
3 - После обработки заново прохожу шаг 2, шаг 1 я уже не трогаю

Проблема у меня на шаге 2
Максимальное количество потоков у меня 5 и даже получалось иногда так что все 5 потоков обрабатывают одну и туже запись
ставить ключ на ID записи думал но тогда все ровно будет что некоторые окна парсят повторно

БД MS SQL

Как избежать дублей ?
 
Регистрация
12.07.2014
Сообщения
916
Благодарностей
373
Баллы
63

Phoenix78

Client
Read only
Регистрация
06.11.2018
Сообщения
11 790
Благодарностей
5 720
Баллы
113
нужно лочить таблицы. как лочить 100500 раз уже обсуждалось на форуме. воспользуйтесь поиском
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)