как удалить дубли из списка

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Парсим гугл.. линки складываем в список....
вопрос: как удалить в списке дубли по ДОМЕНУ ??
что то я застрял на этом ... сделать конечно можно.. но очень уж громоздкая схема получается(через циклы и временные списки).. может можно как попроще???
заранее спасибо
 

Ribas

Client
Регистрация
31.05.2014
Сообщения
1 440
Благодарностей
503
Баллы
113
Почему громоздкая, четыре кубика плюс входящий и итоговый список. На шарпе будет в один кубик :-)
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 375
Благодарностей
2 040
Баллы
113
первый пример самый лёгкий, поиск в верхнем правом углу
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
первый пример самый лёгкий, поиск в верхнем правом углу
первый это какой?
вбиваю в поиск: удалить дубли по домену.. результат: только эта тема...
пы.сы.. если не знаете как... то отправить в поиск проще всего ... сори если обидел
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
мда уж ... какие все отзывчивые однако ...(
 
  • Спасибо
Реакции: LightWood

ZennoScript

Moderator
Регистрация
04.03.2011
Сообщения
4 451
Благодарностей
1 885
Баллы
113
Можно через такой вот костыль:
1. Парсите все ссылки во временный файл. Когда парсинг заканчивается, переходим к следующему .
2. Берётся первая строка с удалением, очищается от всего лишнего, оставляется только домен.
3. Сохраняем в нужный файл.
4. Из временного файла удаляем все строки, содержащие этот домен.
И так по циклу, пока не закончатся все строки. Это так, по простому, чтобы было понятно. Можно конечно это сделать на коде, либо же на стадии парсинга, но это уже более сложные моменты.
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Можно через такой вот костыль:
1. Парсите все ссылки во временный файл. Когда парсинг заканчивается, переходим к следующему .
2. Берётся первая строка с удалением, очищается от всего лишнего, оставляется только домен.
3. Сохраняем в нужный файл.
4. Из временного файла удаляем все строки, содержащие этот домен.
И так по циклу, пока не закончатся все строки. Это так, по простому, чтобы было понятно. Можно конечно это сделать на коде, либо же на стадии парсинга, но это уже более сложные моменты.
спасибо конечно... но тогда уж проще спарсить все ссылки .. загрузить их в (другой софт) и просто нажать кнопачку: "удалить дубли" поставив предварительно галку: по домену
то что вы описали ... это даже более громоздко, чем то о чем я думал ....
 

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 375
Благодарностей
2 040
Баллы
113
Спарсить миллион ссылок в лист, и в цикле их перебрать по домену, это даже не громоздко
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Спарсить миллион ссылок в лист, и в цикле их перебрать по домену, это даже не громоздко
если б разговор шел о лимоне линков ... я б не заморачивался и врубил хрефер ... тут объемы гораздо меньше

пы.сы... пошел флуд ... ладно ..коллеги не заморачивайтесь .. сам додумаю .... спасибо за советы .. оч. помогло
 

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 375
Благодарностей
2 040
Баллы
113
если б разговор шел о лимоне линков ... я б не заморачивался и врубил хрефер ... тут объемы гораздо меньше
тем более не понимаю в чём трудность или загвозка
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28

ZennoScript

Moderator
Регистрация
04.03.2011
Сообщения
4 451
Благодарностей
1 885
Баллы
113
Можно объеденить весь список в переменную, удалить все строки из текущего списка, далее в переменной удалить всё лишнее, оставив домены, вернуть переменную в список и удалит дубли.
Тут вариантов подходов десятки. Другой вопрос, что вам может быть лень добавить в проекте дополнительных 5 блоков и вы хотите это всё сделать одним шагом. Но, увы, так не бывает.
 
  • Спасибо
Реакции: Ribas и ssXXXss

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Другой вопрос, что вам может быть лень добавить в проекте дополнительных 5 блоков и вы хотите это всё сделать одним шагом. Но, увы, так не бывает.
бывает... Люди(не буду тыкать пальцем) умудряются в один кубик весь шаблон запихнуть(c#) ... то как сделать пятью блоками я приблизительно знаю ... просто спросил, может есть готовое решение попроще, шаблон и так большой получается ... нуу... на нет и суда нет

кстати, то что вы предложили не совсем то, потому, что в итоге я получу просто список доменов, а мне нужны именно полные линки
 

ZennoScript

Moderator
Регистрация
04.03.2011
Сообщения
4 451
Благодарностей
1 885
Баллы
113

ssXXXss

Client
Регистрация
23.12.2014
Сообщения
7 375
Благодарностей
2 040
Баллы
113
бывает... Люди(не буду тыкать пальцем) умудряются в один кубик весь шаблон запихнуть(c#) ... то как сделать пятью блоками я приблизительно знаю ... просто спросил, может есть готовое решение попроще, шаблон и так большой получается ... нуу... на нет и суда нет

кстати, то что вы предложили не совсем то, потому, что в итоге я получу просто список доменов, а мне нужны именно полные линки
Ну если на то пошло, то ты бы выложил свой код для начала, мы бы посмотрели и поправили, а так ты просишь готовое решение с нуля
 
  • Спасибо
Реакции: Ribas

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Ну если на то пошло, то ты бы выложил свой код для начала, мы бы посмотрели и поправили, а так ты просишь готовое решение с нуля
если вы соизволите приподнять свои очи чуть выше, то вы прочитаете, что я не то что ничего не прошу, но даже и не спрашиваю... когда спросил, то вы меня послали(в поиск) ... теперь уже не нужно ... спасибо за совет ....
пы. сы ... мы с вами на брундершафт не пили .. ага
 

Ribas

Client
Регистрация
31.05.2014
Сообщения
1 440
Благодарностей
503
Баллы
113
Вот мне интересно, зачем столько многоточий? Проявление унылого настроения? :-) Прям Арлекин представляется сразу
 

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Вот мне интересно, зачем столько многоточий? Проявление унылого настроения? :-) Прям Арлекин представляется сразу
это вопрос по теме? или просто пофлудить?
 

Ribas

Client
Регистрация
31.05.2014
Сообщения
1 440
Благодарностей
503
Баллы
113
Просто интересно..... Если не хочешь - не отвечай..... Я не настаиваю...
 
  • Спасибо
Реакции: booms1 и stmult

blud

Client
Регистрация
19.04.2011
Сообщения
657
Благодарностей
77
Баллы
28
Просто интересно..... Если не хочешь - не отвечай..... Я не настаиваю...
кстати.. похоже я тут не один Арлекин...отношение многоточий словам, в вашей фразе, помоему не меньше чем в моих )
 
  • Спасибо
Реакции: ZennoScript

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)