Как почистить спарсенный список

  • Автор темы Автор темы erdaud
  • Дата начала Дата начала

erdaud

A-Parser Enterprise License
A-Parser Enterprise
Добрый день, такая задача:
-напарсил 25кк линков (дублей линков нет, но есть дубли доменов в них) - это файл1
-есть свой старый список доменов 2кк - это файл2

Нужно из файла1 (25кк линков) удалить все линки, в к-х встречаются домены (2кк) из файла2

Вроде кто-то когда-то показывал как сделать это через Net:HTTP или мне это приснилось...

Зараннее спасибо!
 
хрум умеет, если он у тебя есть. инструменты - фильтр базы ссылок
 
Планируется этот менеджер ввести? так же по размеру файлов чтоб результаты сохранялись не более 100мб допустим. потом в следующий.
 
Назад
Верх