Как одним заданием парсить ссылки и проверять их код ответа?

  • Автор темы Автор темы kleim
  • Дата начала Дата начала

kleim

A-Parser Pro License
A-Parser Pro
Здравствуйте!Как можно при парсинге ссылок из поисковых систем,сразу их проверять на 200 ok - статус?
 
Плохо,очень тормозит работу это(И мусора много собирается почему то...
 
либо js-парсерами я думаю такое реализуемо, где-то были примеры как выдачу парсить
 
Вот почти готовый пример JS парсера, который решает данную задачу одним заданием: https://a-parser.com/resources/134/
Только вместо сбора тайтлов нужно выводить код ответа и при необходимости сразу фильтровать по нему. Также для увеличения скорости, можно включить Read only headers в Net::HTTP Net::HTTP.
 
Назад
Верх