Здравствуйте.
Столкнулся с такой проблемой. При проверке урлов на наличие обратной ссылки, оказалось, что при включенной опции проверки robots.txt, и когда а парсер видит что страница закрыты в роботсе, то в результат заносит все none.
Получается, что не проверяет дальше, есть ли там ссылка, нофоллов и тд. а сразу все none
Как по мне, то логика не правильная. В перую очередь, нужно проверять если ссылка вообще на стрнаице, это основной параметр. А дополнительные, это закрыта ли она в роботсе, и тд.
Каждый использует этот инструмент для разных целях, и при отключении проверки робтс, приходится дважды проверять одну и ту же базу.
Как по мне, то это не правильно. И очень прошу, либо исправить, либо добавить опцию. Которая будет заносить в результаты все данные. А не ставить главный параметр роботс, после которого все отключается.
Пример ссылок могу дать в ЛС (не хочу светить тут). При включеном робтсе нет не одного результата, когда октлючаю, все есть, и ссылка, и остальные параметры.
Спасибо!
Столкнулся с такой проблемой. При проверке урлов на наличие обратной ссылки, оказалось, что при включенной опции проверки robots.txt, и когда а парсер видит что страница закрыты в роботсе, то в результат заносит все none.
Получается, что не проверяет дальше, есть ли там ссылка, нофоллов и тд. а сразу все none
Как по мне, то логика не правильная. В перую очередь, нужно проверять если ссылка вообще на стрнаице, это основной параметр. А дополнительные, это закрыта ли она в роботсе, и тд.
Каждый использует этот инструмент для разных целях, и при отключении проверки робтс, приходится дважды проверять одну и ту же базу.
Как по мне, то это не правильно. И очень прошу, либо исправить, либо добавить опцию. Которая будет заносить в результаты все данные. А не ставить главный параметр роботс, после которого все отключается.
Пример ссылок могу дать в ЛС (не хочу светить тут). При включеном робтсе нет не одного результата, когда октлючаю, все есть, и ссылка, и остальные параметры.
Спасибо!