1. Вступайте в наш Telegram чат: https://t.me/a_parser Нас уже 2600+ и мы растем!
    Скрыть объявление

Улучшение [1.1.340] Ошибка в случае редиректа на другой домен в SE::Yandex

Тема в разделе "1.1.355", создана пользователем Владислав, 10 ноя 2015.

  1. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    Сейчас ситуация следующая.

    Указываю я, например, yandex.ru.
    При этом в доп параметрах через &lr= указываю город Минск.

    Парсер говорит так:

    upload_2015-11-10_21-25-3.png

    В итоге это таск сваливается в бесконечные ошибки. А если установлено много попыток и за таском не следит никто, то в миллионы каптч.

    Вопрос: почему не спарсить с бай-домена по редиректу? К чему эта привязка к домену? Она же от гугла пришла и тут фактически не нужна, разве нет?

    Спасибо за ответ.
     
  2. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    Вся соль ситуации в том, что со своей стороны вести список id регионов по странам и подменять домен на нужный... ну короче работа ради работы. Гораздо проще просто убрать проверку доменной зоны, от неё мало что зависит, если я правильно понимаю.
     
  3. Forbidden

    Forbidden Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    9 мар 2013
    Сообщения:
    3.337
    Симпатии:
    1.794
    редирект - лишнее действие, и будет выполнятся для каждого запроса если установлена не корректная пара домен\регион
     
  4. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    А сейчас получается есть ещё сверху лишнее действие: остановка таска, копирование, исправление настроек и снова запуск. А если там снова затесалось BY/UA/KZ, то можно и несколько раз подряд так делать.
     
  5. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    Не понимаю смысла выдавать ошибку в таске, если парсер в состоянии её отработать. У того же Net::HTTP есть в настройках количество воспринимаемых редиректов. Может и тут это поможет?
     
  6. Forbidden

    Forbidden Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    9 мар 2013
    Сообщения:
    3.337
    Симпатии:
    1.794
    логика работы сессий завязана на куках и домене который прописан в конфиге, в чем сложность при работе с Украиной выбрать нужный домен?
    посмотрю можно ли это реализовать в парсере
     
  7. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    Сложность в том, чтобы заранее по id региона определить к какой стране он относится.
    Спасибо!
     
  8. Forbidden

    Forbidden Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    9 мар 2013
    Сообщения:
    3.337
    Симпатии:
    1.794
    теперь для Украины, Беларуси и Казахстана домен выбирается автоматически, без необходимости его выбора в конфиге
     
  9. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
  10. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    upload_2015-11-20_13-4-26.png

    А что поменялось?
     
  11. Владислав

    Владислав A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    9 авг 2013
    Сообщения:
    54
    Симпатии:
    0
    может проблема в том, что я юзаю подстановку региона через Extra query string с подстановкой &lr=213, например?
     
  12. Forbidden

    Forbidden Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    9 мар 2013
    Сообщения:
    3.337
    Симпатии:
    1.794
    конечно проблема в этом, регион должен быть выбран в поле Region в настройках
     

Поделиться этой страницей