1. Вступайте в наш Telegram чат: https://t.me/a_parser Нас уже 2600+ и мы растем!
    Скрыть объявление

Ошибка [1.2.2202] Почему старая версия парсит быстрее новой?

Тема в разделе "1.2.2228", создана пользователем Gorn, 9 ноя 2023.

  1. Gorn

    Gorn A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    6 июл 2017
    Сообщения:
    90
    Симпатии:
    18
    Имею License type: A-Parser Enterprise License
    License created: Sun Jul 30 15:19:40 2017
    Updates till: Sat Jun 11 08:15:12 2022
    Last available version: 1.2.1511

    Сделал пресет для Net::HTTP, купил тут прокси 100 потоков, парсю несколько дней, скорость 1200 в среднем.
    Нашел на этом же компе СТАРУЮ версию А-парсера, запустил и настроил те же прокси.
    Решил проверить, какая скорость будет на ней этого же пресета, все другие настройки одинаковые на обоих версиях.
    На старой версии - скорость значительно БОЛЬШЕ - 1600
    Посмотрите на HTTP трафик, который показывает диспетчер задач (Windows 10)- слева новая версия (скорость 1200), справа - старый парсер - скорость 1600
    Обратите внимание на большие зубцы кривой слева и гораздо более спокойную кривую справа.
    sravnenieStarojInovojVersijAparsera.png
    Параметры компа:
    I7-4700HQ, RAM 16Gb, SSD 512
    Антивирус отключен.

    Старая версия Апарсера:
    A-Parser Pro v1.2.360
    aparser.exe 25.12.18 19:15
    49 325 568 bytes
    Парсинг: Скорость текущая/общая 1717/1694
    Количество ядер CPU=6, других настроек ядер в этой версии еще не было.


    Новая версия Апарсера:
    A-Parser Enterprise v1.2.1511
    aparser.exe 28.05.22 12:53
    44 204 544 bytes
    Парсинг: Скорость текущая/общая 1298/1256

    CPU ядер (обработка заданий)=3
    CPU ядер (обработка результатов)=4
    Memory Saver=Best Speed

    Почему старя парсит быстрее?
    ЗАДАЧА: Восстановить прежнюю sravnenieStarojInovojVersijAparsera.png скорость парсинга.
     
  2. Support

    Support Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    16 мар 2012
    Сообщения:
    4.557
    Симпатии:
    2.167
    Актуальная версия А-Парсера - 1.2.2106 и сравнивать скорость правильнее с этой версией.
    Пришлите пресет и запросы, на которых вы тестируете.
     
  3. Gorn

    Gorn A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    6 июл 2017
    Сообщения:
    90
    Симпатии:
    18
    Обновился до A-Parser Enterprise v1.2.2107
    Скорости примерно сравнялись, не было времени сравнивать долго.
    НО!
    Вот простейший пресет перестал работать на новой версии!!!
    Вот скриншоты:
    Старая версия апарсера:



    newbad.png
    результатов = НОЛЬ!!!
    вот работа старой версии

    oldgood.png
    Видно, что сбор УРЛ прекрасно отработал!!

    Там просто выбираются УРЛ из сайтмапа выражением <loc>([^><]+)<\/loc
    из списка
    https://www.dns-shop.ru/products3.xml
    https://www.mvideo.ru/sitemaps/sitemap-general-product-accessories-www.mvideo.ru-12.xml

    Вот сам пресет, проверьте пожалуйста


    eJyVVW1z2zYM/is6nntJNr/JedvspHepr2m25q2Os36IsxxjwTZrilRJyi/J+b8P
    oGTJTrvd7fzBBAiAwAPg0Stz3E7trQELzrL2wytL/Jm1mQPrAhvzJGRVlnBjwZDF
    A7sG125f9Pu3qC+MWPWVuWUC6KhnYIyIAK9FhHJqITF6sUR5xmWKJiMuLaxKj2Fq
    nY57YFPp0MpkhzaLuONeHsMCxROph+93H/5+f/L4697JYNBAeX3dzyIJOy4C5Cpu
    DKe3/f81j0lnCyMqidmQPa7+vYCYL56seIGyAPZ72Dz47fD4iP3/KnatcICI1V9b
    rdXeD/m/TX8kuXuT/Xby1AJM//Gx0J5rE3N6+ctp5XsKZtkZ6giCShLW6dAJDHCr
    lVdkx4Hqf7zrn5KCwg3Uw7uBUjI4DXYGaqczUMEOgnCK17ZOSJzuBE9BIQVB0AnQ
    Gu3ePQ4wWMVfjXwauzs2PK3YcICB9gaqzP2Oz6CvqUIhoVSfo5TX2YMLLaO7q1bD
    lyHAkmkF8QQ6rB/Yq7uFhyiKhBNacZkBQOiUoNwr8d23Tmm0zeOdGx37UfcBPFZr
    8B5Yhh3DEKn3/ZL55ONbZRYLOOeYSFTcOJPiBfbXcKfNTULpoPqVaXUm5SXMQJb+
    PvyHVMgIN+tshE5/5I4/N7n5IcaqqG7zKZzeucEciihe+nBzVXpF+lKP11hIEQuH
    su3qVNHYNFE5BUgKyK7JLNYGimfyyPnryB8JqGhrNM+SUrVVxlZXtpVDrUZifJOv
    39oyVX0kqRvV1XEigepSqZRV4pVeOTNnNu8CCWWCb527/gnaShjxbFGd1tL+eZel
    mhiBM3lICcaI5Oarecghl/K+d7l5w8qJQmHiXGLbjcZ8Pq9HytbsRCd1kzaQBKN0
    6Ox+fRHLgdo0i2dYryajnBzs+lAbg8KhkLXcu8aHQ7BW01u1Ldda2KLAjDJ0MNY4
    uojf6rEg74LlXzcoHIWSw1EYax11kSR6OVthuAnwSOKbrN2ssmej5xjMn0daSj1H
    GGKtehAJA0MKHyJ4XEU6Rmp4ctI+jYQag0FkabrQz4kYdEqTdkSjhszS1XqagRce
    sWr5xaBYWsklpeCnhDJYJtzartRpdC65ge4Elxiu+OKWjylEC20imPmuegcfyoDL
    2xM2/ZBiv6yLQOK3IZv4jE0K1q5knLnmx0qegqe3nNFBjYWCvOOMXnWIwHBCcGeV
    IiIpCmhyTIumxzh+Cm2yJWpWy0/Lxicl35fRmsVzHvKwmBoW6Zf0Sr8IKXnjsN4M
    dr8KxHtug+t+EDbrzU6AiqODTrA4OtgLcBMlfIXnz8I1DveP6/tHwe7ni/7VZTWQ
    YgrBJxhO9V6Q4dgIw+N6k37BHR9xI9YuN7e9Rtjcz+7yqfAtoRH5eU8uisHBNhJG
    LV+znYqkf3n3F+7LaFl2qDvBPGiy2C8YcT2HRMREwXMu3L1yQhJrgZtrMxUYvEWw
    66fxi0j8K886Wv5XShno4CaaqOnTxz6tSzF8LE/lmWOXoqEErlKMy/abVDFqtzZj
    tUIm/WZvs+0i2qHdQh3yl8UOY0KrfwCgSSuY


    sborsitemap.png
     
  4. dp76

    dp76 A-Parser Enterprise License
    A-Parser Enterprise

    Регистрация:
    12 янв 2019
    Сообщения:
    3
    Симпатии:
    0
    Плюсую, на 2107 скорость упала вдвое, пресеты и запросы передал в телегу в саппорт
     
  5. Support

    Support Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    16 мар 2012
    Сообщения:
    4.557
    Симпатии:
    2.167
    Проблема, о которой вы писали, никак не связана с обсуждаемой в данной теме. Ваш вопрос изучается и ответ будет дан в чате.

    Проблему видим, изучим и дадим ответ здесь.
     
  6. Support

    Support Administrator
    Команда форума A-Parser Enterprise

    Регистрация:
    16 мар 2012
    Сообщения:
    4.557
    Симпатии:
    2.167
    Исправлено в 1.2.2202
    Проблема воспроизводилась только на Windows
     
    Gorn нравится это.

Поделиться этой страницей