Улучшение Изменять количество потоков БЕЗ остановки А-парсера

Gorn

A-Parser Enterprise License
A-Parser Enterprise
При парсинге большого количества УРЛ приходится подбирать оптимальное количество потоков, чтоб и скорость была побольше и сайт-цель не падал.
Сейчас для этого надо делать множество телодвижений - нажатий кнопки мыши - 9 раз, скроллингов 2-3.
Предлагаю добавить возможность менять количество потоков для РАБОТАЮЩЕГО задания без его остановки.
Это повысит удобство А-парсера и сэкономит нам немного времени.
В идеале вообще было бы здорово сделать автоматический подбор оптимального количества потоков.
 
т.е. ты хочешь 50 потоков одно задание 50 потоков другое задание и т.д. ?
 
Нет, не так.
Вот есть задание, большое, на несколько дней. Поставил 500 потоков, скорость допустим 500.
Скорость конечно приличная, но задание большое, хочется побыстрее, естественное делание увеличить количество потоков. Чтобы попробовать 900, надо остановить апарсер, сменить количество потоков и снова его пустить, если скорость увеличится - повторно делать те же шаги. Потом рано или поздно наступит предел или даже скорость упадет из-за тормозов сайта, надо снова останавливать парсинг и уменьшать потоки...
В общем МНОГО повторяющихся нажатий и скроллингов мышкой. Если сделать как я предлагаю - менять количество потоков без остановки апарсера - это сэкономит время и повысит удобство настройки апарсера.
 
Нет, не так.
Вот есть задание, большое, на несколько дней. Поставил 500 потоков, скорость допустим 500.
Скорость конечно приличная, но задание большое, хочется побыстрее, естественное делание увеличить количество потоков. Чтобы попробовать 900, надо остановить апарсер, сменить количество потоков и снова его пустить, если скорость увеличится - повторно делать те же шаги. Потом рано или поздно наступит предел или даже скорость упадет из-за тормозов сайта, надо снова останавливать парсинг и уменьшать потоки...
В общем МНОГО повторяющихся нажатий и скроллингов мышкой. Если сделать как я предлагаю - менять количество потоков без остановки апарсера - это сэкономит время и повысит удобство настройки апарсера.
 

Вложения

  • Безымянный.png
    Безымянный.png
    31 КБ · Просмотры: 27
Я про количество ПОТОКОВ одного исполняемого (работающего) задания говорю!
А Вы про количество одновременно выполняемых заданий, это сосем не то!
Я размещаю скриншот, чтобы вам было понятнее )
Общее количество потоков у меня установлено в 2000.
 

Вложения

  • апарсер активные потоки.png
    апарсер активные потоки.png
    34,7 КБ · Просмотры: 15
Я про количество ПОТОКОВ одного исполняемого (работающего) задания говорю!
А Вы про количество одновременно выполняемых заданий, это сосем не то!
Я размещаю скриншот, чтобы вам было понятнее )
Общее количество потоков у меня установлено в 2000.
Сделают, если кому-то еще надо будет
 
  • Like
Реакции: Gorn
Назад
Верх