A-Parser - парсер для профессионалов SEO

Парсер Яндекса SE::Yandex:

• Добавлена опция Parse not found, определяющая парсить ли выдачу если по искомому запросу найдено ноль результатов и предложена выдача по другому запросу
• Теперь яндекс гораздо реже показывает каптчу
• Исправлена отправка каптчи в связи с изменением в выдачи
• В некоторых случаях неверно отправлялся запрос на антигейт о неправильной каптчи

Парсер Яндекс Вордстата SE::Yandex::WordStat:

• Улучшена работа с аккаунтами - неверно определялся заблокированный аккаунт
• Нельзя было использовать антигейт совместно с аккаунтами

Другие улучшения:

• Реализована статистика работы по каждому заданию, в текущей версии считает количество успешных запросов, использование проксей, попыток и HTTP-запросов
• Теперь при просмотре логов неудачные запросы выделяются красным цветом для удобства отладки
• Небольшие улучшения в...

В связи с тем что WordStat теперь можно парсить только используя аккаунты появился новый парсер SE::Yandex::Register - автоматически регистрирует тысячи аккаунтов используя антигейт.


На скриншоте пример регистрации 1000 аккаунтов за 15 минут. Скорость ограничена возможностями антигейта.

Парсеры SE::Yandex::WordStat и SE::Yandex::WordStat::ByDate теперь поддерживают авторизацию и позволяют парсить миллионы кейвордов и проверять частотность без использования антигейта. Теперь затраты на каптчу только при регистрации аккаунтов!



Другие улучшения:

• ...

Новый парсер SE::Yandex::Direct::Frequency - проверка частотности ключевых слов через Яндекс.Директ.
Без распознавания каптчи средняя скорость проверки 3000 ключевых слов в минуту при 500 потоках:


На хороших проксях и при большем числе потоков можно добиться скорости более 20000 кеев в минуту

В парсере HTML::TextExtractor теперь корректно обрабатываются списки(<select>)

Исправления в связи с изменением в выдаче:

• Rank::Alexa
• SE::Google - определение запросов по которым нет результатов

Другие исправления:

• Исправлена логика работы Parse all results(Parse to level) совместно с макросами перебора букв(или фраз из файла)
• При парсинге ...

Важное улучшение - теперь все парсеры(а их 43) проходят ежедневное автоматическое тестирование, что позволяет оперативно реагировать на изменения в выдаче или работе всех сервисов, с которыми работает A-Parser.

Улучшения:

• Новый макрос результата {dump} - выводит в удобном виде все результаты получаемые парсером
• Улучшен парсинг SE::AOL - теперь необходимо гораздо меньше попыток для успешного парсинга
• Теперь парсер SE::Bing парсит до 1000 результатов с каждого запроса
• В парсере SE::Google::PR если у домена или страницы нету PageRank то в результате выведет -1
• Парсер SE::DMOZ переименован в Rank::DMOZ

Исправления:

• Исправлена работа уникализации результатов в тесте A-Parser'а
• Исправлено автоматическое удаление временных файлов при...

Новый метод уникализации DataBase - не использует оперативную память, 100% точность. Убраны старые методы Dynamic, DynamicHash, 16-64mb как неактуальные, подробности тут

Реализовано лимитирование потоков, в случае превышения потоков в задании парсер выдаст ошибку и не запустит задание. На Windows лимит установлен в 2000 потоков, на Linux в 10000(или меньше если ulimit -n меньше)

Исправлена обработка каптчи в парсере SE::Yandex. Также теперь можно указать регион поиска в цифровом формате через Extra query string, возможность выбора региона из списка сохраняется

В API добавлена возможность переопределить настройки пресета в методах oneRequest и bulkRequest. Добавлен новый метод getParserPreset - позволяет изучить доступные настройки для каждого парсера. Обновлен модуль AParser.pm

Добавлен парсер новой поисковой системы ...