1.2.1076 - 3 новых парсера, завершение перехода на Node.js, интеграция puppeteer в сборку

  • Автор темы Автор темы Support
  • Дата начала Дата начала

Support

Administrator
Команда форума
A-Parser Enterprise
1.2.1076.png

Улучшения

  • В связи с переводом основных встроенных парсеров на новую платформу Node.js, полностью переписаны и обновлены парсеры:
  • Основные улучшения от перевода данных парсеров на Node.js:
    • увеличение производительности в ~1.5 раза
    • унификация HTTP движка с JavaScript парсерами, единый обход CloudFlare
  • Добавлены новые парсеры:
  • В HTML::EmailExtractor HTML::EmailExtractor добавлена опция Skip non-HTML blocks, позволяющая отключить сбор почт внутри тегов script, style и т.п.
  • В SE::Google::Translate SE::Google::Translate добавлены новые переменные:
    • $translit_orig - оригинальный текст транслитом
    • $translit_translated - переведенный текст транслитом
    • $variants.$i.text - список вариантов перевода оригинального текста
  • В SE::Bing SE::Bing обновлен список регионов и языков
  • В Social::Instagram::Profile Social::Instagram::Profile и Social::Instagram::Post Social::Instagram::Post добавлена возможность собирать кол-во видеопросмотров
  • В SE::Yandex::Translate SE::Yandex::Translate добавлена возможность отключать использование сессий
  • В Net::HTTP Net::HTTP добавлена возможность указывать user-agent для Chrome
  • В парсере Rank::MOZ Rank::MOZ исправлена ошибка, возникающая при вызове парсера из JS методом this.parser.request().
  • В Rank::CMS Rank::CMS добавлена поддержка нового apps.json и возможность использовать Net::HTTP Net::HTTP
  • В Net::Whois Net::Whois обновлена поддержка всех зон
  • Для проксичекеров добавлена опция Exclude from "All", а также сделаны изменения в логике:
    • "All" - использует все прокси выбранные для задании
    • конкретный проксичекер - использует его, даже если он не выбран в задании
  • Добавлена поддержка устаревших версий SSL
  • JS парсеры: Добавлена опция tlsOpts для this.request(), позволяет передавать настройки для https соединений
  • JS парсеры: обновление Node.js с 14.2.0 до 14.15.0
  • JS парсеры: модуль puppeteer включен в сборку А-Парсера и не требует отдельной установки
Исправления в связи с изменениями в выдаче
Исправления
  • В SE::Yandex SE::Yandex исправлена работа Extra query string
  • Исправлено регулярное выражение в HTML::EmailExtractor HTML::EmailExtractor для устранения ошибок в некоторых случаях
  • Исправлено поведение парсера SE::Google::KeywordPlanner SE::Google::KeywordPlanner при отсутствии результатов по запросу
  • Maps::Yandex Maps::Yandex исправлен и переведен на puppeteer
  • Исправлена ошибка в приоритетах выбора проксичекера
  • JS парсеры: исправлен follow_meta_refresh
  • API: исправлена работа параметра rawResults

 
Назад
Верх