Перейти к основному содержимому

SE::Startpage - парсер выдачи startpage.com

img

Обзор парсера Startpage#

Парсер поисковой выдачи Startpage. Благодаря парсеру Startpage вы сможете получать большие базы ссылок, готовых для дальнейшего использования. Вы можете использовать запросы в том же виде, в котором вы вводите их в поисковую строку Startpage, включая поисковые операторы(site, inurl и т.д.).

Функционал A-Parser позволяет сохранять настройки парсинга парсера Startpage для дальнейшего использования (пресеты), задавать расписание парсинга и многое другое. Вы можете использовать автоматическое размножение запросов, подстановку подзапросов из файлов, перебор цифро-буквенных комбинаций и списков для получения максимально возможного количества результатов.

Сохранение результатов возможно в том виде и структуре которая вам необходима, благодаря встроенному мощному шаблонизатору Template Toolkit который позволяет применять дополнительную логику к результатам и выводить данные в различных форматах, включая JSON, SQL и CSV.

Список собираемых данных#

  • Ссылки, анкоры и сниппеты из выдачи

какие данные собирает парсер SE::Startpage

Возможности#

  • Поддерживает выбор страны и языка поиска
  • Возможность вывода вместе или по отдельности анкоров, ссылок, сниппетов
  • Возможность указания количества выводимых результатов

Варианты использования#

  • Сбор баз ссылок, анкоров и снипетов
  • Получение списка сайтов которые чаще всего упоминаются в поисковых системах
  • Любые другие варианты использования для получения информации

Примеры запросов#

  • В качестве запросов указываются слова, фразы, словосочетания в таком же виде в каком они вписываются в поисковую систему. Пример:
тест
site:http://test.ru
красные розы

Подстановки запросов#

Вы можете использовать встроенные макросы для разможения запросов, например мы хотим получить очень большую базу форумов, укажем несколько основных запросов на разных языках:

forum
форум
foro
论坛

В формате запросов укажем перебор символов от a до zzzz, данный метод позволяет максимально ротировать поисковую выдачу и получать множество новых уникальных результатов:

$query {az:a:zzzz}

Данный макрос создаст 475254 дополнительных запросов на каждый исходный поисковый запрос, что в сумме даст 4 х 475254 = 1901016 поисковых запроса, цифра впечатляющая, но это совсем не проблема для A-Parser'а. При скорости 2000 запросов в минуту такое задание обработается всего за 16 часов

Использование операторов#

Вы можете использовать поисковые операторы в формате запроса, таким образом он будет автоматически добавлен к каждому запросу из вашего списка:

site:$query

Варианты вывода результатов#

A-Parser поддерживает гибкое форматирование результатов благодаря встроенному шаблонизатору Template Toolkit, что позволяет ему выводить результаты в произвольной форме, а также в структуированной, например CSV или JSON

Экспорт списка ссылок#

Аналогично как в SE::Google.

Ссылки + анкоры + сниппеты с выводом позиции#

Аналогично как в SE::Google.

Вывод ссылок, анкоров и сниппетов в таблицу CSV#

Аналогично как в SE::Google.

Сохранение в формате SQL#

Аналогично как в SE::Google.

Дамп результатов в JSON#

Аналогично как в SE::Google.

Обработка результатов#

A-Parser позволяет обрабатывать результаты непосредственно во время парсинга, в этом разделе мы привели наиболее популярные кейсы для парсера Startpage

Уникализация ссылок#

Аналогично как в SE::Google.

Уникализация ссылок по домену#

Аналогично как в SE::Google.

Извлечение доменов#

Аналогично как в SE::Google.

Удаление тегов из анкоров и сниппетов#

Аналогично как в SE::Google.

Фильтрация ссылок по вхождению#

Аналогично как в SE::Google.

Возможные настройки#

Название параметраЗначение по умолчаниюОписание
Pages count5Количество страниц для парсинга(от 1 до 50)
Family filterFilter depending on searchВыбор уровня фильтрации(Filter all results / Filter depending on search / Do not filter my results)
PeriodAny timeВыбор периода выдачи(Any time / Past 24 hours / Past week / Past month / Past year)
Results languageAnyВыбор языка результатов
Search countryAnyВыбор страны откуда осуществляется поиск
Последнее обновление