Rank::KeysSo - Scraper keys.so

Panoramica dello scraper
Keys.so è uno strumento di intelligence competitiva. Il servizio consente di orientarsi con un elenco di concorrenti del proprio sito, vedere per quali query si posizionano nella ricerca e per quali query vengono visualizzati i loro annunci. È disponibile il database di query più grande del segmento russo di Internet, con oltre 80 milioni di parole chiave.
La funzionalità di A-Parser consente di salvare le impostazioni di scraping per un uso futuro (preset), impostare pianificazioni di scraping e molto altro. È possibile utilizzare la generazione automatica delle query, la sostituzione di sotto-query da file, l'iterazione di combinazioni alfanumeriche ed elenchi per ottenere il massimo numero possibile di risultati.
Il salvataggio dei risultati è possibile nella forma e nella struttura necessaria, grazie al potente motore di modelli integrato Template Toolkit che consente di applicare logica aggiuntiva ai risultati e di esportare i dati in vari formati, tra cui JSON, SQL e CSV.
Dati raccolti
- Valutazione per visibilità nel runet
- Valutazione per copertura delle chiavi
- Numero di pagine nella TOP-50
- Traffico da ricerca (Numero stimato di utenti dalla ricerca organica al giorno)
- Numero di pagine nell'indice
- Traffico per pagina
- Numero di query per pagina
- Valutazione dell'efficacia (Percentuale di chiavi dalla TOP50 che occupano posizioni nella TOP5)
- Numero di siti del proprietario del dominio in Adsense, Analytics, Leadia e Relap.io
- Numero di sottodomini del proprietario del dominio
- Numero di query in top-1, in top-3, in top-5, in top-10, in top-50
- Pagine nei risultati organici (ottiene il link alla pagina e il numero di chiavi)
- Elenco dei concorrenti (link al dominio, numero di chiavi in comune, grado di somiglianza del dominio, traffico Yandex)
- Frasi chiave (query, frequenza, posizione)
Per i siti con pubblicità contestuale:
- Traffico contestuale (Stima del traffico dal contesto senza considerare alcun targeting. Prodotto della frequenza esatta per il CTR previsto, diviso per 30 giorni)
- Stima del budget (Stima del budget senza considerare alcun targeting. Prodotto della frequenza esatta per il CTR previsto per il costo del clic)
- Numero di annunci nel contesto
- Numero di query nel contesto
- Numero di query per annuncio
- Annunci nel contesto (Annuncio e numero di query)
- Concorrenti nel contesto (Dominio, numero di query in comune, query totali, numero di annunci)
- Query del sito nel contesto (Query, frequenza, posizione, posizionamento, prezzo del clic)
Funzionalità
- Scelta della regione dei risultati per Google e Yandex
- Scraping con autorizzazione (tramite sostituzione dei cookie)
Casi d'uso
- Ottenimento della valutazione per visibilità nel runet, per copertura delle chiavi
- Ottenimento del volume di traffico per pagina
- Ottenimento del numero di query in top-1, in top-3, in top-5, in top-10, in top-50
- Ricerca dei concorrenti del sito
- Ottenimento dell'elenco delle query per le quali il sito si posiziona nella ricerca
- Ottenimento degli annunci di pubblicità contestuale del sito
- Ottenimento dei concorrenti nel contesto
- Raccolta dati sui risultati regionali per Google e Yandex
Query
Come query è necessario indicare il dominio, ad esempio:
a-parser.com
Esempi di formattazione dei risultati
A-Parser supporta una formattazione flessibile dei risultati grazie al motore di modelli integrato Template Toolkit, che gli consente di produrre risultati in forma libera o strutturata, come CSV o JSON
Output predefinito
Formato del risultato:
Query - $query, By vision in runet - $by_vis, By keys - $by_keys, Requests in top 50 - $in_top50, Search traf - $search_traff\n
Esempio di risultato:
Query - a-parser.com, By vision in runet - 104606, By keys - 197798, Requests in top 50 - 1540, Search traf - 57
Output dell'elenco dei concorrenti
Formato del risultato:
$comp_keys.format('$links, $total_keys, $similarity, $traff_y\n')
Esempio di risultato:
http://youtube.com, 1360, 0.00, 8286326
http://habr.com, 1174, 0.04, 116283
http://vc.ru, 1172, 0.06, 40749
http://zen.yandex.ru, 923, 0.00, 5944772
http://spark.ru, 870, 0.33, 2062
http://zennolab.com, 828, 2.78, 216
http://web-data-extractor.net, 819, 35.11, 53
Output dell'elenco dei concorrenti in CSV
Formato del risultato:
[% FOREACH comp_keys;
tools.CSVline(links, total_keys, similarity, traff_y);
END %]
Esempio di risultato:
http://vk.com,5316893,12.18,8682202
http://youla.ru,5222139,84.47,231703
http://moskva.tiu.ru,4812708,59.84,323103
http://youtube.com,4543041,8.27,8286326
http://moskva.regmarkets.ru,4106292,61.62,13983
http://ozon.ru,3783344,46.81,580266
Dump dell'elenco dei concorrenti in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.competitors = [];
FOREACH item IN p1.comp_keys;
obj.competitors.push({
links = item.links
total_keys = item.total_keys
similarity = item.similarity
traff_y = item.traff_y
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"query": "avito.ru",
"competitors": [
{
"traffic": "8682202",
"similarity": "12.18",
"total_keys": "5316893",
"links": "http://vk.com"
},
{
"traffic": "231703",
"similarity": "84.47",
"total_keys": "5222139",
"links": "http://youla.ru"
},
{
"traffic": "323103",
"similarity": "59.84",
"total_keys": "4812708",
"links": "http://moskva.tiu.ru"
}
]
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Output dell'elenco delle frasi chiave
Formato del risultato:
$key_phrases.format('$req, $base_freq, $va_freq, $pos\n')
Esempio di risultato:
a parser, 2870, 332, 1
a parser scarica torrent, 183, 181, 1
aparser, 435, 118, 1
a parser torrent, 285, 103, 1
a scraper, 423, 101, 1
a parser com, 221, 87, 1
scraper risultati google, 66, 61, 1
checker di massa posizioni a-parser, 53, 52, 1
Output dell'elenco delle frasi chiave in CSV
Formato del risultato:
[% FOREACH key_phrases;
tools.CSVline(req, base_freq, va_freq, pos);
END %]
Esempio di risultato:
"avito",59415062,9034027,1
"avito mosca",1782404,451582,1
"avito san pietroburgo",634665,343183,1
avito,1207134,307012,1
"avito voronezh",629468,286035,1
Dump dell'elenco delle frasi chiave in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.phrases = [];
FOREACH item IN p1.key_phrases;
obj.phrases.push({
req = item.req
base_freq = item.base_freq
va_freq = item.va_freq
pos = item.pos
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"query": "avito.ru",
"phrases": [
{
"base_freq": "59415062",
"req": "avito",
"va_freq": "9034027",
"pos": "1"
},
{
"base_freq": "1782404",
"req": "avito mosca",
"va_freq": "451582",
"pos": "1"
},
{
"base_freq": "634665",
"req": "avito san pietroburgo",
"va_freq": "343183",
"pos": "1"
}
]
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Output delle pagine dei risultati organici
Formato del risultato:
$organic_pages.format('$pages, $keys\n')
Esempio di risultato:
http://a-parser.com/, 315
http://a-parser.com/wiki/parsers/, 115
http://a-parser.com/a-parser-for-e-commerce/, 56
http://a-parser.com/wiki/js-parsers/, 44
http://a-parser.com/wiki/html-emailextractor/, 40
http://a-parser.com/resources/21/, 39
http://a-parser.com/threads/1809/, 35
http://a-parser.com/threads/4253/, 32
Output delle pagine dei risultati organici in CSV
Formato del risultato:
[% FOREACH organic_page;
tools.CSVline(pages, keys);
END %]
Esempio di risultato:
http://a-parser.com/, 315
http://a-parser.com/wiki/parsers/, 115
http://a-parser.com/a-parser-for-e-commerce/, 56
http://a-parser.com/wiki/js-parsers/, 44
http://a-parser.com/wiki/html-emailextractor/, 40
http://a-parser.com/resources/21/, 39
http://a-parser.com/threads/1809/, 35
http://a-parser.com/threads/4253/, 32
Dump delle pagine dei risultati organici in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.organic = [];
FOREACH item IN p1.organic_pages;
obj.organic.push({
pages = item.pages
keys = item.keys
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"query": "avito.ru",
"organic": [
{
"keys": "4652",
"pages": "http://avito.ru/"
},
{
"keys": "4563",
"pages": "http://avito.ru/moskva/avtomobili"
},
{
"keys": "4484",
"pages": "http://avito.ru/moskva/kvartiry/sdam-ASgBAgICAUSSA8gQ"
}
]
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Output degli annunci nel contesto
Formato del risultato:
$ads_context.format('$aheader, $atext, $acount\n')
Esempio di risultato:
Riparazione PC e Laptop a Mosca, a domicilio! Dal 2015 su Avito – Status Bronzo. Ricezione richieste 24/7! · Computer & Laptop. Tablet & Smartphone. Router & WI - FI, 38658
Prenota una camera su Avito. In viaggio insieme ad Avito, Hotel e alberghi - molte offerte apposta per te. Ora su Avito., 20122
Trova lavoro nella città di Mosca. Su Avito Lavoro, Nuove offerte di lavoro nella città di Mosca. Avito - servizio di annunci n. 1 in Russia!, 20110
Output degli annunci nel contesto in CSV
Formato del risultato:
[% FOREACH ads_context;
tools.CSVline(aheader, atext, acount);
END %]
Esempio di risultato:
Riparazione PC e Laptop a Mosca","a domicilio! Dal 2015 su Avito – Status Bronzo. Ricezione richieste 24/7! · Computer & Laptop. Tablet & Smartphone. Router & WI - FI",38658
"Prenota una camera su Avito. In viaggio insieme ad Avito","Hotel e alberghi - molte offerte apposta per te. Ora su Avito.",20122
"Trova lavoro nella città di Mosca. Su Avito Lavoro","Nuove offerte di lavoro nella città di Mosca. Avito - servizio di annunci №1 n. 1 in Russia!",20110
"Cani su Avito. Compra o adotta gratuitamente.","Centinaia di migliaia di annunci. Fai affari vantaggiosi in tutta la Russia con l'aiuto di Avito!",17306
Dump degli annunci nel contesto in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.ads = [];
FOREACH item IN p1.ads_context;
obj.ads.push({
header = item.aheader
text = item.atext
count = item.acount
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"ads": [
{
"count": "38658",
"text": "a domicilio! Dal 2015 su Avito – Status Bronzo. Ricezione richieste 24/7! · Computer & Laptop. Tablet & Smartphone. Router & WI - FI",
"header": "Riparazione PC e Laptop a Mosca"
},
{
"count": "20122",
"text": "Hotel e alberghi - molte offerte apposta per te. Ora su Avito.",
"header": "Prenota una camera su Avito. In viaggio insieme ad Avito"
},
{
"count": "20110",
"text": "Nuove offerte di lavoro nella città di Mosca. Avito - servizio di annunci №1 n. 1 in Russia!",
"header": "Trova lavoro nella città di Mosca. Su Avito Lavoro"
}
],
"query": "avito.ru"
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Output dei concorrenti nel contesto
Formato del risultato:
$comp_context.format('$link, $common, $req, $ads\n')
Esempio di risultato:
http://uslugi.yandex.ru, 340399, 11188812, 30632
http://superjob.ru, 180179, 885168, 19065
http://mvideo.ru, 174070, 2840150, 344731
http://pleer.ru, 166815, 2577993, 238284
http://ru.jobsora.com, 124103, 596184, 99781
http://citilink.ru, 114529, 1903350, 94937
http://goods.ru, 113373, 2684645, 328750
http://pokupki.market.yandex.ru, 81527, 2657498, 326255
Output dei concorrenti nel contesto in CSV
Formato del risultato:
[% FOREACH comp_context;
tools.CSVline(link, common, req, ads);
END %]
Esempio di risultato:
http://uslugi.yandex.ru, 340399, 11188812, 30632
http://superjob.ru, 180179, 885168, 19065
http://mvideo.ru, 174070, 2840150, 344731
http://pleer.ru, 166815, 2577993, 238284
http://ru.jobsora.com, 124103, 596184, 99781
http://citilink.ru, 114529, 1903350, 94937
http://goods.ru, 113373, 2684645, 328750
http://pokupki.market.yandex.ru, 81527, 2657498, 326255
Dump dei concorrenti nel contesto in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.competitors = [];
FOREACH item IN p1.comp_context;
obj.competitors.push({
link = item.link
common = item.common
req = item.req
ads = item.ads
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"query": "avito.ru",
"competitors": [
{
"ads": "30632",
"link": "http://uslugi.yandex.ru",
"req": "11188812",
"common": "340399"
},
{
"ads": "19065",
"link": "http://superjob.ru",
"req": "885168",
"common": "180179"
},
{
"ads": "344731",
"link": "http://mvideo.ru",
"req": "2840150",
"common": "174070"
},
]
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Output delle query del sito nel contesto
Formato del risultato:
$wreq_context.format('$request, $freq, $va_freq, $pos, $placement, $price\n')
Esempio di risultato:
lavoro a chelyabinsk, 202530, 40163, 3, Spec., 4
algebra 8 classe dorofeev, 217307, 18467, 2, Gar., 2
far cry 3, 113266, 23218, 5, Gar., 3
lavoro a barnaul, 128775, 26402, 3, Spec., 4
harry potter e la camera dei segreti film 2002, 36482, 30450, 2, Gar., 5
mazda 6, 554463, 25248, 6, Gar., 19
assassin s creed, 535915, 29419, 5, Gar., 5
avito ryazan, 325994, 137938, 3, Gar., 13
Output delle query del sito nel contesto in CSV
Formato del risultato:
[% FOREACH wreq_context;
tools.CSVline(request, freq, va_freq, pos, placement, price);
END %]
Esempio di risultato:
"lavoro a chelyabinsk",202530,40163,3,"Spec.",4
"algebra 8 classe dorofeev",217307,18467,2,"Gar.",2
"far cry 3",113266,23218,5,"Gar.",3
"lavoro a barnaul",128775,26402,3,"Spec.",4
"harry potter e la camera dei segreti film 2002",36482,30450,2,"Gar.",5
"mazda 6",554463,25248,6,"Gar.",19
"assassin s creed",535915,29419,5,"Gar.",5
"avito ryazan",325994,137938,3,"Gar.",13
"avito regione di ryazan",72077,19586,2,"Gar.",20
Dump delle query del sito nel contesto in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.query = query;
obj.wreq = [];
FOREACH item IN p1.wreq_context;
obj.wreq.push({
request = item.request
freq = item.freq
va_freq = item.va_freq
pos = item.pos
placement = item.placement
price = item.price
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[
{
"query": "avito.ru",
"wreq": [
{
"request": "lavoro a chelyabinsk",
"placement": "Spec.",
"freq": "202530",
"va_freq": "40163",
"price": "4",
"pos": "3"
},
{
"request": "algebra 8 classe dorofeev",
"placement": "Gar.",
"freq": "217307",
"va_freq": "18467",
"price": "2",
"pos": "2"
},
{
"request": "far cry 3",
"placement": "Gar.",
"freq": "113266",
"va_freq": "23218",
"price": "3",
"pos": "5"
}
]
}
]
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Impostazioni possibili
| Parametro | Valore predefinito | Descrizione |
|---|---|---|
| Search DB | Yandex Moscow | Scelta del database di ricerca |
| Cookie "userlogin=" | In questo campo è necessario indicare il valore del cookie userlogin, prelevato dal browser dopo l'autorizzazione |