SE::Brave - Scraper dei risultati di ricerca Brave

Panoramica dello scraper
Lo scraper della SERP di Brave consente di raccogliere dati dal motore di ricerca in rapida crescita orientato alla privacy. Grazie ad esso, potrai ottenere database di link pronti per un ulteriore utilizzo. Puoi utilizzare le query nello stesso formato in cui le inserisci in Brave, inclusi gli operatori di ricerca.
Grazie al funzionamento in multithreading di A-Parser, la velocità di elaborazione delle query può essere molto elevata, consentendo di gestire grandi volumi di dati in breve tempo.
La funzionalità di A-Parser permette di salvare le impostazioni di scraping per un uso futuro (preset), impostare pianificazioni di scraping e molto altro. Puoi utilizzare la moltiplicazione delle query, la sostituzione di sotto-query da file, l'iterazione di combinazioni alfanumeriche e liste per ottenere il massimo numero possibile di risultati.
Il salvataggio dei risultati è possibile nel formato e nella struttura necessari, grazie al potente motore di modelli integrato Template Toolkit che consente di applicare logica aggiuntiva ai risultati e di esportare i dati in vari formati, tra cui JSON, SQL e CSV.
Dati raccolti
- Link, anchor e snippet dalla SERP, oltre alla data dello snippet (se presente)
- Elenco di parole chiave correlate (Related keywords)
Funzionalità
- supporto per tutti gli operatori di ricerca di Brave (site:, inurl:, ecc.)
- specifica del numero di pagine (da 1 a 10), in media Brave restituisce circa 10 risultati per pagina
- specifica della regione dei risultati e della lingua dell'interfaccia della pagina ottenuta
- possibilità di ottenere risultati locali precisi, supporta la determinazione della posizione tramite IP o specifica esatta
- possibilità di scegliere il tipo di risultati: oltre alla ricerca organica principale, lo scraper di Brave può raccogliere risultati di notizie o video
- supporta la specifica del periodo dei risultati (tutto il tempo o un intervallo specifico da 24 ore a un anno)
- supporto per le sessioni
Casi d'uso
- Raccolta di database di link - per XRumer, AllSubmitter, GSA Ranker, ecc.
- Dump della SERP, inclusi link, anchor e snippet, consente analisi approfondite per specialisti SEO e marketer.
- Ricerca di backlink e menzioni di siti
- Qualsiasi altro scenario che implichi l'ottenimento di risultati di ricerca per un numero illimitato di query
Query
Come query è necessario indicare frasi di ricerca, esattamente come se venissero inserite direttamente nel modulo di ricerca di Brave, ad esempio:
acquisto auto
finestre a Milano
site:https://lenta.ru
inurl:guestbook
Sostituzioni nelle query
Puoi utilizzare i macro integrati per moltiplicare le query; ad esempio, se vogliamo ottenere un database molto grande di forum, indicheremo alcune query di base in diverse lingue:
forum
forum
foro
论坛
Nel formato della query indicheremo l'iterazione dei caratteri da a a zzzz, questo metodo permette di ruotare al massimo i risultati di ricerca e ottenere molti nuovi risultati unici:
$query {az:a:zzzz}
Questo macro creerà 475254 query aggiuntive per ogni query di ricerca iniziale, il che darà un totale di 4 x 475254 = 1901016 query di ricerca; una cifra impressionante, ma non è affatto un problema per A-Parser. Con una velocità di 2000 query al minuto, tale attività verrà elaborata in sole 16 ore.
Utilizzo degli operatori
Puoi utilizzare gli operatori di ricerca nel formato della query, in questo modo verranno aggiunti automaticamente a ogni query della tua lista, ad esempio:
inurl:$query
Esempi di output dei risultati
A-Parser supporta la formattazione flessibile dei risultati grazie al motore di modelli integrato Template Toolkit, che gli consente di produrre risultati in forma arbitraria o strutturata, come CSV o JSON
Esportazione di un elenco di link
Formato del risultato:
$serp.format('$link\n')
Esempio di risultato:
https://www.mobile.de/ru
https://auto.drom.ru/
https://autospot.ru/brands/
https://www.destacar.de/
https://www.autoscout24.de/auto/gebrauchtwagen/bayern/falkenstein/
https://www-autoservice-falkenstein.skoda-auto.de/?e=7
https://auto.ru/
https://www.autohaus-schueler.de/
https://www.avtogermes.ru/sale/
https://falkenstein.seat.de/
...
Link + anchor + snippet con output della posizione
Formato del risultato:
[% FOREACH item IN serp;
loop.count _ ' - ' _ item.link _ ' - ' _ item.anchor _ ' - ' _ item.snippet _ "\n";
END %]
Esempio di risultato:
1 - https://www.mobile.de/ru - mobile.de: auto usate — annunci di ... - mobile.de/ru fa parte di mobile.de, il più grande mercato automobilistico della Germania. mobile.de semplifica l'acquisto di un'auto. Con una semplice ricerca e pochi clic, ottieni una panoramica completa del mercato.
2 - https://auto.drom.ru/ - Vendita di auto in Russia. Usate... - 775 361 annunci di vendita auto. Vendita di auto nuove e usate da 10 000 rubli. Concessionarie e annunci privati.
3 - https://www.destacar.de/ - Auto dalla Germania su ordinazione | ... - L'azienda Destacar è sempre pronta ad aiutarti nella ricerca, selezione, ispezione e acquisto di un'auto in Germania. Ti aiuteremo a comprare un'auto usata in Germania, effettueremo l'ispezione e il test drive affinché tu sia completamente sicuro dello stato della tua auto.
4 - https://autospot.ru/brands/ - Comprare un'auto a Mosca: prezzi su ... - ✸ Selezione auto per parametri a Mosca: prezzi nel catalogo auto Autospot. ✸ Catalogo auto con prezzi e caratteristiche tecniche - vendita da concessionari ufficiali.
5 - https://www.autoscout24.de/auto/gebrauchtwagen/bayern/falkenstein/ - Gebrauchtwagen Falkenstein: Auto günstig kaufen - Gebrauchtwagen & Jahreswagen in Falkenstein kaufen und verkaufen bei AutoScout24.de - Europas großem Automarkt » Jetzt finden oder inserieren!
6 - https://www-autoservice-falkenstein.skoda-auto.de/?e=7 - ŠKODA Gebrauchtwagen in Falkenstein | Auto-Service Falkenstein GmbH - ŠKODA Gebrauchtwagen in Falkenstein | Auto-Service Falkenstein GmbH ✔ Günstig finanzieren ✔ Beste ŠKODA Vorführwagen und Jahreswagen ✔ ŠKODA gebraucht kaufen ✔ Probefahrt vereinbaren
7 - https://auto.ru/ - Auto.ru: comprare, vendere e scambiare ... - Questo sito opera in conformità con la legislazione della Federazione Russa e non è destinato all'uso nella tua regione. Continuando a utilizzare il sito, ...
8 - https://www.autohaus-schueler.de/ - Ihr Audi und VW Autohaus Schüler in Falkenstein - Ihr Autohaus Schüler in Falkenstein, Oelsnitz, Plauen & Wilkau-Hasslau - Wir bieten ein großes Angebot an Neu- und Gebrauchtwagen, Audi & VW Service.
...
Output di link, anchor e snippet in una tabella CSV
L'utility integrata $tools.CSVLine consente di creare documenti tabulari corretti, pronti per l'importazione in Excel o Google Fogli.
Formato generale del risultato:
[% FOREACH item IN p1.serp;
tools.CSVline(item.link, item.anchor, item.snippet);
END %]
Nome del file:
$datefile.format().csv
Testo iniziale:
Link,Anchor,Snippet
Esempio di risultato:
Link,Anchor,Snippet
https://www.mobile.de/ru,"mobile.de: auto usate — annunci di ...","mobile.de/it fa parte di mobile.de, il più grande mercato automobilistico della Germania. mobile.de semplifica l'acquisto di un'auto. Con una semplice ricerca e pochi clic, ottieni una panoramica completa del mercato."
https://auto.drom.ru/,"Vendita di auto in Russia. Usate...","775 361 annunci di vendita auto. Vendita di auto nuove e usate da 10 000 rubli. Concessionarie e annunci privati."
https://www.destacar.de/,"Auto dalla Germania su ordinazione | ...","L'azienda Destacar è sempre pronta ad aiutarti nella ricerca, selezione, ispezione e acquisto di un'auto in Germania. Ti aiuteremo a comprare un'auto usata in Germania, effettueremo l'ispezione e il test drive affinché tu sia completamente sicuro dello stato della tua auto."
https://autospot.ru/brands/,"Comprare un'auto a Mosca: prezzi su ...","✸ Selezione auto per parametri a Mosca: prezzi nel catalogo auto Autospot. ✸ Catalogo auto con prezzi e caratteristiche tecniche - vendita da concessionari ufficiali."
https://www.autoscout24.de/auto/gebrauchtwagen/bayern/falkenstein/,"Gebrauchtwagen Falkenstein: Auto günstig kaufen","Gebrauchtwagen & Jahreswagen in Falkenstein kaufen und verkaufen bei AutoScout24.de - Europas großem Automarkt » Jetzt finden oder inserieren!"
https://www-autoservice-falkenstein.skoda-auto.de/?e=7,"ŠKODA Gebrauchtwagen in Falkenstein | Auto-Service Falkenstein GmbH","ŠKODA Gebrauchtwagen in Falkenstein | Auto-Service Falkenstein GmbH ✔ Günstig finanzieren ✔ Beste ŠKODA Vorführwagen und Jahreswagen ✔ ŠKODA gebraucht kaufen ✔ Probefahrt vereinbaren"
https://auto.ru/,"Auto.ru: comprare, vendere e scambiare ...","Questo sito opera in conformità con la legislazione della Federazione Russa e non è destinato all'uso nella tua regione. Continuando a utilizzare il sito, ..."
https://www.autohaus-schueler.de/,"Ihr Audi und VW Autohaus Schüler in Falkenstein","Ihr Autohaus Schüler in Falkenstein, Oelsnitz, Plauen & Wilkau-Hasslau - Wir bieten ein großes Angebot an Neu- und Gebrauchtwagen, Audi & VW Service."
...
Nel Formato generale dei risultati viene applicato il motore di modelli Template Toolkit per l'output dell'array $serp in un ciclo FOREACH.
Nel nome del file dei risultati è sufficiente cambiare l'estensione del file in csv.
Affinché l'opzione "Prepend text" sia disponibile nell'Editor delle attività, è necessario attivare "More options". In "Prepend text" scriviamo i nomi delle colonne separati da virgola e lasciamo la seconda riga vuota.
Salvataggio delle parole chiave correlate
Formato del risultato:
$related.format('$key\n')
Esempio di risultato:
test speed
ookla speed test
speed test wifi
internet speed test
run speed test
fast speed test
mbps test
test 2
test match
google speed test
...
Salvataggio in formato SQL
Formato del risultato:
[% FOREACH serp;
"INSERT INTO serp VALUES('" _ query _ "', '";
link _ "', '";
anchor _ "')\n";
END %]
Esempio di risultato:
INSERT INTO serp VALUES('test', 'https://www.speedtest.net/', 'Speedtest by Ookla - The Global Broadband Speed Test')
INSERT INTO serp VALUES('test', 'https://www.merriam-webster.com/dictionary/test', 'TEST Definition & Meaning - Merriam-Webster')
INSERT INTO serp VALUES('test', 'https://englishtest.duolingo.com/', 'Duolingo English Test')
INSERT INTO serp VALUES('test', 'https://link.springer.com/journal/11749', 'Home | TEST | Springer Nature Link')
INSERT INTO serp VALUES('test', 'https://test.io/', 'Home | Test IO')
INSERT INTO serp VALUES('test', 'https://www.spectrum.com/internet/speed-test', 'Spectrum Internet Speed Test: Broadband Internet Speed Check')
INSERT INTO serp VALUES('test', 'https://fast.com/', 'Internet Speed Test | Fast.com')
INSERT INTO serp VALUES('test', 'https://en.wikipedia.org/wiki/Test', 'Test - Wikipedia')
...
Dump dei risultati in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.results = [];
FOREACH item IN p1.serp;
obj.results.push({
link = item.link
anchor = item.anchor
snippet = item.snippet
});
END;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
{"results":[{"link":"https://www.speedtest.net/","snippet":"Use Speed<strong>test</strong> on all your devices with our free desktop and mobile apps.","anchor":"Speedtest by Ookla - The Global Broadband Speed Test"},{"link":"https://www.merriam-webster.com/dictionary/test","snippet":"The meaning of TEST is <strong>a means of testing</strong>. How to use test in a sentence.","anchor":"TEST Definition & Meaning - Merriam-Webster"},{"link":"https://englishtest.duolingo.com/","snippet":"The Duolingo English Test is a fast, affordable online English exam accepted by institutions worldwide. Take it anytime and get results in 2 days","anchor":"Duolingo English Test"},{"link":"https://link.springer.com/journal/11749","snippet":"Journal TEST <strong>focuses on cutting-edge research in all areas of Statistics and Probability with significant theoretical, methodological, and applied impact</strong>. ...","anchor":"Home | TEST | Springer Nature Link"},{"link":"https://test.io/","snippet":"Test IO delivers a full range of web, mobile, and IoT <strong>test</strong>ing, delivered as a service.","anchor":"Home | Test IO"},{"link":"https://www.spectrum.com/internet/speed-test","snippet":"Test your broadband Internet and WiFi speed with the Internet Speed Test. Check your upload and download speeds for your home Internet network.","anchor":"Spectrum Internet Speed Test: Broadband Internet Speed Check"},{"link":"https://fast.com/","snippet":"FAST.com will <strong>test</strong> Internet speed globally on any device (phone, laptop, or smart TV with browser).","anchor":"Internet Speed Test | Fast.com"},{"link":"https://en.wikipedia.org/wiki/Test","snippet":"Look up test, testing, Test, or TEST in Wiktionary, the free dictionary. ... Test (assessment), <strong>an educational assessment intended to measure the respondents' knowledge or other abilities</strong> ... Test., abbreviation for Testament, referring to the Old Testament and New Testament of the Christian Bible.","anchor":"Test - Wikipedia"},{"link":"https://speed.cloudflare.com/","snippet":"Test your Internet connection. Check your network performance with our Internet speed <strong>test</strong>. Powered by Cloudflare's global edge network.","anchor":"Internet Speed Test - Measure Network Performance | Cloudflare"},{"link":"https://testmy.net/","snippet":"TestMy.net is a powerful broadband speed <strong>test</strong> that will <strong>test</strong> your Internet, calculate your transfer rate and output accurate, reliable and easy to understand results. TestMy.net is an independent third party and is not affiliated with your Internet service provider.","anchor":"Internet Speed Test"},{"link":"https://www.livechat.com/typing-speed-test/","snippet":"The faster you type, the faster you communicate with others. With our free typing speed <strong>test</strong>, you can check your WPM and CPM typing scores in a flash!","anchor":"Free Typing Test - Check Your Typing Speed in 60 Seconds | LiveChat ..."},{"link":"https://fiber.google.com/speedtest/","snippet":"Test your current internet speed, and find out how fast your broadband wi-fi handles uploads and downloads. See Google Fiber plan options for faster internet.","anchor":"Internet Speed Test | Check Broadband Speed | Google Fiber"},{"link":"https://zoom.us/test","snippet":"Preview your next Zoom Meeting using out <strong>test</strong> meeting tool to check your settings and display.","anchor":"Join a Test Meeting | Zoom"},{"link":"https://implicit.harvard.edu/implicit/takeatest.html","snippet":"On the next page, you'll be asked to select an Implicit Association Test (IAT) from a list of possible topics. We'll also ask you (optionally) to report your attitudes or beliefs about these topics and give you some information about yourself. We ask these questions because the IAT can be more valuable if you also describe your own self-understanding of the attitude or stereotype that the IAT measures.","anchor":"Take a Test"},{"link":"https://www.act.org/content/act/en/products-and-services/the-act.html","snippet":"The ACT <strong>test</strong> is a curriculum-based education and career planning tool for high school students that assesses the mastery of college readiness standards","anchor":"The ACT Test for Students | ACT"},{"link":"https://play.google.com/store/apps/details?id=org.zwanoo.android.speedtest&hl=en_US","snippet":"Test your download and upload speeds as well as three measures of latency to check a slow connection or use the app to make sure your network is ready for a gaming session. Use real-world data to find out where mobile network coverage is strong and weak for providers in your area with the Speed<strong>test</strong> Maps tab.","anchor":"Speedtest by Ookla - Apps on Google Play"},{"link":"https://speedtest.xfinity.com/","snippet":"Xfinity Speed Test – You need to enable JavaScript to run this app","anchor":"Xfinity Speed Test - Check Your Internet Speed"},{"link":"https://www.ada.org/education/testing/exams/dental-admission-test-dat","snippet":"Find out how to apply for, prepare for, take, and receive scores for the Dental Admission Test (DAT).","anchor":"Dental Admission Test (DAT) | American Dental Association"},{"link":"https://www.16personalities.com/free-personality-test","snippet":"Take our free personality <strong>test</strong> and discover your personality type in 10 minutes. Get a ‘freakishly accurate’ description of who you are and why you do things the way you do.","anchor":"Free personality test | 16Personalities"},{"link":"https://www.faa.gov/uas/recreational_flyers/knowledge_test_updates","snippet":"The law requires that all recreational flyers pass an aeronautical knowledge and safety <strong>test</strong> and provide proof of passage if asked by law enforcement or FAA personnel. The Recreational UAS Safety Test (TRUST) was developed to meet this requirement. TRUST provides education and <strong>test</strong>ing on important safety and regulatory information.","anchor":"The Recreational UAS Safety Test (TRUST) | Federal Aviation ..."}]}
Affinché le opzioni "Prepend text" e "Append text" siano disponibili nell'Editor delle attività, è necessario attivare "More options".
Impostazioni possibili
| Nome parametro | Valore predefinito | Descrizione |
|---|---|---|
| Serp type | All | Determina se eseguire lo scraping dei risultati generali (All), delle notizie (News) o dei video (Videos) |
| Pages count | 5 | Numero di pagine da sottoporre a scraping (da 1 a 10) |
| Region | All regions | Scelta del paese da cui viene effettuata la ricerca |
| Display language | English (United States) | Possibilità di scegliere la lingua dell'interfaccia della pagina dei risultati, per la massima identità tra i risultati nello scraper e nel browser |
| Safe search | Moderate | Possibilità di attivare la "Safe search" |
| Search time | Any | Periodo della SERP (ricerca dipendente dal tempo) |
| Local results | On (auto, from IP) | Ricerca locale, valori possibili: Off - disattivata, Auto - la posizione è determinata dall'IP della richiesta, Manual - viene utilizzata la posizione impostata in Manual location |
| Manual location | Campo per l'inserimento della posizione esatta, utilizzato solo quando Local results = Manual. La posizione deve essere indicata come coppia di coordinate separate da virgola nel formato latitudine,longitudine, ad esempio: 55.780844,37.6572693 |