SE::Google::KeywordPlanner::SearchVolume - stima del volume di ricerca e altre metriche delle parole chiave da Google Keyword Planner

Panoramica dello scraper
SE::Google::KeywordPlanner::SearchVolume – scraper per valutare i volumi di ricerca delle parole chiave con Google Keyword Planner. Per l'utilizzo sono disponibili numerosi dati: numero medio di ricerche mensili, variazioni dei volumi trimestrali e annuali, offerta minima e massima, livello di concorrenza. Nelle impostazioni di scraping è possibile specificare la lingua, la posizione, la rete pubblicitaria e il periodo di campionamento dei dati. È disponibile anche la modalità batch, grazie alla quale con una singola richiesta al servizio è possibile ottenere dati per 10000 parole chiave contemporaneamente, accelerando così in modo significativo lo scraping.Grazie al funzionamento multithreading di A-Parser in combinazione con la modalità batch, la velocità di elaborazione delle query può raggiungere diverse decine di migliaia di query al minuto.
La funzionalità di A-Parser consente di salvare le impostazioni di scraping dello scraper SE::Google::KeywordPlanner::SearchVolume per un uso futuro (preset), impostare pianificazioni di scraping e molto altro.
Il salvataggio dei risultati è possibile nel formato e nella struttura necessari, grazie al potente motore di modelli integrato Template Toolkit che consente di applicare logica aggiuntiva ai risultati e di esportare i dati in vari formati, tra cui JSON, SQL e CSV.
Dati raccolti
- Numero medio di ricerche mensili per la parola chiave cercata
- Variazione trimestrale
- Variazione annuale
- Livello di concorrenza
- Offerte minime e massime
- Trend dei volumi di ricerca per il periodo selezionato
- Mese e anno
- Numero totale di query
- Numero di query solo da dispositivi mobili (non disponibile in modalità batch)
Funzionalità
- Supporto per l'autorizzazione tramite login-password o tramite l'inserimento di cookie e intestazioni
- Determinazione del grado di precisione di $volume - valore esatto/arrotondato
- Modalità batch supportata, attiva per impostazione predefinita
- Supporto multi-account (per selezionare l'account desiderato deve essere specificato il suo
ocid(uscid))
Casi d'uso
- Raccolta del numero medio di ricerche mensili, offerte minime e massime, valutazione della concorrenza
- Analisi dei trend
Configurazione
Esistono due opzioni per configurare lo scraper:
- specificare e-mail\password dell'account Keyword Planner
- autorizzarsi nel browser e copiare i valori necessari
Prestare attenzione al numero di thread. Si consiglia di specificare un numero ridotto di thread; lo scraping senza proxy è del tutto possibile.
Autorizzazione tramite e-mail e password
È necessario sovrascrivere le opzioni E-mail e Password, indicando i dati del proprio account Keyword Planner. Sull'account deve essere obbligatoramente creata una campagna.
Spoiler: (Soluzione) Login failed TypeError: Cannot read property '1' of null
In caso di questo errore, è necessario rimuovere il proprio account Google dal browser e accedere nuovamente.

Autorizzazione nel browser e inserimento delle intestazioni nello scraper
È necessario autorizzarsi nel browser al link https://ads.google.com/aw/keywordplanner/home, creare la prima campagna se non è stata creata in precedenza, prelevare i seguenti dati e inserirli nelle impostazioni dello scraper:
I cookie possono essere specificati in due modi:
- Specificare tutti i cookie nell'opzione All cookies
- Specificare i valori dai cookie per le opzioni __Secure-3PSID, __Secure-3PSIDTS (__Secure-3PSIDTS deve essere specificato se l'authuser sull'account è uguale a 0)
Altre intestazioni:
- Valore dell'intestazione x-framework-xsrf-token
- Valore del parametro ocid o uscid dall'URL
- Valore del parametro authuser dall'URL
Spoiler: Come trovare i parametri necessari


Query
Come query è necessario indicare le parole chiave, una per riga. Esempio di query:
coca-cola
parsing
peace
starlink
test
È supportata la modalità batch, che si attiva con l'opzione Bulk (packet) mode. In questa modalità, lo scraper invierà pacchetti di 10000 parole chiave nella richiesta al servizio. In questa modalità non vengono raccolti i dati sul numero di query da dispositivi mobili ($trends.$i.mobile). La modalità batch è attiva per impostazione predefinita.
Sostituzioni nelle query
È possibile utilizzare le macro integrate per la sostituzione automatica di sotto-query da file; ad esempio, se vogliamo aggiungere a ogni query un elenco di altre parole, indichiamo alcune query principali:
fantasy
tower defense
rpg
Nel formato delle query indichiamo la macro di sostituzione di parole aggiuntive dal file keywords.txt; questo metodo consente di aumentare esponenzialmente la variabilità delle query:
{subs:keywords} $query
Questa macro creerà tante query aggiuntive quante sono presenti nel file per ogni query di ricerca originale, il che risulterà in [numero di query originali] x [numero di query nel file Keywords] = [numero totale di query] come risultato del lavoro della macro.
Ad esempio, se il file keywords.txt contiene:
free
online
Alla fine, la macro di sostituzione trasformerà le 3 query principali in 6:
free fantasy
online fantasy
free tower defense
online tower defense
free rpg
online rpg
Esempi di output dei risultati
A-Parser supporta la formattazione flessibile dei risultati grazie al motore di modelli integrato Template Toolkit, che gli consente di produrre risultati in forma libera o strutturata, come CSV o JSON
Output predefinito
Formato del risultato:
$query: $volume\n
Esempio di risultato con l'output della parola chiave e del suo numero medio di ricerche mensili:
coca-cola: 3350000
parsing: 165000
peace: 673000
starlink: 1830000
test: 7480000
Output in tabella CSV
Formato generale del risultato:
[% tools.CSVline(query, p1.volume, p1.min_bid, p1.max_bid) %]
Nome del file:
$datefile.format().csv
Testo iniziale:
Keyword,Volume,"Min bid","Max bid"
Nel Formato generale dei risultati viene utilizzato il motore di modelli Template Toolkit e lo strumento tools.CSVline per l'output dei dati.
Nel nome del file dei risultati è sufficiente cambiare l'estensione del file in csv.
Affinché l'opzione "Prepend text" sia disponibile nell'Editor delle attività, è necessario attivare "More options". In "Prepend text" scriviamo i nomi delle colonne separati da virgola e lasciamo la seconda riga vuota.
Salvataggio in formato SQL
Formato del risultato:
[% "INSERT INTO volumes VALUES('" _ query _ "', '" _ volume _ "')\n" %]
Esempio di risultato:
INSERT INTO volumes VALUES('profumo', '50000')
INSERT INTO volumes VALUES('eyfel perfume', '5000')
INSERT INTO volumes VALUES('memo marfa', '5000')
Dump dei risultati in JSON
Formato comune del risultato:
[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;
obj = {};
obj.keyword = query;
obj.volume = p1.volume;
obj.json %]
Testo iniziale:
[
Testo finale:
]
Esempio di risultato:
[{"keyword":"profumo","volume":"50000"},
{"keyword":"eyfel perfume","volume":"5000"},
{"keyword":"memo marfa","volume":"5000"}]
Maggiori dettagli sull'output dei risultati in JSON sono descritti in questo articolo.
Impostazioni possibili
| Parametro | Valore predefinito | Descrizione |
|---|---|---|
| All cookies | Specifica di tutti i cookie | |
| Cookie "__Secure-3PSID" | Cookie "__Secure-3PSID" | |
| Cookie "__Secure-3PSIDTS" | Cookie "__Secure-3PSIDTS" | |
| Header "x-framework-xsrf-token" | Intestazione "x-framework-xsrf-token" | |
| Url parameter "ocid"("uscid") | Parametro "ocid"("uscid") | |
| Url parameter "authuser" | 0 | Parametro "authuser" |
| E-mail per l'autorizzazione in Keyword Planner | ||
| Password | Password per l'autorizzazione in Keyword Planner | |
| Recovery e-mail | E-mail per il recupero dell'accesso | |
| Browser headless (debug auth) | ☑ | Modalità headless per il browser utilizzato per l'autorizzazione tramite login-password |
| Log Login Screenshot (debug auth) | ☐ | Creazione di uno screenshot della pagina di autorizzazione e output nel log dell'attività |
| Date from | Last 12 months | Data da |
| Date to | Last 12 months | Data a |
| Language | English | Lingua |
| Search networks | Google | Rete di ricerca |
| Location code | Località (qui è necessario indicare l'ID della località, reperibile dalla prima colonna di questa tabella (copia)) | |
| Delete created plan | ☑ | Elimina il piano creato |
| Bulk (packet) mode | ☑ | Attivazione della modalità batch |