Hoppa till huvudinnehåll

SecurityTrails::Ip - Samla domändata från SecurityTrails

img

Översikt av scrapern

SecurityTrails är världens största arkiv för historiska DNS-data. Data för säkerhetsföretag, forskare och team som behöver detaljera, hitta misstänkta ändringar i DNS-poster och förhindra framtida bedräglig eller kriminell verksamhet.

Funktionaliteten i A-Parser gör det möjligt att spara inställningar för dataskrapning för framtida bruk (förinställningar), schemalägga dataskrapning och mycket mer. Du kan använda automatisk multiplikation av frågor, ersättning av underfrågor från filer, generering av alfanumeriska kombinationer och listor för att få största möjliga mängd resultat.

Resultaten kan sparas i den form och struktur du behöver, tack vare den inbyggda kraftfulla mallmotorn Template Toolkit som gör det möjligt att tillämpa ytterligare logik på resultaten och exportera data i olika format, inklusive JSON, SQL och CSV.

Insamlade data

  • Domain
  • Hosting provider
  • Alexa rank
  • Mail provider

Funktioner

  • Auktorisering med användarnamn och lösenord
  • Automatisk genomgång av paginering
  • Export av resultat till CSV-tabell, JSON, SQLite-databas

Användningsfall

  • Hämta subdomäner per IP
  • Insamling av Alexa Rank för subdomäner
  • Hämta Hosting Provider
  • Hämta Mail Provider

Frågor

Som frågor bör ipv4-adresser anges:

172.217.164.174

Alternativ för resultatvisning

A-Parser stöder flexibel formatering av resultat tack vare den inbyggda mallmotorn Template Toolkit, vilket gör att den kan visa resultat i valfri form, såväl som i strukturerad form, till exempel CSV eller JSON.

Standardutdata

Resultatformat:

$list.format('$domain\n')

I resultatet visas subdomäner:

aalt158.gaming.youtube.com
o-o.preferred.ivanticsa177a.v20.cache.c.youtube.com
o-o.preferred.alt138-batelco-bah1.v24.lscache2.c.youtube.com
o-o.preferred.sigmarprd.v20.cache.c.youtube.com
thegameofpwns.io
o-o.preferred.orange-pfightmaster.v9.lscache4.c.youtube.com
o-o.preferred.kubectlivanticsa571.v20.cache.c.youtube.com
o-o.preferred.trial-one-my.v20.cache.c.youtube.com
o-o.preferred.activestc-ruh3.v2.lscache1.c.youtube.com
test.palaash.com
shoppe33.vip

Visning av alla data om subdomäner

Resultatformat:

$list.format('$domain, $host_provider, $alexa_rank, $mail_provider\n')

Exempel på resultat:

google.com, Google LLC, 4, Google LLC
developers.google.com, Google LLC, 40, none
earth.google.com, Google LLC, 640, none
uk.youtube.com, Google LLC, 1305, none

Export till CSV-tabell

Resultatformat:

[% FOREACH list; 
tools.CSVline(domain, host_provider, alexa_rank, mail_provider);
END %]

Exempel på resultat:

google.com,"Google LLC",4,"Google LLC"
developers.google.com,"Google LLC",40,none
earth.google.com,"Google LLC",640,none
uk.youtube.com,"Google LLC",1305,none

Dumpa resultat till JSON

Allmänt resultatformat:

[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;

obj = {};
obj.query = query;
obj.subdomains = [];

FOREACH item IN p1.list;
obj.subdomains.push({
domain = item.domain
alexa_rank = item.alexa_rank
host_provider = item.host_provider
mail_provider = item.mail_provider
});
END;

obj.json %]

Starttext:

[

Sluttext:

]

Exempel på resultat:

[
{
"query": "172.217.164.174",
"subdomains": [
{
"domain": "google.com",
"mail_provider": "Google LLC",
"host_provider": "Google LLC",
"alexa": 4
},
{
"domain": "developers.google.com",
"mail_provider": "none",
"host_provider": "Google LLC",
"alexa": 40
},
{
"domain": "earth.google.com",
"mail_provider": "none",
"host_provider": "Google LLC",
"alexa": 640
},
{
"domain": "uk.youtube.com",
"mail_provider": "none",
"host_provider": "Google LLC",
"alexa": 1305
}
]
}
]
tips

För att alternativen "Prepend text" och "Append text" ska vara tillgängliga i Task Editor, måste du aktivera "More options".

Möjliga inställningar

ParameterStandardvärdeBeskrivning
MethodNewVal av skrapningsmetod (New / Old / Account authorization)
LoginAnge inloggning
PasswordAnge lösenord