Ga naar de hoofdinhoud

Net::DNS - scraper resolvet domeinen naar IP-adressen

Overzicht van de scraper

Overzicht van de scraperNet::DNSNet::DNS – verzamelt DNS-records van een domeinnaam. Geautomatiseerde massale resolving van een domeindatabase, controle van domeinbeschikbaarheid.

De functionaliteit van A-Parser maakt het mogelijk om instellingen voor de Net::DNS scraper op te slaan voor toekomstig gebruik (presets), extractieschema's in te stellen en nog veel meer.

Het opslaan van resultaten is mogelijk in de vorm en structuur die u nodig heeft, dankzij de ingebouwde krachtige sjabloon-engine Template Toolkit waarmee u extra logica op de resultaten kunt toepassen en gegevens in verschillende formaten kunt uitvoeren, waaronder JSON, SQL en CSV.

Verzamelde gegevens

  • Lijst met IP-adressen
  • Gebruikte DNS-server bij een succesvolle aanvraag
  • DNS-record van elk type (uitgevoerd als JSON, waardoor individuele parameters eenvoudig kunnen worden verkregen)

Toepassingen

  • Resolving van domeindatabases
  • Controle van domeinbeschikbaarheid

Query's

Als query's moet een lijst met domeinen worden opgegeven, bijvoorbeeld:

a-parser.com  
yandex.ru
google.com
vk.com
facebook.com
youtube.com

Varianten van resultaatweergave

A-Parser ondersteunt flexibele formattering van resultaten dankzij de ingebouwde sjabloon-engine Template Toolkit, waardoor resultaten in een willekeurige vorm kunnen worden weergegeven, evenals in gestructureerde formaten zoals CSV of JSON.

Standaard uitvoer

Resultaatformaat:

$query: $ip ($ips.format('$ip, '))\n

Het resultaat toont het domein en de bijbehorende IP-adressen:

youtube.com: 173.194.70.136 (173.194.70.136, 173.194.70.190, 173.194.70.93, 173.194.70.91, )  
google.com: 46.28.247.98 (46.28.247.98, 46.28.247.89, 46.28.247.84, 46.28.247.108, 46.28.247.119, 46.28.247.114, 46.28.247.88, 46.28.247.94, 46.28.247.99, 46.28.247.109, 46.28.247.93, 46.28.247.104, 46.28.247.113, 46.28.247.118, 46.28.247.123, 46.28.247.103, )
facebook.com: 173.252.110.27 (173.252.110.27, )
a-parser.com: 176.9.9.90 (176.9.9.90, )
vk.com: 87.240.143.244 (87.240.143.244, 87.240.131.120, )
yandex.ru: 93.158.134.11 (93.158.134.11, 213.180.193.11, 213.180.204.11, 77.88.21.11, 87.250.250.11, )

Opslaan in SQL-formaat

Resultaatformaat:

[% "INSERT INTO dns VALUES('" _ query _ "', '" _ ip _ "', '" _ ips.format('$ip, ') _ "')\n" %]

Voorbeeldresultaat:

INSERT INTO dns VALUES('vk.com', '87.240.190.67', '87.240.190.67, 87.240.190.72, 87.240.190.78, 93.186.225.208, 87.240.137.158, 87.240.139.194, ')
INSERT INTO dns VALUES('a-parser.com', '176.9.9.90', '176.9.9.90, ')
INSERT INTO dns VALUES('yandex.ru', '5.255.255.50', '5.255.255.50, 77.88.55.50, 77.88.55.88, 5.255.255.5, ')
INSERT INTO dns VALUES('facebook.com', '157.240.19.35', '157.240.19.35, ')
INSERT INTO dns VALUES('youtube.com', '172.217.171.238', '172.217.171.238, ')

Dump van resultaten in JSON

Algemeen resultaatformaat:

[% IF notFirst;
",\n";
ELSE;
notFirst = 1;
END;

obj = {};
obj.query = query;
obj.ips = p1.ips;

obj.json %]

Begintekst:

[

Eindtekst:

]

Voorbeeldresultaat:

[
{"ips":[{"ip":"176.9.9.90"}],"query":"http://a-parser.com/"},
{"ips":[{"ip":"172.217.173.78"}],"query":"http://google.com/"},
{"ips":[{"ip":"77.88.55.60"},{"ip":"77.88.55.66"},{"ip":"5.255.255.55"},{"ip":"5.255.255.60"}],"query":"http://yandex.ru/"},
{"ips":[{"ip":"172.217.25.14"}],"query":"http://youtube.com/"},
{"ips":[{"ip":"87.240.190.78"},{"ip":"93.186.225.208"},{"ip":"87.240.137.158"},{"ip":"87.240.139.194"},{"ip":"87.240.190.67"},{"ip":"87.240.190.72"}],"query":"http://vk.com/"},
{"ips":[{"ip":"157.240.196.35"}],"query":"http://facebook.com/"}
]
tip

Om de opties "Prepend text" en "Append text" beschikbaar te maken in de Taak-editor, moet u "More options" activeren.

Mogelijke instellingen

ParameterStandaardwaardeBeschrijving
DNS Servers208.67.220.220, 8.8.8.8Ondersteuning voor meerdere servers gescheiden door komma's
Not found is errorMaakt het mogelijk om valse antwoorden van DNS-servers te hercontroleren
Rotation typeConsistentlyMethode voor het selecteren van de volgende DNS-server (Opeenvolgend/Willekeurig)
Ban not working serversBan niet-werkende servers op basis van een heuristisch algoritme voor 20 minuten; als er nog maar één server over is, wordt deze niet verbannen
Query typeA - Address recordMaakt het mogelijk om het recordtype te kiezen