Chuyển đến nội dung chính

SE::Dogpile - Công cụ cào dữ liệu kết quả tìm kiếm Dogpile

img

Tổng quan về công cụ cào dữ liệu​

Công cụ cào dữ liệu kết quả tìm kiếm Dogpile. Nhờ công cụ cào dữ liệu SE::Dogpile, bạn có thể nhận được các cơ sở dữ liệu liên kết lớn sẵn sàng để sử dụng tiếp. Bạn có thể sử dụng các truy vấn ở cùng định dạng mà bạn nhập vào thanh tìm kiếm của Dogpile, bao gồm các toán tử tìm kiếm (url, language, site, v.v.).

Tính năng của A-Parser cho phép lưu các cài đặt cào dữ liệu của công cụ cào dữ liệu Dogpile để sử dụng sau này (mẫu thiết lập sẵn), đặt lịch trình cào dữ liệu và nhiều tính năng khác. Bạn có thể sử dụng tính năng tự động nhân bản truy vấn, thay thế các truy vấn phụ từ tệp, lặp qua các tổ hợp chữ cái-số và danh sách để nhận được số lượng kết quả tối đa có thể.

Việc lưu kết quả có thể thực hiện ở bất kỳ định dạng và cấu trúc nào bạn cần, nhờ vào bộ tạo mẫu mạnh mẽ được tích hợp sẵn Template Toolkit cho phép áp dụng logic bổ sung cho kết quả và xuất dữ liệu ở nhiều định dạng khác nhau, bao gồm JSON, SQL và CSV.

Dữ liệu thu thập được​

  • Các liên kết, văn bản neo (anchor) và đoạn trích (snippet) từ kết quả tìm kiếm
  • Danh sách các từ khóa liên quan (Related keywords)
Dữ liệu thu thập được

Tính năng​

  • Cào số lượng kết quả tối đa mà Dogpile cung cấp - 50 trang, mỗi trang 10 mục trong kết quả tìm kiếm
  • Tổng số lượng kết quả - 500
  • Khả năng tìm kiếm các từ khóa liên quan

Ứng dụng​

  • Thu thập cơ sở dữ liệu liên kết - cho A-Poster, XRumer, AllSubmitter, v.v.
  • Đánh giá cạnh tranh cho từ khóa
  • Tìm kiếm backlink (lượt nhắc đến) của các trang web
  • Kiểm tra lập chỉ mục của các trang web
  • Tìm kiếm các trang web có lỗ hổng bảo mật
  • Bất kỳ phương án nào khác liên quan đến việc cào dữ liệu Dogpile dưới hình thức này hay hình thức khác

Truy vấn​

Trong phần truy vấn, bạn cần chỉ định các cụm từ tìm kiếm, giống hệt như khi bạn nhập chúng trực tiếp vào biểu mẫu tìm kiếm của Dogpile, ví dụ:

test
parser language: ru
site: a-parser.com
site: slideshare.net Java Developer gmail.com resume -sample -samples -example -templates

Thay thế truy vấn​

Bạn có thể sử dụng các macro tích hợp sẵn để nhân bản truy vấn, ví dụ: chúng ta muốn có một cơ sở dữ liệu diễn đàn rất lớn, hãy chỉ định một vài truy vấn chính bằng các ngôn ngữ khác nhau:

forum
diễn đàn
foro
论坛

Trong định dạng truy vấn, chúng ta chỉ định lặp qua các ký tự từ a đến zzzz, phương pháp này cho phép xoay vòng kết quả tìm kiếm tối đa và nhận được nhiều kết quả mới duy nhất:

$query {az:a:zzzz}

Macro này sẽ tạo ra 475254 truy vấn bổ sung cho mỗi truy vấn tìm kiếm gốc, tổng cộng sẽ cho ra 4 x 475254 = 1901016 truy vấn tìm kiếm, một con số ấn tượng, nhưng điều này hoàn toàn không phải là vấn đề đối với A-Parser. Với tốc độ 2000 truy vấn mỗi phút, tác vụ này sẽ được xử lý chỉ trong vòng 16 giờ.

Sử dụng các toán tử​

Bạn có thể sử dụng các toán tử tìm kiếm trong định dạng truy vấn, theo cách này nó sẽ tự động được thêm vào mỗi truy vấn từ danh sách của bạn:

site:$query

Các ví dụ về định dạng kết quả​

A-Parser hỗ trợ định dạng kết quả linh hoạt nhờ bộ tạo mẫu tích hợp Template Toolkit, cho phép xuất kết quả ở dạng tùy ý, cũng như ở dạng có cấu trúc như CSV hoặc JSON

Xuất danh sách liên kết​

Tương tự như trong SE::Google.

Tương tự như trong SE::Google.

Tương tự như trong SE::Google.

Tương tự như trong SE::Google.

Kiểm tra lập chỉ mục các liên kết​

Tương tự như trong SE::Google.

Lưu ở định dạng SQL​

Tương tự như trong SE::Google.

Xuất kết quả sang JSON​

Tương tự như trong SE::Google.

Xử lý kết quả​

A-Parser cho phép xử lý kết quả trực tiếp trong quá trình cào dữ liệu, trong phần này chúng tôi đưa ra các trường hợp phổ biến nhất cho công cụ cào dữ liệu Dogpile

Tương tự như trong SE::Google.

Tương tự như trong SE::Google.

Trích xuất tên miền​

Tương tự như trong SE::Google.

Loại bỏ thẻ khỏi văn bản neo và đoạn trích​

Tương tự như trong SE::Google.

Tương tự như trong SE::Google.

Các cài đặt có thể​

ghi chú

Cài đặt chung cho tất cả các công cụ cào dữ liệu

Tên tham sốGiá trị mặc địnhMô tả
Pages count10Số lượng trang để cào dữ liệu (từ 1 đến 50)
Bypass CloudFlare with Chrome☑Tự động vượt qua kiểm tra CloudFlare
Bypass CloudFlare with Chrome Max Pages10Số trang tối đa khi vượt CF qua Chrome
Bypass CloudFlare with Chrome Headless☑Nếu tùy chọn này được bật, trình duyệt sẽ không hiển thị trong khi vượt CF qua Chrome