A-parser 1.1 - продвинутый парсер поисковых систем, suggest, pr, dmoz, whois, etc

Сборник рецептов #52: чекер e-mail, отзывы Wildberries и двойные ссылки в выдаче Google

52-й сборник рецептов, в котором опубликованы парсер для универсальной проверки e-mail, парсер отзывов из Wildberries и пресет для сбора двойных ссылок одного сайта из выдачи Google.

Универсальный чекер e-mail

Парсер для универсальной проверки почт. Делается проверка на валидность, на наличие MX записей и на существование почты.



Парсер отзывов Wildberries Reviews

Парсинг отзывов из Wildberries в CSV таблицу с возможностью задать локацию и необходимое кол-во отзывов.



Сбор двойных ссылок одного сайта из Google выдачи

Парсинг двойных ссылок одного сайта с первой страницы выдачи Google в CSV таблицу.




Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

Курс "Специалист по дропам и PBN с нуля до профи" используя A-Parser (+включает лицензию)

​

Наш хороший друг Николай Кодий (Дропы и PBN) запускает очередной набор на курс по подбору дропов и построению качественных сеток PBN, с применением A-Parser в качестве одного из основных инструментов.

Старт - 26 сентября.

Что это за обучение?
Практический курс, после которого вы научитесь и узнаете:

— какой софт нужен для поиска дропов, сколько он стоит, как продлевается и регится
— как правильно анализировать и выбирать дропы для себя и на продажу, чтобы не получить фуфло
— как строить PBN, что с ними делать дальше и как на них зарабатывать
— как с помощью знаний, которые он даёт, стать универсальным и востребованным специалистом по построению PBN под любые страны и тематики

Для кого это обучение?
— Для seo-мастеров, которые хотят продвигать сложные ниши в различных гео. Для тех, кто ищет новые методы линкбилдинга. Для тех, кто хочет в текущей компании повысить компетенции и доход
— Для тех, кто хочет освоить в новом году новую профессию. И стать специалистом в PBN

Больше нигде вы не получите такой системной и понятной теории, такого большого практического опыта и возможности смотреть и усваивать информацию на живых вебинарах с преподавателем, отвечающим именно на ваши вопросы.

Каждый из студентов бесплатно получает весь лицензионный софт (в том числе и A-Parser), необходимый для подбора дропов.

Подробнее о курсе читайте на ленде курса - Курс Николая Кодия по дропам и PBN — Курс для тех, кто хочет научиться новой профессии или развиваться в ней: повышать свои компетенции в PBN, работать с большими бюджетами и сложными проектами, упорядочить знания и узнать новые фишки

И на FB странице Николая - Николай Кодий

​

 

1.2.1661 - новые парсеры: Яндекс Балабоба и позиции в DuckDuckGo, улучшения во встроенных парсерах



Улучшения

• Добавлен парсер позиций DuckDuckGo: SE:: DuckDuckGo:: Position
• Добавлен парсер Яндекс Балабоба: SE::Yandex::Balaboba
• Реализована работа с XEvil через API Antigate v2
• Добавлена передача кук Google при включении опции ReCaptcha2 pass proxy в SE::Google
• Обновлен список доменов в SE::Yandex
• В связи с тем, что Яндекс теперь всегда выдает по 10 результатов на страницу, в SE::Yandex убран параметр Links per page
• В HTML::LinkExtractor и Check::BackLink добавлен сбор <a> тега
• В Shop::AliExpress добавлена поддержка сессий
• В HTML::EmailExtractor добавлена опция Skip meta tags, при ее включении указывает парсеру не собирать почты в meta тегах
• В парсере DeepL::Translator актуализирован список языков

Исправления в связи с изменениями в выдаче

• Исправлено определение опечатки по запросу в SE::Yandex
• SE::Yandex::WordStat - исправлена авторизация в режиме HTTP
• Исправлено определение рекламы в SE::Yandex:: Direct
• Исправлен Shop::Wildberries:: ProductsList при парсинге по ключевым словам
• SE::Baidu - исправлена работа в тех случаях, когда по запросу нет результатов
• SE::Google, SE::Yandex, SE::Bing, SE::Google::Images, Rank::MajesticSEO, Rank::MOZ, Shop::AliExpress, Shop::Amazon, SE:: Pinterest

Исправления

• Исправлен выбор региона в SE::Yandex
• Исправлена обработка url с кириллицей в PAA SE::Google
• Исправлена работа SE::Google::KeywordPlanner, в некоторых случаях парсер не видел ответ и ошибочно повторял попытки
• Исправлена ошибка логина в парсере SE::Yandex:: Direct
• В SE::Yandex::Register исправлен баг при отображении Яндексом ошибки о некорректном номере телефона или о других проблемах
• SE::Google::Translate - в некоторых случаях парсинг завершался с ошибкой
• Исправлен баг с ошибочным выводом результатов в Net::HTTP при сборе через регулярку, в случаях когда один запрос отработал успешно, а другой нет, и второй вывел результаты первого
• Исправлена ошибка с висящими процессами Chrome после завершения задания на Windows 11
• Исправлена доступность fs.constants

 

Сборник статей #16: вывод результатов в JSON, синхронизации файлов и SEO кейс продвижения сайта

Представляем 16-й сборник статей, в который вошли статья о вариантах вывода результатов в JSON виде, статья о синхронизации А-Парсеров на разных ПК с помощью Google Диск и SEO кейс продвижения сайта с выходом на иностранный рынок.

Обзор вариантов вывода результатов в JSON виде

Полный обзор всех возможных способов вывода результатов в JSON виде с примерами: вывод в JSON для одиночных запросов, формирование JSON построчно, формирование объекта в памяти и вывод результатов в JSON в конце работы задания.



Синхронизация А-Парсеров на разных ПК с помощью Google Диск (Google Drive)

В этой статье описывается как синхронизировать файлы А-Парсера, конфиги, все настройки которые вы сделали на одном ПК, с другим ПК.
В качестве инструмента будет использоваться простой и бесплатный Google Диск (Google Drive) с помощью которого вы можете хранить и передавать коллегам файлы и папки, а также работать над ними вместе с другими пользователями на компьютере или мобильном устройстве.



Как мы потратили 1 млн рублей для выхода на иностранный рынок SEO: кейс с расходами и результатами

Статья на vc.ru о том, как мы за 3 месяца вывели сайт с нуля в топ по Южной Африке. Делимся готовой пошаговой схемой быстрого вывода сайта на иностранный рынок, с данными по нагрузке сотрудников, расходами, таблицами и примерами ТЗ.
Для массовой проверки выдачи Google использовался Python и парсер A-Parser.
Кейсы по применению нашего парсера Google и его описание:
SE::Google: Парсер поисковой выдачи Google | Документация | A-Parser - парсер для SEO, маркетинга, разработчиков и SaaS



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники статей

 

Сборник рецептов #53: популярные запросы Google Trends, парсер yep.com и проверка домена в выдаче

53-й сборник рецептов, в котором собраны парсер популярных запросов за сутки на Google Trends, парсер yep.com и пресет для проверки на содержание доменов в выдаче.

Парсинг популярных запросов за сутки Google Trends

Парсер для сбора поисковых трендов за сутки с Гугл Трендс. Собираются дата, название запроса, трафик, похожие запросы и ссылка на позицию.



Парсер yep.com

Простой пресет для парсинга поисковой системы yep.com.



Yandex - проверка на содержание доменов в выдаче

Пресет для проверки на содержание доменов в выдаче с записью в разные файлы результатов по условию.



Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

1.2.1683 - новый парсер Cloudflare::Radar, поддержка сервиса CaptchaAI, исправления ошибок



Улучшения

• Добавлен новый парсер Cloudflare::Radar, определяет категории доменов
• В парсеры Util::ReCaptcha2, Util::ReCaptcha3, Util::hCaptcha добавлена поддержка сервиса CaptchaAI
• В Rank::Ahrefs добавлен сбор рейтинга страницы (URL rating)
• Обновлен список языков в DeepL::Translator

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Яндекс
• Исправлен сбор totalcount в SE::Yandex для некоторых запросов
• Исправлен выбор региона в SE::Yandex:: Direct
• Исправлена работа Rank::Ahrefs::KeywordGenerator c Country - United Kingdom
• В Shop::Yandex::Market по некоторым запросам не было результатов
• SE::Google::Images, Rank::Ahrefs::KeywordGenerator, Shop::Yandex::Market

Исправления

• Исправлено лишнее использование сессии на последней попытке в SE::Google
• Исправлен парсинг поисковой выдачи Яндекс, когда в выдаче только 1 результат
• Исправлена ошибка в Telegram::GroupScraper, из-за которой парсились не все имена и ссылки на логины
• Исправлен баг в SE::Yandex:: Position, из-за которого ошибочно осуществлялся поиск по запросу вместе с искомым доменом
• Исправлена проблема в Check::RosKomNadzor, из-за которой при массовом парсинге иногда не менялась прокси
• В HTML::LinkExtractor исправлен сбор внутренних ссылок после редиректа
• Puppeteer: улучшена работа с сайтами, запрашивающими доступ в модальном диалоге

 

Уже все в порядке, страница работает

 

Обновленные пресеты в каталоге A-Parser

Парсинг базы фильмов из IMDB
Парсер получает данные о каждом фильме и записывает их в результат: название, дата выхода, рейтинг, рекомендаций к ним и другое

Получение показателей скорости загрузки сайтов с помощью Chrome UX Report Compare Tool
Получение показателей скорости загрузки сайтов с помощью Chrome UX Report Compare Tool. Используется технология Chrome User Experience Report (CrUX) - это набор данных, отражающий, как реальные пользователи Chrome взаимодействуют с популярными сайтами в Интернете.

Парсер профиля YouTube
Парсинг данных о Youtube канале: дата регистрации, количество просмотров, страна, email из описания (если есть), описание, ссылки

Парсинг istio.com
Парсер для анализа текстов на сервисе istio.com. С его помощью можно определить такие показатели как тошнота, водность, словари, тематика, статистика и т.п. В качестве запросов можно подавать как тексты, так и ссылки на страницы.

Оценка страниц с использованием Lighthouse
Парсер для оценки производительности, доступности и оптимизации веб-страниц с использованием технологии Lighthouse. Lighthouse - это автоматизированный инструмент с открытым исходным кодом для улучшения качества веб-страниц. С помощью данной технологии осуществляется аудит сайта и можно получить такие показатели как производительность, доступность, оценку доступности для поисковых систем и т.д.

Еще больше различных парсеров и пресетов в нашем Каталоге!
Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

 

Видео урок: Сбор форм комментариев с помощью A-Parser

Новый видео урок по работе с A-Parser от DIM STUDIO в котором показан сбор форм комментариев.



Данный видео урок показывает, как собрать сайты, где можно оставить свой комментарий в форму комментирования статей.

Плейлист со всеми видео уроками от DIM STUDIO

Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

 

Обновленные пресеты в каталоге A-Parser ч.2

Парсинг количества трафика на сайтах
Данный парсер позволяет собирать данные о посещаемости сайтов за день, неделю, месяц, тесты, параметры домена, техническое состояние, внутреннюю оптимизацию.

Сохранение в результатах TOP-3 Google
Пресет сохраняет первые ТОП-3 сниппета выдачи Google.

Парсер Яндекс Кью
Парсер собирает список вопросов по запросам и ответы к ним. Для каждого вопроса, кроме ответа, собираются данные о рейтинге, дате публикации, авторе, просмотрам и т.д.

JS::MailValidator
Проверка существования e-mail адресов. Поддерживаются 9 почтовых сервисов: Gmail, Outlook, Yandex, Rambler, Yahoo, Mail.ru, GMX, AOL, iCloud


Еще больше различных парсеров и пресетов в нашем Каталоге!
Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

 

1.2.1770 - 3 новых парсера, адаптация существующих парсеров к изменениям, исправления ошибок



Улучшения

• Добавлены новые парсеры:
  • Rank::Ahrefs::BrokenLinks - сбор кол-ва и списка (топ10) битых входящих и исходящих ссылок
  • Rank::Ahrefs::TrafficChecker - оценка трафика, сбор истории трафика и списков ключевых слов, страниц и стран с наибольшим трафиком
    
  • SE::Quora - парсинг поисковой выдачи Quora по ключевому слову с возможностью выбирать тип и время результата
• Обновлен список регионов в парсерах Яндекс, убраны регионы, на которых поиск больше невозможен. В частности из-за того, что по-умолчанию был выбран регион Россия, парсер работал очень плохо, почти постоянно получая каптчи, т.к. данный регион больше не доступен для выбора в Яндексе. Также оптимизирован поиск региона при выборе в combobox.
• Улучшена обработка Node-модулей (в некоторых случаях использовалась неверная версия)
  
• JS парсеры: this.logger.put и this.logger.debug форматируют вывод аналогично console.log, благодаря чему теперь выводить объекты можно без использования JSON.stringify

Исправления в связи с изменениями в выдаче

• Исправлен парсинг PAA в SE::Google
• В SE::Google::Cache исправлена ошибка, из-за которой отсутствовали результаты по некоторым запросам
• Исправлен GooglePlay::Apps, изменен набор собираемых данных
• Исправлена работа Net::Whois с доменной зоной .fr
• В SE::Yandex::SQI убраны переменные $user_choice и $popular, т.к. эти данные больше не отдаются
• Check::RosKomNadzor, Shop::Wildberries:roductsList, Shop::Wildberries:roductInfo, Rank::Ahrefs, Rank::Ahrefs::KeywordDifficulty, SE::Google::Images, Rank::MajesticSEO

Исправления

• В SE::Yandex исправлена ошибка с определением бана на мобильной верстке
• В SE::Google::Translate теперь headless включен по-умолчанию
• Исправлена проблема с русскоязычными именами файлов в функции Запустить по завершению

Команда A-Parser поздравляет всех с наступающими новогодними праздниками!
График работы поддержки на праздники

 

Видео урок: Ищем продвигаемые ссылки в отчётах Xrumer c помощью парсера Check::BackLink

Новый видео урок по работе с A-Parser от DIM STUDIO в котором показано, как искать продвигаемые ссылки в отчётах Xrumer c помощью парсера Check::BackLink


View: https://www.youtube.com/embed/GJhCQnsQu_c


Плейлист со всеми видео уроками от DIM STUDIO

Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

 

1.2.1794 - поддержка Cloudflare Turnstile, множество исправлений во встроенных парсерах



Улучшения

• Добавлен парсер для разгадывания каптч Cloudflare Util::Turnstile
• В парсеры Util::ReCaptcha2, Util::ReCaptcha3, Util::hCaptcha добавлена поддержка сервиса captchas.io
• В Rank::CMS добавлена возможность выводить $response
• В Cloudflare::Radar добавлена возможность выводить raw data

Исправления в связи с изменениями в выдаче

• Исправлена работа с каптчами в парсерах Яндекс
• Исправлена работа SE::Google::TrustCheck для мобильной выдачи
• Исправлена работа с каптчами в парсерах Ahrefs
• Исправлен парсинг сниппетов в SE::Seznam
• Исправлен парсинг related keywords в SE::Baidu и SE::Bing
• Исправлен парсинг totalcount в SE::Yahoo
• Исправлена работа Check::RosKomNadzor при выборе одного из доменов
• SE::Google, SE::Yandex, SE::Google::Images, SE::Google::ByImage, SE::Bing::Translator, Cloudflare::Radar, Shop::Amazon, Shop::eBay, SE:ogpile::Images

Исправления

• Исправлена работа SE::Yandex::ByImage с запросами, содержащими символы кириллицы

 

Обновление пресетов в Каталоге примеров A-Parser

Парсинг Авито
Парсер площадки объявлении Авито.

• Исправлена работа в связи с изменениями на источнике

Парсер prom.ua
Парсер маркетплейса prom.ua. Позволяет собирать данные из объявлений, включая имена продавцов и номера телефонов.

• Исправлен проход по пагинации и сбор данных со страниц объявлений

Парсер отзывов Wildberries Reviews
Парсер отзывов Wildberries Reviews. Сбор отзывов по товарам с wildberries.ru в csv таблицу

• Исправлена работа парсера

Парсинг ресурса Booking.com
Парсинг ресурса Booking.com, получение результатов поиска квартир и отелей на сайте.

• Поправлены регулярные выражения
• Добавлена возможность задавать нужную валюту

Универсальный чекер апдейтов(текста, цен и т.п.) на страницах с уведомлением в Telegram
Парсер, который позволяет проверять изменения на разных страницах и получать уведомления в Telegram

• Парсер переписан на JS APIv2
• Добавлена возможность проверять значения в заголовках

Парсинг объявлений из olx.ua/olx.pl
Парсер международной площадки объявлений OLX. Позволяет собирать данные из объявлений, включая цены, имена авторов, телефоны, адреса и т.д.

• Реализована автономность в работе с доменными зонами
• Адаптация к изменениям на источнике (включая восстановление возможности сбора телефонов)

Еще больше различных парсеров и пресетов в нашем Каталоге!
Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!