Скрыть объявление
ВАШИ ПРАВА ОГРАНИЧЕНЫ!

Зарегистрируйтесь на форуме, чтобы стать полноценным участником сообщества!

A-parser 1.1 - продвинутый парсер поисковых систем, suggest, pr, dmoz, whois, etc

Тема в разделе "Google", создана пользователем A-Parser Support, 12 янв 2017.

12.01.17 в 14:37
21.06.19 в 12:30
87
6.177
1
  1. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    1.2.455 - поддержка puppeteer, все методы в Net::HTTP, обновление Bypass Cloudflare
    [​IMG]
    Начиная с версии 1.2.455 мы начинаем официальную поддержку Node.JS модуля puppeteer - средства автоматизации работы с браузером Chrome(Chromium), благодаря чему возможен полноценный рендеринг DOM с поддержкой JS. В качестве примера мы выкладываем парсер, который делает скриншоты сайтов в формате PNG, доступен выбор размера скриншота. Chromium может быть запущен как на Windows, так и на Linux серверах без GUI.
    Улучшения
    • [​IMG] SE::Bing::Images полностью переписан, добавлен сбор дополнительных данных, а также в настройках добавлен выбор региона и языка интерфейса
    • В [​IMG]Net::HTTP добавлены все методы в настройки, а также реализована возможность переопределения через заголовок Method
    • Добавлена возможность форматирования всех цифр в интерфейсе
    • JS парсеры: в this.parser.request для override добавлена опция needData, которая определяет передавать или нет в ответе data/pages[], может использоваться для оптимизации
    • JS парсеры: добавлена поддержка модулей url и ws

    Исправления в связи с изменениями в выдаче

    Исправления
    • Исправлена работа функции Bypass Cloudflare в [​IMG]Net::HTTP
    • Исправлена ошибка, из-за которой при определенных настройках не писался Начальный текст
    • Исправлена работа некоторых socks4 прокси
    • Исправлена ошибка в $tools.base64.encode() при работе с кириллическими символами
    • В [​IMG]Shop::Amazon исправлена ошибка, при которой игнорировался домен
    • JS парсеры: исправлена редкая ошибка в работе сокетов в Node.js
     
  2. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    Сборник рецептов #31: скидка -50% на XEvil, скриншоты страниц, подсказки Я.Маркета и правописание
    31-й сборник рецептов. В нем будет показан способ создания скриншотов веб-страниц, парсинг подсказок Яндекс Маркета, а также проверка правописания в Google. Кроме этого, только до конца апреля доступна возможность купить XEvil со скидкой. Далее обо всем по порядку.

    Скидка -50% на покупку XEvil для существующих и новых пользователей A-Parser
    Для всех существующих и новых пользователей A-Parser действует скидка на покупку XEvil -50%!
    XEvil - это простая, быстрая и удобная программа для полностью автоматического распознавания и обхода подавляющего числа капч и рекапч, без необходимости подключения каких-либо сторонних сервисов. Использование XEvil в связке с A-Parser позволяет значительно удешевить парсинг ресурсов, где необходимо разгадывать капчи/рекапчи, при этом практически не теряя в скорости.
    Акция действует до конца апреля. Количество промокодов ограничено, поэтому не упустите возможность воспользоваться скидкой!
    Для получения промокода на покупку XEvil пишите в тикеты.
    [​IMG]

    JS::Chrome::ScreenshotsMaker
    Возможность загружать страницы с полной обработкой всех скриптов, аналогично браузеру - это один из самых популярных фичреквестов для A-Parser. Поэтому буквально недавно была добавлена поддержка Node.js модуля puppeteer, с помощью которого теперь можно получать полностью отрендеренные страницы. И мы публикуем первый пример по работе с ним - парсер для создания скриншотов веб-страниц. Больше информации, пример работы и готовый парсер - все это доступно по ссылке выше.
    [​IMG]

    Парсер подсказок Яндекс.Маркет
    Еще один парсер подсказок, на этот раз из Яндекс Маркета. Собираются подсказки, их популярность (частота), тип, а также, опционально, категория (включая полный путь родительских категорий). Готовый парсер, как обычно, доступен в нашем Каталоге по ссылке выше.
    [​IMG]

    Проверка правописания в Google
    Данный парсер позволяет проверить ключевые слова через поиск Google на предмет опечаток и получить исправленные варианты. Готовый пресет доступен по ссылке выше.
    [​IMG]

    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.
     
  3. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    Видео урок: Работа с MySQL
    Видеоурок по работе с MySQL в A-Parser. В нем на реальном примере показано как работать с базами данных MySQL, используя Node.js модуль mysql2.



    В этом уроке рассмотрены:
    • Установка и подключение модулей
    • Некоторые основы языка запросов SQL
    • Создание базы данных MySQL
    • Получение и запись данных в БД, используя JS-парсеры

    Полезные ссылки:

    Оставляйте комментарии и подписывайтесь на наш канал на YouTube!
     
  4. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    Сборник рецептов #32: Yahoo Answers, контакты фрилансеров и оценка ключевых слов

    32-й сборник рецептов, в котором подобраны 3 JS парсера для парсинга Yahoo Answers, оценки ключевых слов и сбора контактных данных фрилансеров.

    Парсер Yahoo Answers
    Полноценный парсер сервиса Yahoo Answers, который по ключевым словам позволяет собирать непосредственно вопросы, ответы, а также их категории, дату создания и ссылки на страницы обсуждений.
    [​IMG]

    Парсинг контактов фрилансеров
    Парсер, который ищет по ключевым словам фрилансеров и собирает их контакты. Данные собираются с сервиса fl.ru.
    [​IMG]

    Анализ ключевых слов
    Парсер для сервиса seranking.com. Кейворды оцениваются по 4-м показателям: частотность, стоимость клика (CPC), стоимость трафика и KEI. Также есть возможность собирать похожие, релевантные и подсказки к начальному запросу вместе с их показателями.
    [​IMG]

    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.
     
  5. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    1.2.484 - 4 новых парсера, улучшение работы и исправление существующих
    [​IMG]
    Улучшения
    • Новые парсеры:
      • [​IMG]Maps::Google - по ключевым словам собирает различные данные об организациях в заданных координатах
      • [​IMG]Maps::Yandex - по ключевым словам собирает различные данные об организациях в заданных координатах
      • [​IMG]Rank::Bukvarix:: Domain - сбор ключевых слов по домену
      • [​IMG]Rank::Bukvarix::Keyword - сбор ключевых слов по домену
    • Удалены 4 неактуальных парсера: Rank::SEMrush::Keyword, SE::QIP, SE::QIP::position, Rank::MegaIndex
    • Улучшена работа [​IMG]SE::AOL
    • JS парсеры: для this.request добавлена опция data_as_buffer, которая определяет возвращать data как строку(String) или объект Buffer

    Исправления в связи с изменениями в выдаче
    • В [​IMG]SE::Google::Modern исправлена работа с рекаптчами, исправлен парсинг сниппетов, а также исправлен парсинг мобильной выдачи
    • [​IMG]Rank::SEMrush полностью переписан, также полностью изменился список собираемых данных, парсер возвращает только те данные, которые доступны без авторизации
    • Полностью переписан [​IMG]Rank::Alexa
    • Исправлена работа [​IMG]Rank::MajesticSEO, теперь обязательно требуется установка Node.js и модуля brotli
    • В [​IMG]Rank::Social::Signal удалена переменная $facebook_share в связи с прекращением поддержки со стороны FB
    • [​IMG]SE::IxQuick, [​IMG]Shop::AliExpress, [​IMG]SE:: DuckDuckGo::Images , [​IMG]Shop::Amazon, [​IMG]Check::RosKomNadzor

    Исправления
    • Исправлена работа с запросами, содержащими пробел в [​IMG]SE:: DuckDuckGo
    • Исправлена проблема с декомпресией данных на некоторых сайтах
    • JS парсеры: исправлена работа setImmediate
     
  6. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    Видео урок: Получение уведомлений в Telegram об окончании срока регистрации доменов
    В этом видеоуроке будет показано, как настроить периодическую проверку окончания срока регистрации доменов, и получать уведомления в телеграм, если он меньше заданного количества дней.

    В уроке рассмотрено:
    • использование tools.js для написания собственных функций
    • работа с шаблонизатором Template Toolkit
    • проверка доменов через WHOIS
    • цепочки заданий
    • отправка сообщений в Telegram с помощью бота
    Полезные ссылки:
    Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

    [​IMG]
     
  7. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    1.2.503 - обновление JavaScript движка и множество улучшений
    [​IMG]
    Улучшения
    • Движок v8 обновлен до версии 7.5, помимо увеличения скорости есть множество улучшений в поддержке новых возможностей языка JavaScript
    • В [​IMG]SE::Yandex в массив $ads добавлена переменная $visiblelink, в которой содержится видимая ссылка
    • В [​IMG]Rank::Bukvarix:: Domain добавлена переменная $totalcount которая содержит количество результатов
    • В [​IMG]SE::Yahoo добавлена опция Not found is error, указывающая, считать ли отсутствие результатов ошибкой

    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлена редкая проблема с ошибками в JS парсерах на Windows
    • В [​IMG]SE::Baidu исправлена работа функции Get full links для результатов без ссылок
    • Исправлена проблема с Decode JSON error в парсерах WordStat
    • Исправлен баг с перезагрузкой кода JS парсера при редактировании в сторонних приложениях, проблема возникла в одной из предыдущих версий
    [​IMG]
     
  8. TopicStarter Overlay
    A-Parser Support

    A-Parser Support Посетитель

    Регистрация:
    12 янв 2017
    Сообщения:
    74
    Лучших ответов:
    0
    Рейтинги:
    +3 / 0 / -1
    Сборник рецептов #33: парсинг Google карт, сбор вопросов из поиска, перевод текстов целиком
    33-й сборник рецептов, в котором мы будем собирать данные из Google maps в указанной местности, спарсим блок вопросов и ответов в поиске Гугла и научимся использовать файлы целиком в качестве запросов. Поехали!

    Сбор всех организаций в определенной местности
    Начиная с версии 1.2.482 в A-Parser появились парсеры карт Google и Яндекс. Принцип работы обоих одинаков - в настройках указываются координаты точки и зум, парсер собирает результаты поиска по ключевым словам в этой точке и области вокруг нее, ограниченной зумом. Но если стоит задача собрать данные, например, со всего города, то для ее решения нужно указывать диапазон координат и "заставить" парсер пройтись по ним. Как это сделать, а также пример пресета - все это показано по ссылке выше.
    [​IMG]

    Парсер собирающий вопросы и ответы из выдачи Google
    Google по некоторым запросам показывает в поисковой выдаче блок вопросов и ответов People also ask (Похожие запросы). Наши пользователи периодически интересуются, как можно парсить этот блок, получая отдельно вопросы и ответы на них. Поэтому мы публикуем в нашем каталоге пример такого парсера, а забрать его можно по ссылке выше.
    [​IMG]

    Использование файлов целиком в качестве запросов
    Общеизвестно, что в А-Парсере каждая строка в исходном файле - это отдельный запрос. Но существуют задачи, когда необходимо использовать все содержимое файла как один запрос, игнорируя разбивку на строки. Благодаря JavaScript парсерам такая возможность есть и по ссылке выше опубликован пример парсера, который получает все содержимое файла, переводит его на заданный язык и сохраняет в новый файл.
    [​IMG]

    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.
    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    [​IMG]
     
Яндекс.Метрика