Скрыть объявление
ВАШИ ПРАВА ОГРАНИЧЕНЫ!

Зарегистрируйтесь на форуме, чтобы стать полноценным участником сообщества!

Выгрузка юрл сайта.

Тема в разделе "Свободное общение", создана пользователем Roman.U, 16 июл 2016.

16.07.16 в 17:17
18.07.16 в 14:54
14
1.035
0
  1. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    Подскажите прогу которая бы спарсела все урл сайта, которые можно было бы собрать в один тхт файл.
     
  2. byroot

    Забанен

    Регистрация:
    10 окт 2015
    Сообщения:
    12.297
    Лучших ответов:
    54
    Рейтинги:
    +5.205 / 74 / -0
    @Roman.U, Screaming Frog SEO Spider
     
  3. byroot

    Забанен

    Регистрация:
    10 окт 2015
    Сообщения:
    12.297
    Лучших ответов:
    54
    Рейтинги:
    +5.205 / 74 / -0
    @Roman.U, а карты сайта нет на сайте?
     
  4. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    В том и проблема, что с карты сайта там же лишних кодов дофига, нужно очищать а это время. Идеально было бы, что бы проги не брали инфу с карты сайта, а брали инфу с самого сайта по юрл.
     
  5. byroot

    Забанен

    Регистрация:
    10 окт 2015
    Сообщения:
    12.297
    Лучших ответов:
    54
    Рейтинги:
    +5.205 / 74 / -0
    sIndexer12 - старая пога, но вытащит урлы списком из карты сайта :)
     
    • Нравится Нравится x 1
  6. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    Сяп, буду пробовать, хоть с карты сайта. Но проблема в том, что по непонятной причине карта сайта не видет все урл, особенно фильмы 2013 года, которые добавлялись давно. Пробовал обновлял карту, не помогло, поэтому и ищу прогу, которая выгнузит все урл, может по непонятным причинам УРЛ не виден роботам соответсвенно и в карте их нет.
     
  7. byroot

    Забанен

    Регистрация:
    10 окт 2015
    Сообщения:
    12.297
    Лучших ответов:
    54
    Рейтинги:
    +5.205 / 74 / -0
  8. Intention

    Intention Местный

    Регистрация:
    15 янв 2016
    Сообщения:
    2.098
    Лучших ответов:
    0
    Рейтинги:
    +689 / 2 / -0
    карту сайта можно нотепадом почикать на регулярках
     
  9. Intention

    Intention Местный

    Регистрация:
    15 янв 2016
    Сообщения:
    2.098
    Лучших ответов:
    0
    Рейтинги:
    +689 / 2 / -0
    если с картой проблемы, можно netpeak spider 1.0.13.3 скачать прогнать сайт ботом и нажать кнопку экспорт в excel, там выбрать тока url
     
  10. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    Сяп всем, карту выгрузил sIndexer12, но думаю ее буду через прогу проганять что бы боты зашли по сылкам. Примерно неделя уйдет, что бы карту прогнать, 50% карты на ночь поставил, к утру только половину прогнало, да еще потом и зависло все, ппц.
     
  11. byroot

    Забанен

    Регистрация:
    10 окт 2015
    Сообщения:
    12.297
    Лучших ответов:
    54
    Рейтинги:
    +5.205 / 74 / -0
    у тебя там лям ссылок чтоли? :eek:
     
  12. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    Незнаю, лям не лям, но 887 карта занимает места.
     
  13. Intention

    Intention Местный

    Регистрация:
    15 янв 2016
    Сообщения:
    2.098
    Лучших ответов:
    0
    Рейтинги:
    +689 / 2 / -0
    @Roman.U, байт, килобайт, мегабайт, петабайт, эксабайт??????77
     
  14. Intention

    Intention Местный

    Регистрация:
    15 янв 2016
    Сообщения:
    2.098
    Лучших ответов:
    0
    Рейтинги:
    +689 / 2 / -0
    Скачал с кинопоиска все сайтмапы: http://plus.kinopoisk.ru/sitemap.xml
    upload_2016-7-18_10-41-57.png

    Значит что у тебя все таки килобайт.. Затем я скачал sitemap киного где 6363 нвоости весом в 800кб..... А вот и сиськи: на твоем сайте ~6к новостей
     
    • Нравится Нравится x 1
  15. TopicStarter Overlay
    Roman.U

    PRO Users

    Регистрация:
    13 ноя 2015
    Сообщения:
    6.201
    Лучших ответов:
    5
    Рейтинги:
    +1.037 / 117 / -0
    887 кб (Kb)
     
Похожие темы
  1. pouf
    Ответов:
    4
    Просмотров:
    1.951
  2. Расим
    Ответов:
    3
    Просмотров:
    2.479
  3. Simon Says
    Ответов:
    7
    Просмотров:
    1.860
  4. Alon119
    Ответов:
    8
    Просмотров:
    1.612
  5. kot-432
    Ответов:
    4
    Просмотров:
    2.610
Загрузка...
Яндекс.Метрика