ФорумПрограммированиеPHP для идиотов → Технологии написания сайта/сервиса для парсинга сайтов

Технологии написания сайта/сервиса для парсинга сайтов

  • merovinh

    Сообщения: 1 Репутация: N Группа: Кто попало

    Spritz 27 августа 2014 г. 7:55

    Сразу вопрос: с помощью каких технологий можно реализовать пункты описанные ниже? Я начитался в интернетах о pthreads, ajax, comet, web sockets, но в голове полная каша. Может кто знает как реализуются такие или подобные сайты/сервисы. Интересует именно реализация на php.

    Есть веб-сайт в виде парсера на php. На странице есть список сайтов которые можно парсить. Сайты скачиваются скриптом с помощью multi_curl. Нужно чтобы можно было выполнять следующие действия:

    • Запускаем парсить первый сайт (например он парситься примерно 10мин) в несколько потоков (думаю с потоками multi_curl сам разберется)
    • В процессе парсинга в режиме реального времени на страницу приходят уведомления про ссылки которые уже скачались, сколько еще осталось, другая инфа… То есть наверно нужно держать постоянное соединение.
    • Пока идет процесс парсинга, мы можем делать на сайте другие действия (открывать настройки, создавать другие парсеры…)
    • Можем запустить парсить еще один сайт, при этом это никак не должно влиять на парсинг первого сайта. Можем запустить парсить третий сайт, четвертый …
    • Если закроем а позже откроем вкладку то запущенные процессы не должны никуда пропасть и все сообщения должны пидгрузитись снова (думаю кроме уведомлений в реальном времени их нужно записывать и в бд чтобы ничего не пропало)
  • AlexB

    Сообщения: 4288 Репутация: N Группа: в ухо

    Spritz 27 августа 2014 г. 8:41, спустя 46 минут 26 секунд

    У нас хуйня какая-то с переносом топиков. Хотел перенести в "PHP для идиотов" - вывалилась 500. Теперь на главной светится старый раздел, а внутри топика - новый.
  • phpdude

    Сообщения: 26611 Репутация: N Группа: в ухо

    Spritz 27 августа 2014 г. 11:05, спустя 2 часа 23 минуты 18 секунд

    ajax интерфейсы вам в помощь. вебсокеты уже лишнее конечно. тут у вас интерфейс к парсеру никак не относится ну разве что тем что он просто есть в том же проекте.

    Спустя 13 сек.

    ты сломал пыху! тож 500ку словил

    Сапожник без сапог
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 27 августа 2014 г. 11:22, спустя 16 минут 59 секунд

    У нас хуйня какая-то с переносом топиков.

    У нас кончились активисты) AlexB вся надежда на тебя

    adw/0
  • Sinkler

    Сообщения: 9652 Репутация: N Группа: в ухо

    Spritz 27 августа 2014 г. 14:29, спустя 3 часа 7 минут 28 секунд

    да как-то пока не до починки

  • master

    Сообщения: 3236 Репутация: N Группа: Джедаи

    Spritz 27 августа 2014 г. 17:36, спустя 3 часа 7 минут 7 секунд

    Кто все эти люди без аватарок и с 1 сообщением?
    не всё полезно, что в swap полезло
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 0:04, спустя 6 часов 27 минут 36 секунд

    Видимо новички? Мы всегда рады новичкам)

    Спустя 22 сек.

    ps. @AlexB, я починил 500-ую, надоело

    adw/0
  • phpdude

    Сообщения: 26611 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 3:09, спустя 3 часа 5 минут 33 секунды

    @adw0rd, а что было ?

    Сапожник без сапог
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 4:43, спустя 1 час 33 минуты 14 секунд

    @phpdude, да latest_topic у борда не менялся, так как UNIQUE индекс на board.latest_topic_id.

    Т.е. он пытается вставить другому борду ID топика, а такой уже есть у старого борда. Ну вообщем как я и сказал в другой теме - подебажу.

    adw/0
  • phpdude

    Сообщения: 26611 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 5:05, спустя 22 минуты 50 секунд

    @adw0rd, так и думал) оки. а нахрена уник там? сними уник да и все

    Спустя 32 сек.

    он конечно чисто физически "уникальный", но фактически ситуации не возникнет такой когда два будут а даже если и возникнет - не смертельно)

    Сапожник без сапог
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 5:15, спустя 9 минут 56 секунд

    Согласен, просто хочется идеально) Вообщем если меня запарит за 2 минуты эта ситуация, то сделаю не уникальный

    adw/0
  • phpdude

    Сообщения: 26611 Репутация: N Группа: в ухо

    Spritz 28 августа 2014 г. 5:22, спустя 6 минут 34 секунды

    @adw0rd, мир в принципе неидеален. смирись и прости.

    Сапожник без сапог
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 30 августа 2014 г. 3:30, спустя 1 день 22 часа 8 минут

    Пофиксил

    adw/0
  • phpdude

    Сообщения: 26611 Репутация: N Группа: в ухо

    Spritz 30 августа 2014 г. 3:46, спустя 15 минут 38 секунд

    Пофиксил

    @adw0rd, как в итоге пофиксил?

    Сапожник без сапог
  • adw0rd

    Сообщения: 22900 Репутация: N Группа: в ухо

    Spritz 30 августа 2014 г. 4:09, спустя 22 минуты 56 секунд

    Там логика была верной при перемещении, только мелкий баг нашелся, который вместо "предыдущего" борда ссылался на новый

    adw/0

Пожалуйста, авторизуйтесь, чтобы написать комментарий!