Мне иногда даже жалко ребят из А-парсера. Как только ломается выдача то им сразу прилетат от пользователей. Как ни крути, А-парсер самый дешевый и гибкий вариант для массового парсинга.
Бывает, конечно, и неделю не парсит. Для проверок индекса это бывает критично. Автообновление оказалось удобной штукой - скрипт проверят новые версии раз в час, стопает таски, обновляется, возобновляет таски.
Теперь если на утро не спарсило, то как минимум не потому что не обновлена версия.
Недавно пришлось переключить с браузерной версии назад на http чтобы не выдавало по 100 капчей на запрос, хотя по логике браузерная версия должна меньше баниться.
У кого много денег тот может подключить приватные прокси и антикапчу, но мы не из такой семьи, мы на дешевых анлимитед прокси.
Post #209
800

- 💯 3
- 👍 1