#полезное
😱 WaterCrawl — продвинутая платформа для веб-краулинга и подготовки данных под LLM
Если нужно собрать и структурировать контент с сайтов для ИИ — это мощный инструмент.
В основе:
🔵 Django + Scrapy + Celery
🔵 Асинхронный краулинг, API и UI
🔵 Скриншоты, PDF, JS-рендер, SSE
Возможности:
🟠 Быстрый запуск через Docker (`docker compose up`)
🟠 Интеграции с Dify, n8n, Langflow
🟠 Пакетная отправка запросов через REST API
🟠 SDK для Python, Go, Node, PHP
Репозитории
👉Новости 👉База вопросов
Post #398
135
