immers.cloud | Облако с GPU on Telegram: “Meta* (*признана экстремистской организацией и з…”

Meta* (*признана экстремистской организацией и запрещена в РФ) наконец-то ответила DeepSeek. Мы детально изучили новую Llama 4: архитектура, обучение, кластеры, параметры, практика.

Модель выпущена в различных вариантах:

👉 https://huggingface.co/meta-llama/Llama-4-Scout-17B-16E
👉 https://huggingface.co/meta-llama/Llama-4-Scout-17B-16E-Instruct
👉 https://huggingface.co/meta-llama/Llama-4-Maverick-17B-128E
👉 https://huggingface.co/meta-llama/Llama-4-Maverick-17B-128E-Instruct
👉 https://huggingface.co/meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8

Для работы с библиотекой transformers. Имеются также оригинальные веса не под transformers.

Кому интересно посмотреть другие параметры без регистрации и SMS берите любые веса и Llama4 для transformers на hugging face тут https://huggingface.co/collections/meta-llama/llama-4-67f0c30d9fe03840bc9d0164 и смотрите его config.json.

На практике пока не использовали. Сейчас Llama4 — в топ-2 моделей на chatbot arena и топ-1 среди открытых моделей.

Хотите быстро протестировать Llama 4 или другой ИИ-проект? Разворачивайте в пару кликов в нашем облаке immers.cloud — подойдёт как для экспериментов, так и для продакшн-задач.