🧠 Mistral представила Large 4: около триллиона параметров

✔️6 октября Mistral открыла предварительный доступ к новой модели через API. У Large 4 около триллиона параметров, из которых на каждый токен активируется 49 млрд. Модель принимает текст и изображения, работает с инструментами и рассчитана в том числе на задачи программирования и информационной безопасности.
По оценкам самой Mistral, Large 4 конкурирует с ведущими открытыми моделями. Компания показывает результаты тестов и демонстрации: анализ вредоносного ПО, работу с документами и инженерными чертежами.
Самое интересное для тех, кто хочет контролировать свою инфраструктуру: веса обещают опубликовать до конца октября. Сегодня скачать модель для самостоятельного запуска ещё нельзя.
И размер здесь имеет значение. Триллион параметров даже при малой доле активных экспертов означает тяжёлые веса. Домашний запуск на одной видеокарте нельзя считать решённой задачей только по цифре «49 млрд активных».

#ИИ #Mistral #Нейросети #OpenWeights
@Rublev_YouTube