ПОЧЕМУ ВАЖЕН ВЫХОД НЕЙРОСЕТИ LLAMA 3

🤔Практически на каждой консультации спрашивают, как разворачивать ИИ в российской компании с учетом требований информационной безопасности. Бизнес хочет применять ИИ, но возникают вопросики, как защитить данные.

🤖Llama 3 - это большая языковая модель с открытым исходным кодом. А это значит, что ее можно запускать локально на серверах компании. Основная проблема таких моделей (была) в низком качестве ответов. Но то, что выкатила Meta Platforms* - уже обгоняет ChatGPT 3.5 или Claude Sonnet. Таков итог обучения модели на 70 млрд параметров. При этом сейчас идет дообучение Llama на 405 млрд параметров и ожидается, что она будет работать на уровне ChatGPT 4 и Claude Opus 3 (если не лучше). А это самые передовые модели на сегодняшний день.

🦾Короче говоря, Llama очень близко подобралась к лидерам рынка и при этом ее можно использовать, не выводя свои данные за контур. Это делает ее очень перспективной для работы.

💵 Снимет ли это все проблемы? Не совсем. Нужно будет еще решить вопрос, на каких мощностях локально это все запускать. Карта для работы таких моделей - Tesla A100, цена - около $20.000 и понадобится она не одна в зависимости от нагрузок. Плюс их еще привезти нужно.

Впрочем, это уже меньшая из проблем. Было бы что разворачивать.

*Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская