Complete AI

А пока все судорожно восхищаются апдейтами GPT-4o (кстати o - это Omni, значит наша модель OmniFusion в тренде:)), сегодня TII выпустили новую версию мультимодальной модели Falcon 2 (новость)

- Falcon 2 open source, мультиязычная мультимодальная LLM
- Falcon 2 11B превосходит Llama 3 8B и выбивает по качеству значения на уровне с моделью Google Gemma 7B
- В настоящее время авторы исследуют возможность еще большего улучшения качества с помощью Mixture of Experts

@complete_ai

Не прошло и дня, как MS выложили веса Phi-3 Mini.
Дали доступ к инструктивным версиям с контекстом 4k и 128k токенов, а также onnx и gguf адаптации модели

Мы забрали пощупать модель в возникающий уже зоопарк реализаций OmniFusion — расскажу по итогу, что получится

Дизайнеры vs AI. The winner is…

В этом году наш институт AIRI решил поддержать IV Конкурс-биеннале предметного дизайна «Придумано и сделано в России» впервые появилась номинация «AI‑технологии».

В рамках конкурса я буду выступать в роли куратора номинации «AI-технологии в дизайне», а мой коллега Денис @dendimitrov - членом экспертного жюри.

Эксперты оценят как дизайнеры «общаются»с генеративными моделями и насколько точно им удается воплотить задуманное. Это интересный опыт как для дизайнеров, креаторов, так и для экспертов, ведь надо быть непредвзятым между человеком и ИИ😉

Знаю, что среди моих подписчиков много промпт-инженеров, дизайнеров и представителей других творческих профессий - этот ивент для вас🖼️

🍿 Все подробности на официальном сайте конкурса. Подать заявку можно до 12 августа 2024 года. Участвуйте и побеждайте!

⚡️Вот и тех репорт по языковой модели Phi-3 пожаловал

На известном MMLU 7B версия уверенно обходит и Llama 3, и Gemma, и Mistral. Ждём доученной версии, разрывающей GPT-4😉

https://arxiv.org/abs/2404.14219

🔥LLaMa 3 - дождались: Новая SOTA в open-source!

Сегодня день больших релизов от Meta, в которых и я и моя команда принимала прямое участие.

Зарелизили в опенсорс LLaMa-3 8B и 70B:
🔳LLaMa-3 8B – лучшая в своем классе модель, и сопоставима с LLaMa-2 70B, хоть и в 10 раз меньше.
🔳LLaMa-3 70B – тоже самая мощная в режиме 70 млрд параметров, достигает 82 на MMLU бенчмарке (показывает уровень общих знаний в разных областях). Для сравнения, недавняя Mixtral 8x22B с 141B параметров достигает только MMLU 77.8. Ну, и ждем результатов на арене.

C новыми моделями можно початиться на meta.ai

Блог
Подробности
Скачать веса модели

@ai_newz

Сегодня выступаю и модерирую секцию про мультимодальный и генеративный ИИ на конференции по анализу данных и технологиям DataFusion (начало в 15.50 мск). Поговорим про современное состояние исследований в этих областях и интересные решения и технологии, которые нас ждут в недалёком будущем.

Мероприятие проходит оффлайн в Кластере Ломоносов на Раменском бульваре д.1, а также будет онлайн трансляция ( зарегистрироваться можно тут ).

Комментарии излишни 🤗

🚀Мы с Kandinsky поздравляем всех с Днём Космонавтики!

Достигайте самых амбициозных высот!
За арты спасибо @kutsgelya

@complete_ai

⚡️Сегодня выпустили обновление нашей мультимодальной модели OmniFusion 1.1

Модель умеет понимать изображения, описывать сцены и отвечать на вопросы по картинкам. В основе open-source модели лежит языковая модель Mistral-7B.

В остальном было проделано большое число экспериментов,в числе которых:
- сравнили различные визуальные энкодеры
- научились смешивать несколько энкодеров для усиления визуального контекста
- проверили влияние механики нарезки картинки на фрагменты с последующим их энкодингом

В итоге побили 7B аналогичные решения на ряде бенчмарков, побили также 13B модели на некоторых бенчах. Исследования продолжаются, чтобы выбить однозначную SoTA на всех задачах и приблизиться к GPT4-Vision.

Сегодня выпустили technical report на arXiv, который попал в Daily Papers на Hugging Face и уже занимает там сейчас первое место🏆

📍Project page
📍Статья на Хабре
📍GitHub

Буду крайне признателен, если поддержите лайками, звёздами и upvote по ссылкам выше - всей команде будет супер приятно🙏

@complete_ai

Отметили 3 года Института!

Сегодня все сердца поста — команде AIRI ❤️

Сегодня день рождения Kandinsky (самая популярная его версия вышла 4 апреля 2023 года, и с этого началась настоящая история линейки Kandinsky)🎉🎉🎉

И в этот день мы выпустили обновление модели Kandinsky 3.1, в котором:
📍добавили существенное увеличение скорости генерации за счёт дистилляции модели
📍затащили обратно режимы смешивания и вариации изображений вкупе с ControlNet
📍добавили возможность повышения разрешения генераций до 4K

Подробнее можно почитать на Хабре, ну а для всех мы покажем обновление на всех платформах чуть позже. Пишите вопросы в комментариях, буду рад ответить😉

С Днём Рождения, Kandinsky! С праздником всю нашу команду и всех почитателей творчества Generative AI🥂

🍰Ссылка на Хабр

@complete_ai

Как устроено пространство, в котором думают языковые модели?

Наша статья про анизотропию и внутреннюю размерность активаций трансформеров вышла в печать на EACL! В честь этого я подготовил небольшой хабр с её разбором.

Статья, хабр

Сегодня вышла моя первая статья на Хабр про использование процессов в python!

⚙️Как работает multiprocessing в Python под капотом🔧

Многим разработчикам на python, в том числе DS/ML/DE специалистам, нужно ускорять обработку данных или распараллеливать CPU-bound вычисления. Потоки для этой задачи не подходят, так как в питоне есть GIL, поэтому часто используют процессы. Но чтобы мастерски овладеть каким-то инструментом, необходимо понимать как он устроен. Поэтому я подробно разобрал детали реализации пакета multiprocessing.
В статье вы узнаете:
- Как создаются процессы в ОС
- Как устроен внутри пакет multiprocessing
- Как работает пул процессов

P.S. Если получится дать обратную связь или поставить upvote на хабре - буду рад))
P.P.S. Перезалил пост, чтобы были доступны комментарии

🕯️Друзья, вчера случилась большая трагедия!

Нападение террористов на Крокус привело к большому числу жертв и пострадавших.

Сбер не остался в стороне и вместе с Российским красным крестом запустил благотворительный фонд. Прошу не оставаться в стороне, помощь каждого из вас безмерно важна🙏

➡️По ссылке сразу перейдёте в Сбербанк Онлайн и сможете внести пожертвование.

Берегите себя🙏