Big data world

Добавление кого-либо в диффузионные модели через Celeb Basis

Hовый метод персонализации, который позволяет беспрепятственно интегрировать уникального человека в предварительно обученную диффузионную модель, используя только одно лицо.

https://github.com/ygtxr1997/CelebBasis

Было много обсуждений и комментариев по поводу моделей в ChatGPT, и за последние несколько недель результаты API стали намного хуже.

Evals — это платформа для оценки LLM (больших языковых моделей) или систем, построенных с использованием LLM в качестве компонентов. Он также включает реестр сложных оценок с открытым исходным кодом.

https://github.com/openai/evals

Люди в Интернете не такие, какими кажутся 👀

Дикий проект, использующий Stable Diffusion, EbSynth и новый инструмент для создания дипфейков в один клик под названием roop.

Language Python
Stars 8.3k
Forks 932

https://github.com/s0md3v/roop

Создание продвинутого ИИ-рефери по баскетболу.

В этой версии 2.0 ИИ-рефери по баскетболу обучен моделью машинного обучения распознавать баскетбольные мячи с более чем 3000 помеченных изображений. Используя оценку позы вместе с этой баскетбольной моделью, AI Basketball Referee может обнаруживать перемещения и двойное ведение мяча.

Ссылка на GitHub: https://github.com/ayushpai/AI-Basketball-Referee
Полное видео: https://www.youtube.com/watch?v=VZgXUBi_wkM

Революционизируя существующую парадигму компьютерного зрения "предварительная тренировка, а затем точная настройка", это исследование ввело инновационный этап предварительной подготовки. Используя метод маскированного автоэнкодера (MAE) для инициализации модели, эта стратегия предварительной подготовки масштабируется в зависимости от размера как модели, так и данных. Это делает его идеальным инструментом для обучения базовым моделям следующего поколения, даже в самых крупных масштабах.

Надежность нашей методики предварительной подготовки подтверждается последовательным улучшением сходимости моделей и производительности последующей передачи данных в различных масштабах модели и размерах наборов данных. Авторы измерили эффективность предварительной подготовки к широкому спектру задач визуального распознавания, и результаты оказались многообещающими. Модель ielargest достигла беспрецедентных результатов в iNaturalist-18 (91,3%), 1-shot ImageNet-1k (62,1%) и передаче с нулевым кадром в Food-101 (96,0%), подчеркивая огромный потенциал правильной инициализации модели даже при предварительной обработке миллиардов изображений в веб-масштабе.

Ссылка на документ: https://arxiv.org/abs/2303.13496

Подробный неофициальный обзор статьи: https://andlukyane.com/blog/paper-review-mae-pretrain

🔹Не дайте себя одурачить дрейфом данных.
Если вы ищете информацию о мониторинге машинного обучения в Интернете, есть большая вероятность, что вы столкнетесь с различными подходами к мониторингу, выступающими за то, чтобы сделать дрейф данных центральным элементом решений для мониторинга… Цель этого сообщение в блоге должно продемонстрировать, что не все смещения данных влияют на производительность модели. Затруднить доверие к методам дрейфа, поскольку они, как правило, вызывают большое количество ложных срабатываний. Чтобы проиллюстрировать этот момент, мы будем обучать модель машинного обучения с использованием реального набора данных, отслеживать распределение функций модели в производственной среде и сообщать о любом отклонении данных, которое может произойти… https://www.nannyml.com/blog/when-data-drift-does-not-affect-performance-machine-learning-models

🔹Изучение Джулии
Tidier.jl — это реализация {tidyverse} в Julia, и после 10 недель обработки данных и построения графика данных #TidyTuesday в Джулии я хотел поделиться тем, что я узнал о Джулии как Р пользователь… https://nrennie.rbind.io/blog/learning-julia-with-tidytuesday-tidier

🔹LanceDB
Современный формат данных столбцов для ML и LLM, реализованный в Rust. Преобразование из паркета в 2 строки кода для 100-кратного ускорения произвольного доступа, векторного индекса и управления версиями данных. Совместимость с Pandas, DuckDB, Polars, Pyarrow, с дальнейшими интеграциями…. https://github.com/lancedb/lance

🔹Все сложные вещи, о которых никто не говорит при создании продуктов с помощью LLM
Вокруг ИИ и, в частности, больших языковых моделей (LLM) много шумихи. Откровенно говоря, большая часть этой шумихи — просто какая-то демонстрационная чушь, которая рухнет, как только кто-нибудь попытается использовать ее для реальной задачи, от которой зависит их работа. Реальность гораздо менее гламурна: трудно создать настоящий продукт, поддерживаемый LLM… https://www.honeycomb.io/blog/hard-stuff-nobody-talks-about-llm

Первый дееспособный, коммерчески жизнеспособный LLM общего назначения с открытым исходным кодом, который превосходит все LLM Big Tech, появился в ОАЭ.

Доктор Эбтесам Алмазроуи, директор кросс-центрового подразделения искусственного интеллекта в TII, сказал: «Отказ от лицензионных платежей за Falcon 40B способствует инклюзивным технологическим достижениям для сплоченного общества. Мы стремимся использовать технологии для объединения человечества и обеспечения будущего нашего мира».

Для получения дополнительной информации о текущей модели искусственного интеллекта Falcon 40B с открытым исходным кодом и о регистрации посетите: FalconLLM.TII.ae

Чтобы узнать рейтинг Falcon 40B, посетите: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard

Chain of Hidsight согласовывает языковые модели с обратной связью

Языковые модели ИИ становятся важной частью нашего цифрового мира. Однако проблема заключается в том, чтобы привести эти модели в соответствие с человеческими предпочтениями, чтобы они были действительно полезными и ценными. Современные методы, хотя и успешны во многих отношениях, имеют ограничения: они либо неэффективны в использовании данных, либо сильно зависят от сложных функций вознаграждения и обучения с подкреплением.

А вот и «Цепочка ретроспективного взгляда», захватывающая новая техника, вдохновленная механизмами человеческого обучения. Он может учиться на любой форме обратной связи, даже преобразовывая ее в язык для точной настройки модели. Этот подход обусловливает модель последовательностью поколений моделей в сочетании с обратной связью, помогая ей научиться исправлять отрицательные атрибуты или ошибки. Он значительно превосходит предыдущие методы, особенно демонстрируя большие успехи в задачах подведения итогов и диалога.
Ссылка на статью: https://arxiv.org/abs/2302.02676

Подробный неофициальный обзор статьи: https://andlukyane.com/blog/paper-review-coh

Лучшее описание обратного распространения, которое я когда-либо видел ))

Создайте ChatGPT с вашими личными данными, используя LlamaIndex и MongoDB

Модели больших языков (LLM), такие как ChatGPT, произвели революцию в том, как пользователи могут получать ответы на свои вопросы. Однако «знания» LLM ограничены тем, чему они обучались, что для ChatGPT означает общедоступную информацию в Интернете до сентября 2021 года. Как LLM могут отвечать на вопросы, используя частные источники знаний, такие как данные вашей компании, и раскрывать ее истинную преобразующую силу. ? https://medium.com/llamaindex-blog/build-a-chatgpt-with-your-private-data-using-llamaindex-and-mongodb-b09850eb154c

Повышение производительности машинного обучения с помощью Rust

Rust + LibTorch = увеличение скорости обучения в 5,5 раз на Python + PyTorch https://shly.link/XVmNc

В этой статье мы демонстрируем мощный новый механизм запросов ( SQLAutoVectorQueryEngine) в LlamaIndex, который может использовать как базу данных SQL, так и векторное хранилище для выполнения сложных запросов на естественном языке по сочетанию структурированных и неструктурированных данных. Этот механизм запросов может использовать выразительность SQL для структурированных данных и объединять их с неструктурированным контекстом из векторной базы данных. Мы продемонстрируем этот механизм запросов на нескольких примерах и покажем, что он может обрабатывать запросы, использующие как структурированные, так и неструктурированные данные, или и то, и другое.
https://shly.link/mdmudhD

Миссия выполнима: как Smart Engines обучила нейросеть распознавать все страницы паспорта РФ и находить подделки

Восемь лет упорного труда, немного удачи и ... девять из тринадцати крупнейших банков России наши клиенты. В этой статье мы расскажем, как мы решили задачу распознавания (даже в темноте) и проверки подлинности паспорта и почему корпорации теперь отказываются от ручного ввода данных (спойлер: чтобы не утекли). https://habr.com/ru/companies/smartengines/articles/731230/

Распознавание эмоций ИИ с помощью компьютерного зрения

Компьютерное зрение — одна из наиболее широко используемых и развивающихся областей ИИ. Это дает компьютеру возможность наблюдать и учиться на визуальных данных так же, как люди. В этом процессе компьютер извлекает значимую информацию из цифровых изображений, видео и т. д. и применяет это обучение для решения проблем. https://heartbeat.comet.ml/ai-emotion-recognition-using-computer-vision-61fe49fc7c33

ControlVideo: Генерация текста в видео с улучшенной последовательностью и качеством (GitHub Repo)

ControlVideo - это новая система, которая решает проблемы, связанные с созданием видео из текста, путем внедрения подхода, не требующего обучения. Используя структурную согласованность, улучшая связность внешнего вида, смягчая эффекты мерцания и применяя иерархическую выборку, ControlVideo превосходит существующие методы в генерации высококачественного видео, как короткого, так и длинного. Важно отметить, что ControlVideo достигает таких результатов эффективно, генерируя видео в течение нескольких минут с помощью одного графического процессора NVIDIA 2080Ti. https://github.com/YBYBZhang/ControlVideo

ChainForge (GitHub Repo)

Среда визуального программирования с открытым исходным кодом для тестирования подсказок для LLM. https://github.com/ianarawjo/ChainForge

LoopGPT (GitHub Repo)

LoopGPT - это повторная реализация популярного проекта Auto-GPT в виде соответствующего пакета python, написанного с учетом модульности и расширяемости. https://github.com/farizrahman4u/loopgpt

Пост для тех, кто думает, что в ИТ сложно вырасти в карьере ⬇️

Университет Иннополис предлагает поступить в онлайн-магистратуру на специальности:

👨‍🎓«Управление цифровым продуктом»

👨‍🎓«Управление на основе данных»

Что мы предлагаем:

▫️Полностью дистанционное обучение, возможность подключиться к лекции и семинару из любой точки мира

▫️Студенчество в одном из передовых ИТ-университетов России, имеющем государственную аккредитацию

▫️Преподавателей мирового уровня с высоким h-индексом

▫️Годовую стажировку в компании, специализирующейся на технологиях

▫️Возможность создать свой стартап или возглавить команду в крупном проекте

▫️ Рассрочку на оплату

☝🏻 Вы не просто получите знания, но и научитесь применять их под присмотром крутых наставников и высококлассных ИТ-специалистов!

Переходите по ссылке, чтобы узнать о программах обучения и своей будущей зарплате подробнее, подписывайтесь на наш канал.

Scikit-LLM: НЛП с ChatGPT в Scikit-Learn

Легко интегрируйте мощные языковые модели, такие как ChatGPT, в scikit-learn для расширенных задач анализа текста. https://shly.link/mdmEQvu

Узнайте, как точно настроить большие языковые модели (LLM) в пользовательском наборе данных. Мы будем использовать Lit-Parrot , основанную на nanoGPT реализацию модели GPT-NeoX,
которая поддерживает модели StableLM , Pythia и RedPajama-INCITE .

Вы можете точно настроить эти модели, чтобы адаптировать их к вашей конкретной задаче, например, обучить чат-бота отвечать на финансовые вопросы.

https://lightning.ai/pages/blog/how-to-finetune-gpt-like-large-language-models-on-a-custom-dataset/

ONE-PEACE: универсальная модель для задач зрения, аудио и языка (GitHub Repo)

ONE-PEACE - это новая модель, которая превосходно понимает изображения, звуки и слова, без необходимости начинать с предварительно обученной модели, и показывает исключительные результаты в задачах, связанных со зрением, звуком и языком. Он также обладает уникальной функцией, которая позволяет ему находить связи между различными типами данных, которые он раньше не видел вместе, а его гибкая структура означает, что в будущем он может использоваться с большим количеством типов данных. https://github.com/OFA-Sys/ONE-PEACE

SuperAgent (GitHub Repo)

SuperAgent - это мощный инструмент, который упрощает конфигурирование и развертывание агентов LLM (Large Language Model) на производстве. https://github.com/homanp/superagent