Big data world

130 терминов в области науки о данных, которые должен знать каждый специалист по данным

https://medium.com/aimonks/130-data-science-terms-every-data-scientist-should-know-7199a22fc809

Как работают трансформеры: разбираем математику

В этом посте я представлю подробный пример математики, используемой внутри модели трансформера, чтобы вы получили хорошее представление о работе модели. Чтобы пост был понятным, я многое упрощу. Мы будем выполнять довольно много вычислений вручную, поэтому снизим размерность модели. Например, вместо эмбеддингов из 512 значений мы используем эмбеддинги из 4 значений. Это позволит упростить понимание вычислений. Мы используем произвольные векторы и матрицы, но при желании вы можете выбрать собственные значения.

Как вы увидите, математика модели не так уж сложна. Сложность возникает из-за количества этапов и количества параметров. https://habr.com/ru/articles/785474/

С новым годом: GPT в 500 строках на SQL

В минувшем году все только и говорили об ИИ и о том, как он может всё за вас сделать.

Мне нравится, когда кто-то или что-то работает за меня. Поэтому решил: попрошу-ка ChatGPT написать за меня новогодний пост:

«Эй, ChatGPT. А ты можешь реализовать большую языковую модель на SQL?»
«Нет, SQL не подходит для реализации больших языковых моделей. Язык SQL предназначен для выполнения запросов к данным, хранящимся в РСУБД и для управления этими запросами. Для реализации большой языковой модели требуются сложные алгоритмы, обширные датасеты, а зачастую — и фреймворки для глубокого обучения. SQL всеми этими возможностями не обладает.»

Что ж, лишний раз убеждаешься, что, если хочешь что‑то сделать хорошо – сделай это сам.

Давайте же воодушевимся этим оптимистическим планом и реализуем большую языковую модель на языке SQL.
https://habr.com/ru/articles/786276/

Шлюз LLM (GitHub Repo) Portkey AI недавно выложила в открытый доступ свой шлюз, который позволяет осуществлять маршрутизацию между множеством различных языковых моделей. подробнее→ https://github.com/Portkey-AI/gateway

Как я сделал ремастер всех серий Том и Джерри в 2к всего за пару месяцев

Улучшение Том и Джерри из 480p в 1440p

С чего всё началось? Как-то я решил в третий раз с детства пересмотреть всю оригинальную коллекцию "Том и Джерри", но я, в отличие от маленького ребёнка, не потребляю любой контент вне зависимости от его качества. И вот я собрался посмотреть самую доступную версию, а там вот это цветошоу с постоянными царапинами на всём экране. https://habr.com/ru/articles/784648/

PFGM++: буст генеративных моделей с применением электростатики

Новая ступень в развитии диффузионных генеративных моделей ИИ, и новая возможность создавать собственные изображения в 10 раз быстрее, чем раньше. Это стало реальным благодаря удачной попытке совместить знания об электростатике и принципу функционирования привычных нам диффузионных моделей. Так, исследователям из MIT CSAIL удалось воплотить в жизнь инновационную модель PFGM ++, которая по последним данным значительно превосходит своих предшественниц.

Какова физическая природа PFGM ++, и как ее использовать на практике – давайте разбираться далее вместе. https://habr.com/ru/companies/bothub/articles/785192/

Самый быстрый способ чтения Excel на Python

Чтение 500 тыс. строк менее чем за 4 секунды
https://hakibenita.com/fast-excel-python

1,5 года знаний Spark в 8 советах

Мои выводы из взаимодействия с клиентами Databricks
https://towardsdatascience.com/1-5-years-of-spark-knowledge-in-8-tips-f003c4743083

Дорожная карта MLOps на 2024 год

https://medium.com/marvelous-mlops/mlops-roadmap-2024-ff4216b8bc62

TinyZero (GitHub Repo) Простое обучение AlphaZero-подобных агентов на любом окружении. подробнее→ https://github.com/s-casci/tinyzero

Модель разделения речи (GitHub Repo) Модель MossFormer2, усовершенствованная по сравнению с оригинальной моделью MossFormer, предлагает улучшенные возможности разделения монофонической речи. больше→ https://github.com/alibabasglab/MossFormer2

А вот и технология больших данных, способная конкурировать с кластерами на одной машине.

https://cassio-bolba.medium.com/here-comes-big-data-technology-that-rivals-clusters-on-a-single-machine-992f41e67a72

Модель прогнозирования погоды на основе MachineLearning от
GoogleDeepMind
Cогласно новому исследованию Science, приводит к более качественным, быстрым и доступным 10-дневным прогнозам погоды, чем существующие подходы. https://www.science.org/doi/10.1126/science.adi2336

Может ли машинное обучение предсказать хаос? В моей новой статье проводится крупномасштабное сравнение современных методов прогнозирования на гигантском наборе данных из 135 хаотических систем.
https://journals.aps.org/prresearch/abstract/10.1103/PhysRevResearch.5.043252

Make-A-Character: высококачественное преобразование текста в 3D-персонажей за считанные минуты.

С появлением агентов искусственного интеллекта растет спрос на персонализированные и выразительные 3D-персонажи . и Metaverse, но создание 3D-персонажей с использованием традиционных инструментов компьютерной графики — сложная и трудоемкая задача. Чтобы решить эти проблемы, мы предлагаем удобную для пользователя платформу Make-A-Character (Mach) для создания реалистичных 3D-аватаров из текстовых описаний. Страница документа: https://huggingface.co/papers/2312.15430

WhisperPlus (GitHub Repo)

Передовая обработка речи в текст. подробнее→ https://github.com/kadirnar/whisper-plus

DreaMoving — это управляемая система генерации видео на основе диффузии, предназначенная для создания высококачественных индивидуальных видеороликов с участием людей.

demo: https://modelscope.cn/studios/vigen/video_generation/summary

github: https://github.com/dreamoving/dreamoving-project

Разработайте своего первого ИИ-агента: глубокое Q-обучение
Погрузитесь в мир искусственного интеллекта — постройте с нуля тренажерный зал глубокого обучения с подкреплением.

https://medium.com/towards-data-science/develop-your-first-ai-agent-deep-q-learning-375876ee2472

Создание LLM с миллионом параметров с нуля с использованием Python
Пошаговое руководство по репликации архитектуры LLaMA

https://levelup.gitconnected.com/building-a-million-parameter-llm-from-scratch-using-python-f612398f06c2

Используем MLOps-конвейер: пример работы с Cloud ML Platform для построения сервиса распознавания лиц.

Есть два подхода к работе с машинным обучением (Machine Learning, ML): быть человеком-оркестром и задействовать «зоопарк технологий» для каждого этапа, или работать с готовым набором инфраструктурных решений, который позволяет выстроить MLOps-конвейер в рамках одной платформы. Для реализации первого подхода нужны senior-специалисты и большие ресурсы, для второго достаточно найти сервис с нужным набором возможностей.

Меня зовут Станислав Кипрюшин, я ведущий программист в VK Cloud. В этой статье на примере Cloud ML Platform мы разберём, как создать MLOps-конвейер для обучения моделей и построения сервиса распознавания лиц.

Читать дальше →https://habr.com/ru/companies/vk/articles/780050