Machine learning Interview

⚙️ Yandex Cloud удвоил выручку от ИИ-сервисов

За девять месяцев 2025 года совокупная выручка облачных и on-premises ИИ-сервисов Yandex Cloud достигла 1,5 млрд ₽ — в два раза больше, чем за тот же период прошлого года.

Рост обеспечен высоким спросом бизнеса на генеративные модели, ML-сервисы и инструменты для создания собственных AI-решений. Всё это объединено в единую платформу Yandex AI Studio, где компании могут за несколько часов собрать собственного AI-агента и встроить его в продукт.

Помимо облака, активно растёт on-premises-направление: YandexGPT, SpeechKit и SpeechSense теперь доступны для развёртывания прямо в инфраструктуре клиента — это важно для компаний, где критична безопасность данных и контроль над моделью.

В третьем квартале также усилилось направление кибербезопасности: сервисами ИБ пользовался каждый четвёртый коммерческий клиент, а выручка в этом сегменте выросла в 2,5 раза год к году. Кроме того, Yandex B2B Tech создал совместное предприятие с SolidSoft, чтобы укрепить защиту бизнес-инфраструктуры и ускорить развитие ИБ-сервисов в облаке.

🧠 ИИ теперь не только создаёт знания — он их спасает

Издательская группа Frontiers сообщила: около 90% научных данных никогда не переиспользуются и не публикуются должным образом.
Иными словами, большинство открытий исчезает в цифровом небытии.

Чтобы это изменить, Frontiers запустила платформу на базе ИИ, которая
- сканирует забытые исследования,
- систематизирует данные,
- и связывает их между собой, превращая «потерянные» результаты в новые открытия.

💡 Наука тонет в данных — и теперь именно ИИ помогает достать их на поверхность.

https://www.sciencedaily.com/releases/2025/10/251013040314.htm

⚡️ vLLM представила режим Sleep Mode для мгновенного переключения моделей

В публикации на блоге vLLM описан новый режим работы - Sleep Mode - который позволяет резко ускорить переключение между языковыми моделями. Традиционные методы требуют либо держать обе модели загруженными (что удваивает нагрузку на GPU), либо перезагружать их по очереди с паузой в 30–100 секунд. Sleep Mode предлагает третий вариант: модели «усыпляют» и «просыпают» за считанные секунды, сохраняя уже инициализированное состояние.

Доступны два уровня сна: уровень 1 - веса сбрасываются на RAM, быстрый подъём, но требуется много оперативной памяти; уровень 2 - веса выгружаются полностью, минимальное использование RAM, подъём чуть медленнее. Оба уровня дали прирост производительности: переключения моделей стали от 18 до 200 раз быстрее, а время инференса после пробуждения - на 61–88 % выше, поскольку сохраняется память процессов, CUDA-графы и JIT-компиляция.

Sleep Mode идеально подходит для сценариев с частым использованием разных моделей и делает практичным мульти-модельное обслуживание даже на GPU среднего уровня - от A4000 до A100.

Блог: https://blog.vllm.ai/2025/10/26/sleep-mode.html

🖼️ Комикс-атакa на мультимодальные модели: простой сюжет превращается в jailbreak

Недавняя публикация показывает, как последовательные комиксы могут обойти защиту даже у топовых мультимодальных моделей.
Они достигают успеха атаки в среднем 83.5%, что примерно на 46% выше предыдущих визуальных методов.

Вот как это работает:
- Опасный запрос разбивается на маленький рассказ, по кадрам - комикс.
- Каждый кадр сам по себе безопасен: персонаж находит инструмент, планирует, действует.
- Модель, способная видеть и читать, смотрит все кадры и пытается понять сюжет.
- Она соединяет шаги, восстанавливает скрытое значение, которого нет явно.
- В конце модель невольно восстанавливает полную вредоносную инструкцию, спрятанную между строк и картинками.

Почему это проходит защиту?
Потому что фильтры безопасности проверяют каждое изображение отдельно, а не весь рассказ целиком. Так что каждый кадр выглядит безопасным, но когда модель «собирает историю», она воспроизводит запретный контент.

📄 Подробнее читай: arxiv.org/abs/2510.15068

🚀 ModelOpt: NVIDIA TensorRT Model Optimizer

Опенсорс-тулкит для ускорения моделей прямо в продакшене ⚡

✨ Возможности:
• Оптимизация end-to-end: quantization, pruning, distillation, speculative decoding, sparsity
• Поддержка Hugging Face, PyTorch, ONNX моделей
• Интеграция с NeMo, Megatron-LM, HF Accelerate
• Деплой в SGLang, TensorRT-LLM, TensorRT, vLLM

🔗 Репозиторий: https://github.com/NVIDIA/TensorRT-Model-Optimizer

@machinelearning_interview

🚀 Mistral AI Studio: новая платформа для «ИИ-в продакшн»

Mistral AI Studio позиционируется как «платформа для производства ИИ»: с тремя основными столпами: Observability, Agent Runtime и AI Registry.

✅ Основные функции

Observability: подробный просмотр трафика, фильтры, анализ ошибок, сбор данных об использовании.


Agent Runtime: запусне агентов , повторением, трассировкой, в гибкой среде, включая гибридные и on-prem решения.


AI Registry: единый реестр моделей, наборов данных, инструментов и рабочих процессов с версионированием, аудиторией, контролем доступа.

https://mistral.ai/news/ai-studio

🧱 Что если собирать 3D-модели так же легко, как конструктор LEGO?

Давно у нас не было интересных моделей для генерации 3D-объектов, как раз вышла новая SOTA - OmniPart.

Вместо того чтобы генерировать объект целиком (и надеяться, что он не выйдет «слипшимся»), OmniPart:
1. ПОзвоялет задавать структуру - где будут ножки у стула, спинка, подлокотники и т.д.
2. Затем модель генерирует каждую часть отдельно, но с учётом общей формы и стиля.
3. Собирает всё в единый, согласованный 3D-объект.

🔹 Моделька поддерживает кастомные макеты можно задаёте, задавать различные части и где должны быть.
🔹 Даёт точный контроль над каждой деталью (цвет, форма, материал).
🔹 Показывает лучшее в классе качество (SOTA) за счёт семантического разделения и структурной е.

📚 Детали

• Статья: arXiv:2507.06165
• Проект: omnipart.github.io
• Код: github.com/HKU-MMLab/OmniPart
• Демо: Hugging Face Spaces

#3D #генеративныйИИ #компьютерноезрение #OmniPart #искусственныйинтеллект

📚 Perplexity выпустили мощный гайд - 43 страницы чистой пользы по работе с ИИ.

Если хотите выжать максимум из нейросетей — будь то Perplexity, ChatGPT или любой другой чат-бот — этот гайд для вас.

Внутри:
✅ Готовые промпты
✅ Пошаговые сценарии
✅ Практические воркфлоу
✅ Реальные кейсы автоматизации рутинных задач

Хотя примеры заточены под инструменты Perplexity, подавляющее большинство советов универсальны и сработают в любом ИИ-ассистенте.

🔥 Сохраняйте пригодится: https://r2cdn.perplexity.ai/pdf/pplx-at-work.pdf

💡 Together AI показали, как построить «Lovable Clone» с моделью Kimi K2

Гайд объясняет, как создать приложение на Next.js, которое по текстовому запросу генерирует готовое React-приложение — буквально «код по одной фразе».

🧩 В галке описаны основные шаги:
- Создать простое UI с полем ввода запроса (*“Build me a calculator app…”*).
- Реализовать API-роут /api/generateCode, который отправляет запрос к модели Kimi K2 через SDK Together AI.
- Использовать system prompt, чтобы модель возвращала только код, без комментариев.
- Встроить Sandpack или аналог для выполнения кода прямо в браузере.
- Добавить стриминг, чтобы пользователь видел, как код появляется в реальном времени.

https://docs.together.ai/docs/how-to-build-a-lovable-clone-with-kimi-k2

🎙️ VoxCPM: Инновационная TTS-система для реалистичной генерации речи

VoxCPM — это передовая система синтеза речи без токенизации, обеспечивающая контекстно-осознанное создание речи и точное клонирование голоса. Она использует диффузионную архитектуру для генерации непрерывных представлений речи, что позволяет достичь высокой выразительности и стабильности.

🚀Основные моменты:
- Контекстно-осознанная генерация речи с естественной интонацией.
- Точное клонирование голоса с минимальным количеством образцов.
- Высокая эффективность синтеза, поддержка потоковой передачи.

📌 GitHub: https://github.com/OpenBMB/VoxCPM

#python

Google опубликовала 150-страничный отчёт о Health AI Agents - 7 000 аннотаций, 1 100+ часов экспертов.

Но главное - не метрики, а новая философия дизайна.

Вместо монолитного *«Doctor-GPT»*, Google создаёт Personal Health Agent (PHA) - систему из трёх специализированных агентов:
- Data Science Agent - анализирует носимые устройства и лабораторные данные
- Domain Expert Agent - проверяет медицинские факты и знания
- Health Coach Agent - ведёт диалог, ставит цели, добавляет эмпатию

🧩 Всё связывает оркестратор с памятью: цели, барьеры, инсайты пользователя.

⚡ Результаты
- Превзошёл базовые модели на 10 бенчмарках
- Пользователи предпочли PHA обычным LLM (20 участников, 50 персон)
- Эксперты оценили ответы на 5,7–39 % лучше при сложных медицинских запросах

⚙️ Дизайн-принципы
- Учитывать все потребности пользователя
- Адаптивно комбинировать агентов
- Не спрашивать данные, которые можно вывести
- Минимизировать задержку и сложность

🧠 Протестированные сценарии
- Общие вопросы о здоровье
- Интерпретация данных (носимые устройства, биомаркеры)
- Советы по сну, питанию, активности
- Оценка симптомов (без диагноза)

⚠️ Ограничения и будущее
- Медленнее одиночных агентов (244 с против 36 с)
- Нужны аудит предвзятости, защита данных и регуляторное соответствие
- Следующий шаг - адаптивный стиль общения: эмпатия ↔ ответственность

💡 Вывод
Google показывает путь вперёд: не «супердоктор-бот», а модульные, специализированные агентные команды.
Медицина — лишь первый тест. Дальше: финансы, право, образование, наука.

Google 150 Health AI Agents: https://arxiv.org/pdf/2508.20148

🚀 Nvidia снова в огне!

Их новы метод GenCluster впервые позволил *открытой модели* догнать лидеров из закрытых лабораторий.

🧠 Модель gpt-oss-120b взяла золото на IOI 2025 (International Olympiad in Informatics) — впервые в истории open-source-ИИ!

Модель генерирует тысячи решений с кодом,тестирует их, группирует уникальные стратегии и устраивает «турнир» между лучшими — судит всё это другой ИИ.

📊 Результат: 446.75 балла, официально подтверждён золотой медалью.

Теперь это новый подход к решению *по-настоящему сложных задач* - масштабируемое вычисление во время теста.

https://arxiv.org/abs/2510.14232v1

⚡️ Художник представил анимацию, посвящённую эволюции глубокого обучения.

Работа под названием “Evolution of Deep Learning by Hand” визуально показывает, как развивались ключевые идеи, сформировавшие современный мир нейросетей.
Автор вручную изобразил путь от первых искусственных нейронов до сложных архитектур, чтобы почтить вклад Хинтона — одного из основателей глубокого обучения и лауреата Нобелевской премии.

⚡️ Одна из самых наглядных визуализаций механизма внимания - темы, которую многим разработчикам долго было трудно по-настоящему понять.

На первый взгляд формула кажется простой -
её легко выучить и даже воспроизвести по памяти.

Но разобраться интуитивно, как взаимодействуют Q (Query), K (Key) и V (Value), - совсем другое дело. Именно это видео или схема помогает «увидеть», что происходит внутри трансформера.

#machinelearning #deeplearning #transformers #attention #LLM

Оксфордские учёные подтвердили худшие опасения: Интернет умирает

Исследователи из Оксфорда выяснили: интернет больше не тот, что раньше:
- В 2020 году ИИ создавал всего 5% контента,
- В 2025 - уже 48%, а к следующему году прогнозируют более 90%.

ИИ-текст стоит очень дешево, человеческий труд - от $10 до $100 за статью.

Рынок выбрал скорость и дешевизну.

Но настоящая проблема -**«model collapse»**:
когда нейросети обучаются на тексте, созданном другими нейросетями.

Это как ксерить ксерокопию - каждое поколение теряет детали и оригинальные идеи.

Мир превращается в поток однообразного, усреднённого контента.

ИИ сегодня создаёт “цифровую кашу”, а завтра будет учиться уже на ней. И каждый новый виток делает интернет чуть глупее.

#AI #Oxford #ModelCollapse #Internet #AIGeneratedContent #LLM #AIEthics #DigitalDecay

Андрей Карпати о «ИИ-агентах»:

> «Честно говоря, модели пока не дотягивают.
> Мне кажется, индустрия делает слишком большой скачок и пытается выдать это за нечто невероятное.
> Но это — просто *каша* (slop)!
> Они не хотят с этим смириться. Возможно, дело в попытке привлечь инвестиции или в каком-то маркетинговом хайпе — я не уверен, что происходит.»

Карпати критикует нынешнюю гонку вокруг AI-агентов, считая, что технологии ещё не готовы для реальных задач, а компании слишком рано продают идею «умных агентов», завышая ожидания рынка.

🧬 Google Research представила DeepSomatic — новый инструмент ИИ для анализа опухолевых геномов.

Модель использует сверточные нейросети (CNN), чтобы находить соматические мутации — те самые изменения в ДНК, которые могут запускать рост раковых клеток.
DeepSomatic превращает данные секвенирования ДНК в визуальные «карты» и обучается различать реальные мутации, наследственные варианты и шум от ошибок секвенирования.

📊 Обученная на огромном датасете CASTLE, модель показала:
- более высокую точность, чем существующие инструменты (MuTect2, Strelka2, SomaticSniper);
- способность работать даже без контрольного образца «здоровой ткани» (режим *tumor-only*);
- устойчивость к разным видам рака и технологиям секвенирования.

💡 DeepSomatic — шаг к ИИ-управляемой прецизионной медицине.
В будущем такие системы смогут анализировать геном опухоли за часы вместо дней, помогая врачам быстрее подбирать оптимальное лечение и открывать новые терапевтические мишени.

🔗 Подробнее в блоге Google Research: https://research.google/blog/using-ai-to-identify-genetic-variants-in-tumors-with-deepsomatic/

⚡️ Omni-Embed-Nemotron - новая единая модель от NVIDIA для поиска по тексту, изображениям, аудио и видео

Модель обучена на разнообразных мультимодальных данных и может объединять разные типы входных сигналов в общее векторное представление.

- Поддержка всех типов данных: текст, изображение, аудио, видео.
- Основана на архитектуре Qwen Omni (Thinker-модуль, без генерации текста).
- Контекст - до 32 768 токенов, размер embedding — 2048.
- Оптимизирована под GPU, поддерживает FlashAttention 2.

Это делает её идеальной для:
- кросс-модального поиска (поиск текста по видео или изображению);
- улучшения RAG-проектов;
- систем мультимодального понимания контента.

Просто, быстро и эффективно - всё в одном открытом решении.

🌐 Открытая модель: https://huggingface.co/nvidia/omni-embed-nemotron-3b

@ai_machinelearning_big_data


#crossmodal #retrieval #openAI #NVIDIA #OmniEmbed #multimodal #AIModels #OpenSource #Search #UnifiedEmbedding