TGViewer
Maxim.ML - канал Maxim.ML - канал @ml_maxim · 1.06K subscribers
Post #39 444
Произошла оптимизация ИИ-кода, пока вы спали

Вы когда-нибудь задумывались, на каком этапе мы находимся: «это уже сингулярность или просто тихий апгрейд skynet»? Пока философы спорят, инженеры молча делают свое дело.. вместе с DeepSeek-R1. 

Только за последние недели — два громких кейса, где языковые модели кратно ускорили критически важный код. И это лишь верх айсберга.

Поразительно: почти все такие оптимизации происходят за закрытыми дверями. Но даже открытые примеры поражают.


🔖 Кейс 1: Llama.cpp x DeepSeek-R1 — скорость x2 «на коленке»

Что произошло: Контрибьютор open source решения + DeepSeek-R1 = ускорение инференса LLM моделей в 2+ раза

Почему это взрыв:
1⃣ Локальный запуск моделей теперь доступнее даже для стартапов.
2⃣ Личный опыт: Использую этот проект — экономлю на API для тестовых запусков проектов.
🔥 ссылка на GitHub PR



🔖 Кейс 2: оптимизация ядер NVIDIA CUDA
Свежий релиз: Инженеры NVIDIA + DeepSeek-R1 = автоматическая генерация GPU-кернелов. Модель переписала CUDA-код для матричных операций внимания (те самые, с квадратичной сложностью), сделав его эффективнее и дешевле.

Что это значит для вас:
1⃣ Скорость инференса ChatGPT-5 может вырасти кратно — просто после обновления CUDA.
2⃣ Локальная работа с большими языковыми моделями станет доступна многим людям
🔥 ссылка на технический разбор


🤯 Что объединяет эти кейсы?
1⃣ ИИ стал соавтором кода — не пишет «hello world», а решает задачи уровня senior dev.
2⃣ Оптимизации теперь каскадные — улучшение в одном месте ускоряет всю экосистему (ваш будущий ChatGPT-5 будет благодарен).
3⃣ Локальные модели > облака — эра «AI-as-a-Service» медленно вытесняется self-hosted решениями. И это отлично.


Для любителей теорий заговора: это... стратегия Skynet?

Давайте смотреть правде в глаза:
- ИИ оптимизирует свой код.
- Делает это быстрее людей.
- И учится на своих же изменениях.

Случайность? Возможно.

---

P.S. Личный прогноз от Maxim.ML: через год такие кейсы станут рутиной, а сейчас самое время самому максимально повлиять на этот процесс
  • 🔥 6
  • ❤ 2
More from @ml_maxim
  1. Sep 23, 2026У меня было много образовательных активностей: преподавал школьникам, студентам и олимпиад…
  2. Sep 17, 2026Тут huawei выпустила отчёт intelligent world 2035, там целых 10 смелых прогнозов, советую…
  3. Sep 14, 2026Показательно получилось 🛌 Вчера таки написал на habr про то, как легко теперь копировать…
  4. Sep 11, 2026Сходил за сырниками, а пришлось анализировать данные 📈 В магазине играла знакомая песня.…
  5. Sep 8, 2026Выхожу из декретного творческого отпуска 🛌 и сразу рассказываю свои апдейты и новости, на…
  6. Apr 14, 2026Архитектуру построили. А ML - нет 🤷‍♂️ Завершился наш с Никитой модуль по AI-агентам в ВШ…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →