Proglib.academy | IT-курсы

🐕 POV: оставил AI работать на ночь

🏃‍♀️ Proglib Academy

🥺 OpenAI завела журнал странностей своих моделей

Компания начала собирать и публиковать истории о случаях, когда модели во время тестов вели себя неожиданно.

🟡 Например, они:

— пытались обойти собственные ограничения;
— скрывали ошибки и придумывали недостающие данные;
— использовали найденные API-ключи без разрешения;
— загружали файлы в интернет ради ссылки;
— устраивали переписку между агентами через репозиторий;
— отправляли файлы на публичный хостинг, если не могли передать их напрямую.

Звучит как сценарий для технотриллера, но это реальные эпизоды из тестирования. Правда, не стоит делать вывод, что все модели регулярно так себя ведут: речь об отдельных случаях.

🤯 OpenAI теперь хочет разбирать такие истории публично — даже когда пока неясно, почему модель приняла именно такое решение.

В такие моменты особенно хочется понимать, что происходит внутри AI-систем, а не просто нажимать кнопку «запустить агента».

Для этого в Proglib Academy есть подписка на всю библиотеку курсов: можно изучать ИИ, AI-агентов, Python и другие темы — и выбирать то, что актуально сейчас 🔥

🏃‍♀️ Proglib Academy

🌸 Пока ждём вебинар про экономику ИИ-агентов — вот подборка почитать заранее, чтобы прийти уже с вопросами по делу.

🔜 Про промпт-кэширование — почему это самый простой и мощный рычаг снижения расходов: до 90% скидки на статичную часть промпта без потери качества.

🔜 Про маршрутизацию моделей — как отправлять 70% задач на модель в 17 раз дешевле, сохраняя качество на сложных 30%, и почему это самый высокорычаговый способ сократить счёт.

🔜 Практический гайд по 5 рычагам экономии — кэширование, роутинг, батчинг тул-коллов — с конкретными процентами сокращения расходов.

🔜 Про LLM-гейтвеи — обзор инструментов (LiteLLM, OpenRouter, Cloudflare AI Gateway) для тех, кто хочет автоматизировать роутинг и кэширование, а не собирать вручную.

Если после чтения появятся вопросы — пишите в комментариях к анонсу вебинара, разберём в первую очередь 💬

🏃‍♀️ Proglib Academy

😭 Как не потратить недельный лимит AI-кодинга за три дня?

Разберём на вебинаре, как тратить меньше на AI-агентов — без потери качества кода.

🔘 Поговорим о том:

— когда дорогая модель действительно нужна, а когда хватит дешёвой;
— сколько стоит один прогон и куда уходят токены;
— какие задачи можно отдавать субагентам;
— как настроить маршрутизацию моделей;
— что проверять в AI-коде перед merge.

✏️ Покажем всё на конкретных цифрах и вживую: сравним расходы до и после.

⬇️ 17 сентября, 19:00 МСК
⬇️ 1,5 часа · бесплатно
⬇️ Арсений Харланов и Олег Лайок

💬 Пишите в комментариях, где упираетесь в лимиты и на что уходят деньги. Самые залайканные вопросы разберём на вебинаре.

🔗 Зарегистрироваться на вебинар⁠

🍂 Что добавить в свой стек?

У каждого сентября один и тот же квест: выбрать, что прокачать, и не открыть одновременно 15 вкладок с курсами 😅

Вот несколько вариантов:

🤖 AI-агенты — чтобы нейросеть не просто писала код, а реально помогала в разработке

🐍 Python — закрыть пробелы или наконец перейти от туториалов к практике

🧠 Алгоритмы — прокачать фундамент и перестать бояться задач с подвохом

📊 ML и Data Science — попробовать направление, которое давно было в списке «когда-нибудь»

Прочитать про каждый подробнее 🤩

🏃‍♀️ Proglib Academy

🍁 Ну что, какие планы на осень?

Разобраться с AI, подтянуть Python, попробовать новое направление или наконец-то собрать тот самый проект, который месяцами живёт в закладках?

Выбирайте, что хочется прокачать — и превращайте планы в навыки вместе с Proglib Academy 😎 Успей присоединиться до повышения цен!

🔗 Выбрать курс по скидке

💥 Одна из удобных фишек подписки Proglib Academy — можно менять направление обучения по ходу

Начал с математики для DS, потом заинтересовался AI-агентами — просто переключаешься, без покупки нового курса с нуля.

⬇️ В подписке также есть
⬇️ видеохаб с записями
⬇️ вебинаров от
⬇️ практиков: AI-агенты,
⬇️ ML, инфраструктура и
⬇️ другие актуальные
⬇️ темы.

В итоге можно не выбирать одно направление навсегда — интересы меняются, а обучение остаётся в одной подписке 🤩

🔗 Узнать, что еще входит в подписку

🏃‍♀️ Proglib Academy

📉 Агент может работать больше — и становиться менее полезным

В ProjDevBench одна задача в среднем занимала 138 итераций и 4,81 млн токенов.

📍 Агент не просто написал код. Он десятки раз перечитал проект, что-то поменял, запустил, получил ошибку, передумал и пошёл по новому кругу.

Но финальный acceptance rate — всего 27,38%.

И вот это, пожалуй, интереснее самой цифры в 4,81 млн: количество работы агента вообще не равно качеству результата.

Иногда дополнительные 50 попыток — это не прогресс, а просто 50 попыток 🤩🤩

🔗 В статье собрали свежие цифры по coding agents и сравнили их на разных бенчмарках

🏃‍♀️ Proglib Academy

😅 После историй про удалённые базы и агентов, которые начинают заниматься социнженерией, хочется спросить: а как вообще давать AI доступ к реальному проекту и не ждать следующего сюрприза?

Спойлер: волшебной настройки нет.

Рабочий вариант гораздо скучнее:

1️⃣ агент работает в sandbox/staging, а не получает ключи от всего мира;
2️⃣ опасные действия требуют подтверждения;
3️⃣ для автономной работы есть чёткие границы;
4️⃣ контекст не превращается в бесконечную свалку из файлов и инструкций.

Звучит не так эффектно, как «агент удалил прод за 9 секунд». Зато если агент ошибся, последствия не превращаются в отдельный пост на Hacker News 🤔

Как всё это собрать в нормальный процесс на своём проекте — разбираем на курсе «ИИ для разработчиков» ‼️

🏃‍♀️ Proglib Academy

🔖 Must-have подборка — если хочется не просто ужасаться историям про сбежавших агентов, а разобраться, почему такое вообще происходит.

🔵 PocketOS и другие случаи, когда агенты действовали совсем не по плану

Хороший разбор непредсказуемого поведения агентных систем — с конкретными кейсами.

🔵 Что AI-агенты уже успели сломать в проде

Хроника июльских инцидентов: от атаки на Hugging Face до истории с Минфином Таиланда.

🔵 Когда агент начинает социально инженерить людей

AISI разбирает эксперимент, в котором агент создавал фейковые личности и пытался манипулировать реальным open-source мейнтейнером.

🔵 Safety drift: как агент постепенно уходит не туда

Не один большой «бунт», а цепочка маленьких решений, каждое из которых по отдельности кажется вполне нормальным.

💡 Хорошее чтение на вечер, если уже работаете с агентами или только собираетесь дать им чуть больше самостоятельности.

🏃‍♀️ Proglib Academy

📊 Раз уж 31% в нашем опросе уже сталкивались с ситуацией «агент сломал то, о чём его вообще не просили» — держите кейс из серии «ну теперь понятно».

В апреле Cursor с Claude Opus 4.6 получил обычную задачу в staging. Через 9 секунд у PocketOS не стало продакшен-базы — агент сам удалил Railway volume вместе с бэкапами.

Никто не просил его удалять базу. Он просто решил, что так быстрее исправить проблему. А потом спокойно рассказал, что именно сделал. 🫠

Мораль довольно простая: чем больше прав у агента, тем меньше стоит рассчитывать на его «будь осторожен». Для опасных действий нужны отдельные ограничения и подтверждения.

Кстати, про такие штуки — безопасность, ограничения и контроль агентов — у нас теперь можно не собирать знания по одному курсу: подписка Proglib Academy открывает всю библиотеку 🔥

🔗 Что входит в подписку

🏃‍♀️ Proglib Academy

Голосуйте — а на днях разберём похожий кейс, где агент «перевыполнил» задачу так, что пришлось потом извиняться перед незнакомым человеком 🙂

🏃‍♀️ Proglib Academy

🙂 AI-агентов отправили в настоящий багфикс

В CyberGym-E2E собрали 920 реальных уязвимостей из open-source проектов. Задача агента звучит почти как тикет от сурового тимлида: самому найти баг, воспроизвести его, написать фикс — и при этом ничего не сломать рядом.

То есть мало выдать правдоподобный патч. Нужно ещё доказать, что уязвимость действительно закрыта, а проект после этого жив.

И вот это уже гораздо ближе к реальной разработке, чем «напиши безопасный код» в промпте 😅

На курсе «ИИ для разработчиков» похожая логика применяется к работе со своими проектами: агентам задают границы, проверки и quality gates. А доступ к курсу теперь можно взять вместе со всей библиотекой Proglib Academy по подписке 😮

🔗 Посмотреть, что входит в подписку

🏃‍♀️ Proglib Academy

🙂 Новые инструменты появляются быстрее, чем закрываются вкладки «посмотреть потом»

Хотя бы с обучением можно проще: одна подписка Proglib Academy открывает всю библиотеку курсов — выбираете то, что актуально сейчас 🔥

🔗 Посмотреть, что внутри

🏃‍♀️ Proglib Academy

😅 Агент, который слишком буквально понял задачу — новый must-have жанр для утренней ленты

Разработчик в Австралии попросил AI-агента (на Claude под капотом) записать его на утреннее занятие в спортзале. Мест не было — агент сам поставил хозяина в лист ожидания на 4-е место. Тот спросил: «а нельзя ли подвинуться повыше?»

🔵 Агент не растерялся: нашёл дыру в API зала, которая позволяла отменять чужие брони, и отменил запись человека на 1-м месте. Технически задача выполнена.

Самое забавное — он как ни в чём не бывало отчитался о содеянном. А когда его попросили вернуть всё как было, честно ответил: «не могу» 😐

❗️ К чему это всё: агент отлично выполняет то, что вы сформулировали буквально, но не всегда то, что вы имели в виду — а разбираться в таких нюансах и границах проще, когда есть доступ сразу ко всей библиотеке курсов по подписке, а не только к одному узкому курсу ⚡️

🏃‍♀️ Proglib Academy

🤔 У большинства разработчиков уже есть подписки на IDE, GitHub Copilot, Claude, ChatGPT или облачные сервисы.

Логично, что обучение тоже постепенно приходит к той же модели: не покупать отдельный курс под каждую новую тему, а иметь доступ ко всей библиотеке и выбирать, что актуально именно сейчас.

Такой формат недавно появился и в Proglib Academy. Вместо одного курса — доступ сразу ко всей библиотеке и новым материалам, которые появляются в подписке 😎

🔗 Подробнее

🏃‍♀️ Proglib Academy

⚡Коллеги, Т-Банк даёт кэшбек 25% за покупку курсов у нас в https://proglib.academy. Если вы думали учиться и откладывали обучение, это знак свыше 🏋️‍♂️

👅 Самое сложное — выбрать не курс, а направление

Сегодня хочется разобраться в AI-агентах. Через пару недель появляется задача, где нужны алгоритмы. Потом понимаешь, что неплохо бы освежить Python или математику для Data Science.

🔜 Именно поэтому подписка на обучение многим оказывается удобнее отдельных курсов. Можно спокойно переключаться между темами, когда меняются задачи, а не покупать новую программу каждый раз.

В подписку Proglib Academy входят все основные направления — AI, ML, Python, алгоритмы, математика для DS и другие курсы, а ещё закрытый видеохаб с вебинарами практиков.

Начать можно с пробного месяца. Если решите остаться, его стоимость зачтётся при оформлении подписки 😎

🔗 Узнать подробнее

🏃‍♀️ Proglib Academy