На прошлой неделе мне нужно было выступить с докладом у IBM. И пока я сидел на конференции, в чате одного проекта всплыл вопрос от CTO компании:
а как вообще устроены права и разрешения в этом дремучем монолите, который мы собираемся переписывать? Какие есть роли и как они привязаны к экранам с доступами? Что там с отделами?
Времени читать и копаться в коде, естественно, не было (в проекте 2843 файлов). Поэтому я просто подрядил OpenAI Codex, скопировав ему во вход вопрос CTO. Плюс дописал “помести ответ в report.md, размером менее 3000 символов”, чтобы не верифицировать кучу текста.
Спустя пять минут появился детальный ответ, который я переслал обратно в чат со словами “перепроверьте вот эти факты в этих файлах” и благополучно забыл.
Кстати, здорово, что костыль в виде векторных RAG-и используют все меньше не только в бизнесе, но и в современных AI+Coding агентах. Представьте, сколько времени бы ушло на разбивание на чанки такого проекта, подсчет embeddings, а потом и векторный поиск с соответствующими галлюцинациями на выходе.
Вместо этого агенты используют инструменты и разбираются в коде по ходу. Поэтому можно просто открыть проект любого размера и быстро получить результат. Ну а если в проекте есть AGENTS MD и прочая документация для агентов c форматом для памяти, то им совсем хорошо
Вчера ко мне прибежали директора этой компании со словами “Ринат, как ты во время конференции за 5 минут дал такой ответ? Нам нужны скриншоты и видео процесса, мы это прямо в презентацию на тендер вставим”
Я сделал заново при помощи OpenAI Codex CLI. Заодно замерил стоимость запуска анализа на этом проекте с 2843 файлами - получилось 1.3 EUR.
Мелкая вещь, но у человека такой первичный анализ занял бы пару часов, как минимум. Да и то я проклял бы все (в этом языке есть даже макросы). Получается ускорение 120min:5min, что довольно неплохо и очень выгодно. А то, что из такого примера сделали хайлайт для крупного тендера (ибо конкуренты компании пока такого почему-то не умеют), это уже бонус.
Ваш, @llm_under_hood 🤗