С LLM-ками я уже давно — всё началось ещё с первой волны хайпа вокруг ChatGPT. В прошлом году на волне впечатлений от того, как индустрия несётся вперёд, даже взял себе MacBook с 120 гигами оперативки — думал, буду гонять модели локально.
Ну и как обычно бывает: посмотрел на результаты локальных моделей с небольшим количеством параметров, погрустил. А чтобы запустить что-то серьёзное — нужны уже совсем другие мощности. Макбук стал просто хорошим макбуком.
А потом случилось. Моя стажёрка подключила MCP Яндекс.Трекера к LLM — чтобы проще искать задачи и обрабатывать данные. И тут я понял: так, стоп, я же могу быстро закрывать вопрос с Release Notes! Потому что по заголовкам задач ничего не понятно, приходится кликать в каждую и разбираться, что там вообще делали.
Первая итерация вышла неплохо. Но мне захотелось большего — добавить статистику: сколько часов потрачено, сколько SP, сколько дефектов, всякие базовые метрики для быстрых выводов. И вот тут MCP сдулся. Задачи с подзадачами он собирал через раз — для каких-то работает, для каких-то нет.
Долго не думал: сдул пыль с LLM Studio, скачал модельку на 120B параметров — и понеслось. До четырёх утра сидел на чистом кайфе от кодинга и результата. И знаете, в этот момент я окончательно понял, почему разработчики стали пихать LLM вообще везде.
Схема «нормализуешь данные кодом, а сверху полируешь LLM-кой» — реально работает. Однозначно буду продолжать эксперименты.
#ai #llm
Post #607
866

- 🔥 12
- 👍 3
- ⚡ 1