$3 800 на AI за полтора месяца. И я не уверен, что это имеет смысл.
Новогодние праздники. Время с семьей, сноуборд, кино и куча других мероприятий - всё было. Но параллельно я жрал токены в Claude, как остатки оливье 2 января.
8 миллионов токенов за 11 дней января - $1 451 (~1.7 миллиардов токенов кешировано). В декабре - $2 359. Смотрите скрин. Это только Claude, еще я использую Codex, Grok, Gemini.
В чём проблема?
У меня в компании куча задач для LLM. Но решить их правильно могу только я и еще пару моих сотрудников. Все потому, что большинство коллег не понимают, как формулировать запросы. Не знают про контекстное окно. И не должны - это не их работа (говорю за административный персонал).
А те, кто думает что понимают - слепо доверяют и обжигаются. Юристы в США подали в суд документы от ChatGPT с выдуманными прецедентами. Получили штраф $5 000 (пруф).
Мой личный кейс.
Cотрудник попросил обучить его тому, что делаю я с нейросетями, чтобы он мог выполнять это самостоятельно. Шикарный запрос!
Я сказал, что не знаю как это сделать, ведь он великолепный специалист, но консоль/cli/mcp для него как станок ЧПУ для педагога.
Как я умещу в голове гуманитария, то чему мне приходилось обучаться на протяжении десятка лет, я пока так и не понял....
Вот расклад.
Когда говорят "LLM не работает" - для этого человека оно правда не работает. Он написал запрос, получил фигню, сделал вывод.
А я переписал промт, добавил контекст, поменял модель, подключил MCP для внешних данных, подключил агента - получил результат. Таких как я - единицы.
Почему это проблема для всех?
В LLM вбухали десятки миллиардов. Это уже бьёт по железу - дефицит памяти, цены на оперативку +150% за квартал. Мой следующий ноутбук будет дороже - из-за долбанного AI, которым вы не умеете пользоваться.
Напоминает дотком. Интернет изменил мир. Но сначала 90% компаний сдохли.
Замкнутый круг: технология работает для тех, кто разбирается. Но выжить ей нужны миллионы тех, кто не разбирается. Они разочаровываются или обжигаются.
Жду революцию, но через кладбище.
Кстати
Мы в KOTELOV.COM активно используем LLM/AI на проектах при разработке, где это разрешает заказчик - поэтому боль вижу изнутри. В следующем посте я расскажу, почему LLM никогда не заменят разработчиков и почему DEVOPS'еры - будущие бояре в IT
А ты реально используешь LLM для работы? Или только генеришь мемасики в Клинге и Соре ?
Post #399
792

- ❤ 10
- 🤔 2