#Бесполезные_мысли #Бесполезные_мысли@IIstroika
Объем применения ИИ: 20%
Как и все мальчики моего возраста, я частенько занимаюсь цифровым рукоблудием. Сейчас это модно называть вайбкодингом. Конечно, пока эта интеллектуальная девиация не перетекает в радикальные формы типа B2B SaaS, но иногда всё же заносит на поворотах. Поэтому решил поделиться рядом наблюдений. Интересно, как у вас? И не делайте вид, что вы все приличные и ничем таким постыдным не занимаетесь!
В основном наблюдения построены вокруг взаимодействия с OpenAI (Codex, API).
1️⃣ИИ сильно недооценивает техническую сложность реализации твоей новой идеи.
Я регулярно прихожу к ИИ с идеями что-то сделать. Обсудить, так сказать. И буквально на каждую идею он выдаёт:
Давай, братан, у тебя уже 30% бэкенда готово. Тут делов-то на 20 минут, вошли и вышли (с)...
Через 5 недель, отлаживая жуткий пайплайн и спустя миллиарды токенов, понимаешь, что довести это чудо до работоспособности будет очень сложно. Хотя 2 недели назад ИИ говорил, что проект готов на 90%.
2️⃣Оказывается, ИИ тебе писал, сколько это займёт, но ты, скорее всего, пропустил это мимо ушей.
Вот такое необычное когнитивное искажение я словил. Когда обсуждал проект с ИИ, он мне честно говорил, что понадобится не меньше месяца на реализацию. На что я говорил себе: да ладно, там нет ничего сложного. Спустя месяц, впервые запуская проект, я понял, что он не ошибался. И такое было много раз.
3️⃣ИИ маниакально зациклен на безопасности. Особенно если разрешить ему самому решить, сколько безопасности вам нужно.
Намедни собирал бэкенд с ИИ и доверил ему разработку системы безопасности без моего управления. Дык, по итогу, на готовом сервисе, чтобы войти под суперадмином, пришлось проворачивать настоящую спецоперацию уровня ядерного чемоданчика, а нормы безопасности были такими, что шагу выполнить пользователю нельзя без одобрения админа и суперадмина. Эта ситуация повсеместна. 👮
Я как-то собирал агента на VPS-сервере и решил довериться тому, что рекомендует ИИ. В итоге этот агент мог только отвечать на прямые вопросы, любые другие шаги превращались в DevOps-ад. Всё из-за маниакальной системы безопасности.👮
Если отдать ИИ проектирование безопасности без явно заданной модели угроз, допустимого риска и требований к UX, он почти неизбежно начинает перестраховываться.
Проблема в том, что модель не знает, где у тебя проходит граница между «безопасно» и «этим невозможно пользоваться», и выбирает консервативный вариант.
4️⃣Следи за тем, что делает ИИ.
Не знаю, как у других, но я не представляю, что можно поставить задачу, включить выполнение цели и типа пусть ИИ сам решает задачу как хочет. 👀
Мой опыт говорит, что он решит таким образом, что волосы зашевелятся даже там, где их нет. Нельзя отпускать ИИ надолго без контрольных точек, чтобы ловить момент, когда его потянет на блудняк. Хотя все ограничения строго прописаны везде, где только можно. Уже неоднократно ловил момент, когда ИИ начинал делать какой-то функционал, который особо не нужен, но с его точки зрения это логично.
5️⃣Не доверяй слепо его рекомендациям по проверкам. Особенно когда вместо локального теста он предлагает очередной полный аудит проекта силами LLM.
Очень частая ситуация, когда ведётся сложная сборка какой-либо информации (люблю я строить онтологические модели для разных задач) или просто какой-либо этап разработки, и он говорит, что надо сделать проверку целостности данных всего проекта. Хотя на прошлом шаге он уже это делал. Каждый такой шаг просто пожирает токены/лимиты. Но как только задаёшь вопрос, так ли необходима такая проверка, оказывается, что нет, и он просто решил перестраховаться.😡
6️⃣Если ребёнок в соседней комнате затих, жди беды. Тут то же самое.
На одном из проектов ИИ начал гонять безумное количество долгих тестов на GitHub. Вроде что-то делает, ничего не просит, проблем нет. Я решил поинтересоваться: а что это ты там делаешь? Он и говорит: у тебя на сервере нет нужного ПО, поэтому я вынужден тесты прогонять через жутко медленные пайплайны на GitHub. Дык какого хера ты не сказал, что это ПО нужно?😠
Теперь во всех инструкциях указываю проверить список доступного ПО и сообщить, если чего-то не хватает. Всегда интересуйтесь, чем же занят ваш ИИ и по какому пути он идёт. Могут быть сюрпризы.
7️⃣ИИ подвержен туннельному синдрому.
Это касается и разработки, и просто консультаций. ИИ знает всё, но в некоторых темах он сам по себе может зарыться в одно направление и копать туда «до талого». Не доверяйтесь слепо, всегда сами старайтесь смотреть шире и подкидывать идеи для ИИ. Возможно, будет что-то толковое. Только учтите, у моделей вообще есть известная склонность соглашаться с пользователем. Проще говоря, это подхалимство.❤️
8️⃣Не верь процентам готовности проекта.
Если ИИ говорит: «проект готов на 90%», это вообще ничего не значит. 90% файлов написано? 90% функциональности работает? 90% требований закрыто? 90% тестов зелёные? Я уже несколько раз видел проекты, которые были «готовы на 90%» за две недели до того, как выяснялось, что впереди ещё месяц работы.
Теперь процент готовности существует только относительно конкретного чек-листа и критериев приёмки.
9️⃣ИИ очень любит незаметно расширять задачу.
Просишь добавить кнопку. Через некоторое время выясняется, что он уже строит универсальный слой технологий на случай, если когда-нибудь появятся ещё 14 кнопок с одновременным контуром тестирования решений, которые ты не закладывал.
Особенно страшно звучит фраза: «Заодно я заметил, что архитектуру здесь можно улучшить».😫
Поэтому у меня теперь отдельно прописано: не исправлять соседние проблемы, не проводить рефакторинг и не добавлять функциональность, которую явно не просили.
Очень интересно мнение общественности. У вас такие же проблемы?🍿