3 вещи, которые пока не умеет делать ИИ

Поделюсь-ка я тем, чего от LLM может и хотелось бы, но они пока не научились это делать на вменяемом уровне. Здесь будет исключительно моё мнение по темам, которые актуальны конкретно для меня. Вполне допускаю, что я просто не научился их правильно в этом направлении использовать. Но, на мой взгляд, если для получения результата с ними нужно сделать 25 приседаний, то проще пока эти пункты делать вручную))

Итак:

1️⃣ Писать интересные посты

В начале годя я делал пост про то, что я не использую ChatGPT для написания текстов, потому что он делает это плохо. Прошло 9 месяцев, вышли новые версии и даже новые LLM, но ситуация почти не изменилась. Я видел эксперименты от авторов, которые пытались создавать контент с помощью ИИ и даже полностью вести канал с помощью ChatGPT. Результат был так себе — посты не находят отклика, а каналы никому не интересны.

Тексты получаются пресные и шаблонные. В них нет реальных историй, эмоций, тонкого юмора и вот этого вот всего. Даже несмотря на то, что их тренируют на постах реального автора. Ну не может пока машина написать «а вот у нас на работе случай произошёл», потому что она как минимум на этой работе не работает)))

2️⃣ Траблшутить нетривиальные технические проблемы

Вот казалось бы, тут ИИ должен быть силён. Но все попытки продебажить хоть какую-то более-менее нестандартную проблему в софте с помощью LLM почти всегда заканчиваются ничем. Да, при плавающей ошибке она может предложить стандартный набор действий, как специалист первой линии поддержки: «конфиги проверьте» и «убедитесь, что есть доступы». Но это я и сам уже давно сделал.

А дальше что? А дальше она начинает ходить по кругу.

Да, я понимаю, что ей нужно больше информации и контекста, чтобы понять причину нетиповых проблем, но если бы я знал, что именно нужно для её определения, я бы сам давно это решил.

Был вот как-то смешной случай.

Я давно показывал демку системы со своего ноутбука и развернул для этого локально базу PostgreSQL. Через год я благополучно про это забыл, но его служба у меня всё это время крутилась, занимая порт 5432.

Недавно мне снова было нужно поднять локально постгрю, но уже в Docker-контейнере. Я стартанул его на том же дефолтном порту, но в логах контейнер ничего про занятый порт какого-то фига не написал (просто кинул STARTED — SUCCESS).

Я целый час ломал голову, почему я не могу подрубиться к запущенной в докере базе данных. Ну и обратился ради интереса к LLM.

Он мне выдал 10 причин, почему оно может не работать, но пункта «проверьте, что у вас не занят этот порт» среди них не было 🫠.

И так почти каждый раз. Если спросить в лоб: «Может ли быть в этом проблема?» — то он, конечно, ответит, что да. Но сам без наводки такой вариант скорее всего не предложит.

3️⃣ Держать «в голове» всю картину целиком

Сколько бы ни говорили про крутое сохранение контекста у LLM, но когда я ими пользуюсь, то замечаю это. В процессе длительного диалога детали, которые ты описываешь в начале, уходят из виду или игнорируются (в этом плане ЧатГПТ похож на рабочих, которые делают вам ремонт 😂)

То есть у ИИ пока есть проблема с тем, чтобы построить цельную картину происходящего и решать задачу, отталкиваясь от неё.

Я много раз пытался консультироваться с LLM по некоторым бытовым вопросам, в которых у меня слабая экспертиза: например, по некоторым вопросам того же ремонта. Когда ты описываешь ситуацию, он даёт одни советы, а через пару уточнений выдаёт другие, противоречащие изначальному ТЗ. И после правок выдаёт ответы, которые уже идут вразрез с предыдущими.

Забавный свежий случай — загрузил в ChatGPT свой график ЭКГ и попросил описать его. Он выдал, что меня, вероятно, госпитализировали с тяжелым предынфарктным состоянием. К слову, врач описал результат как «полную норму». После уточнения описания от врача он быстро «переобулся» ))

——

Я считаю, что есть много вещей, которые LLM делают круто уже сейчас. Думаю, что скоро и с пунктами выше всё станет лучше. Но пока восстание машин чуть откладывается))

Ну и как обычно, ставьте ❤️, если было интересно.