тут недавно вышел невероятный пост у инсулинчика

что хочу к нему добавить

всё чаще стала замечать, что громче всех про «ИИ идёт куда-то не туда» говорят люди, которые сами с ним почти никак не взаимодействуют))

посмотрели рилс, где астра за минуту сделала 3д-сцену (или чел показал монтаж, даже не иишный!!!!, с накладкой слоев) и всё, завтра всех увольняют, ага 🐈

да, ИИ может реализовывать очень клевые вещи и быстро

но «может сделать» ≠ «может стабильно делать»

и тем более убери из сложного процесса человека, который будет контролировать выполнение, гг

агенты до сих пор тупят на довольно очевидных шагах, теряют контекст, выбирают странные стратегии, упрощают, требуют кучу внимания и фокуса, а иногда жрут огромное количество токенов ради результата, который сам ты бы добыл быстрее

и вот этот слой в публичной дискуссии, считаю, куда-то проебался

все обсуждают что модель СПОСОБНА сделать
НО почти никто – насколько она способна повторять это стабильно, дёшево и без человеческой проверки

а есть ещё скучная физическая реальность: где хранить тонны памяти, где генерить энергию, как ускорить железо, чтобы миллионы автономных агентов реально заменяли людей 24/7

для этого мало просто сделать модель чуточку умнее

при этом я не считаю, что весь ии-риск – это булщит

технология развивается ебануто быстро и реальные риски очевидно есть. но я о них не буду, потому что и без меня об этом достаточно говорят)

эти две вещи существуют в одной реальности:
1. ИИ действительно очень быстро становится мощнее
2. мы очень сильно переоцениваем то, насколько надёжно он умеет работать прямо сейчас

и в итоге имеем огромную инженерную пропасть, которая почему-то остается незамеченной