Обзор нового видео от Андрея Карпати

Редкая роскошь в наше время — обзор, написанный человеком.

Посмотрел свежее выступление Андрея Карпати в Y Combinator, которое недавно промелькнуло в нескольких каналах. Андрея я люблю больше всех из лидеров мнений в AI и слежу за ним, потому что он сохранил в себе майндсет инженера, что доказывает периодическими видео на ютубе с лайв кодингом. Я писал, что он сравнивал LLM с операционной системой. В этот раз про это тоже было, но было еще немало новых интересных аналогий.

В первой части Карпати предлагает новое понимание термина ПО

Software 1.0 — традиционный код для компьютеров
Software 2.0 — веса для нейросетей
Software 3.0 — промпты для LLM на естественном языке

И еще он приводит аналогию LLM с электричеством. Обучение LLM требует больших капитальных затрат — так же, как электросеть требует построить электростанцию. Операционные расходы инференс — как стоимость генерации энергии. Тарификация за миллион токенов — как тарификация за киловатт-часы. И так далее.

Вторая часть была о “психологии” нейросетей. Карпати сравнил LLM с людьми с психологическими особенностями — например, с аутизмом: где-то они очень странные, но в чем-то гениальны. LLM способны запоминать огромные массивы информации, но иногда ведут себя непредсказуемо, совершают глупые ошибки, галлюцинируют.

Третья часть — про ставку на частичную автономность и неверие в быстрое наступление AGI. Еще в 2013 году он катался на первом беспилотнике Waymo — тогда всё уже работало очень хорошо, но прошло 12 лет, и мы всё еще далеки от полностью автономных автомобилей. С LLM и агентами ситуация будет похожей: впереди еще огромный объем работы. Сейчас основное внимание уделяется созданию приложений с частичной автономностью: редакторы кода вроде Cursor, графические редакторы с частичной автоматизацией. LLM делают небольшую итерацию, человек её верифицирует, потом еще одна итерация — и так по кругу. И тут крутая фича — это ползунок степени автономности, которой можно настроить размер итерации.

Четвертая часть — про ставку на агентов. Агенты отличаются от обычных ботов тем, что понимают инструкции на человеческом языке. Это особенно важно, потому что на человеческом языке уже существует огромное количество инструкций. И новые инструкции тоже проще написать на человеческом. А там, где есть сложности в представлении информации, есть специальные построители контекста и хайповый нынче MCP протокол. Таким образом, агенты могут ходить по сайтам, нажимать кнопки, выполнять команды — и всё это будет программироваться куда проще, чем раньше.

💎 А вообще посмотрите сами. Если не узнаете что-то новое, то точно словите классный вайб. Буду рад вашим реакциям 🔥

#tech@big_ledovsky