🫡 Почему чат, как интерфейс над AI — должен умереть

Одна из призм, через которые я смотрю на AI — это призма контекста. У него есть два основных ограничения: 1) какой объем информации мы можем передать в промпт 2) насколько эта информация актуальна и точная; Сегодня я сфокусируюсь на втором ограничении и расскажу, почему чат-интерфейс для передачи контекста — тупиковая веткой развития.

ChatGPT неэффективен: вспомните, как вы настраиваете GPT при каждом диалоге. Заходите в чат → описываете ситуацию, примеры → просите решение. Каждый раз это происходит заново. Чат просто не знает ничего о вас из прошлых диалогов, и тем более из других приложения. Даже если добавить популярные интеграции, как сделал Google Bard — 90% актуальной информации окажется вне контекста модели, его придется вводить в чате. Но есть и другие подходы.

Вторая память: эту концепцию двигает стартап Rewind. Я уже рассказывал про него в Феврале. Напомню, что они всегда пишут ваш экран и голос, и дают возможность вернуться к этой информации за любое время. С тех пор они анонсировали еще и устройство, которое всегда висит на шее и записывает ваш голос в разговорах вне компьютера. И уже над этим контекст они уже строят ИИ-ассистента, который отвечает на вопросы используя его.

AI OS: другой более низкоуровненый подход, про него написал Andrey Karpathy. По его словам следующий этап развития AI — это нативная встройка на уровне железа и OS. У системы есть прямой доступ к входному и выходному звуку, картинке, доступ к интернету и хранилищу компьютера. Это самый полный контекст в рамках одного устройства. Представьте объем задач, который можно решать без дополнительных тулов: подводить саммари дня, всех звонков, искать пересечения информации и идеи для постов, заносить информацию от клиентов в CRM и ничего не терять.

😲️️️️Конечно, будет много сомнений по поводу приватности, но и тут есть подвижки 1) мы уже видим достойные локальные модели, чтобы не передавать данные никуда с устройства 2) есть большая масса людей, которые выберут эффективность над приватность, например вот тут в комментариях.

@prod1337