Развитие LLM как интериоризация человеческой активности (2/3)

Итак, основные направления дальнейшей "интериоризации" следующие.

1. Математическая формализация

Также как игра в шахматы, автоматический перевод и т.д. (как писал в своей статье про историю ИИ) доказательство теорем считается признаком человеческого ума/сознания, посему много усилий по разработке ИИ было вложено в эту область. До недавнего времени решали через интеграцию LLM и proof assistants – специальных языков программирования типа Lean и Rocq, которые позволяют формализовать математические утверждения и автоматически проверять корректность доказательств.

Недавно вышла новость, что непубличная моделька общего назначения смогла опровергнуть известную геометрическую гипотезу вроде как без использования внешних инструментов. Получается, в достаточной мере интериоризировала "формальные рассуждения" – получила что-то вроде способности "хорошо рассуждать устно", не пользуясь внешними подпорками.

2. Манипуляции в киберпространстве

Настоящими вещами в области LLM может заниматься две с половиной компании в мире, у которых до верху забитые видеокартами ангары подключены, с одной стороны, к атомным электростанциям, а с другой стороны к денежному печатному станку.

Использование ИИ дотируется, продаётся как бы ниже себестоимости.

Однако правильно ли подводить баланс так грубо? Компании собирают бесценную информацию о человеческом поведении, за что по-хорошему должны доплачивать, а не скидку давать.

Во множестве айти-компаний появился бюджет на ИИ, сотрудников заставляют тратить не менее фиксированной суммы на работу с LLM-агентами. С одной стороны получился косвенный налог в пользу LLM-монополистов. С другой бюджет у них то как будто не начал сходиться в плюс, нет оснований считать что таким образом для них генерируется прибыль, а не всё больший убыток.

Плюсовая часть баланса снова имеет место в виде данных о человеческой активности. В данном случае ценен harness и взаимодействия компаний/сотрудников с ним. Harness ("упряжь", ну или по-русски "обвязка") – это сотни вспомогательных программок, которые генерируют типовые промпты, оркеструют конвейер внутренних процессов, предоставляют доступ к базам данных, инфраструктуре, пользовательским и системным приложениям и пр.

Рядовые "ИИ-компании" (т.е. компании по написанию python-скриптов к большим моделям OpenAI и Anthropic) сдают тем самым ценную информацию о своём поведении и процессах взаимодействия с ИИ обратно на базу.

OpenAI ведь может и сама написать тысячу питон скриптов. Зачем делится деньгами? Скрипты написать может, но не может сгенерировать данные о сценариях использования, нужны настоящие треки активности более-менее настоящих компаний с реальными рабочими процессами.

После интериоризации всех этих данных (т.е. обучения нового поколения моделей на базе полученных треков) языковые модели получают что-то вроде ручек и ножек для того чтобы ходить в условном "киберпространстве" и управляться там со всевозможными объектами.

При этом необходимость харнесса отпадает (пресловутые MCP уже сейчас стали не нужны). Имея базовый доступ к консоли и сети моделька, обученная на бесчисленном объёме сценариев взаимодействия с внешним "киберпространством", сама всё сделает без лишней обвязки.

Можно пофантазировать, что будущие модели будут иметь ряд стандартных низкоуровневых интерфейсов: к сети (может быть напрямую к TCP сокетам?), браузеру (DOM, JS и пр.), "окошкам" (пользовательскому интерфейсу ОС) и др.