ИИ-конвергенция

Прошлый пост был о финансовых проблемах ИИ-индустрии, а сейчас остановимся на структурных. Все больше разговоров о том, что, достигая предела оптимизации в тех или иных задачах разные модели становятся все больше похожи друг на друга. Слабых моделей все меньше, и все худо-бедно упираются в плюс-минус одинаковый потолок (см., например Epoch's Capabilities Index).

А какие последствия? Процитирую The Convergence Problem: Rethinking the 2028 Global Intelligence Crisis Джереми Дэли:

That's the convergence problem. Three things have to be true at once for it to kick in, and modern AI systems happen to make all three true together. The training data is largely shared across vendors. The optimization objectives end up looking similar from one team to the next, because the metrics that matter are the same ones everyone else is also chasing. And the feedback loops are tight enough that small differences get sanded out quickly. Put those conditions in place and AI systems converge directionally, if not perfectly. Workflows and decision-making patterns start to narrow toward the same local maxima.

И тут возникают опять финансовые проблемы для текущих лидеров ИИ. Самая главная в том, что они вряд ли смогут построить монополию/олигополию в стиле Google, Microsoft, Apple, Nvidia и делать на этом деньги:

A world of abundant intelligence puts best practices and continuous optimization within everyone's reach at the same time. The end state on the other side of that looks less like a stable monopoly and more like a permanent state of churn: high-frequency competition where leadership is temporary and barriers to entry stop holding.

А это значит, что дорогая модель в итоге будет мало чем отличаться от дешевой/бесплатной, а если это так, то зачем платить больше? При этом конвергенция на уровне процессов на уровне клиента может вполне сочетаться с персонализацией:

AI-driven personalization can produce enormous variation in outputs, with the recommendations and interface elements differing for every user. Personalized outputs and convergent systems aren't mutually exclusive, though. They tend to coexist. The underlying optimization strategies and decision frameworks converge even as the customer-facing layer diversifies. Netflix and Spotify don't differentiate through their recommendation algorithms, which are structurally similar. They differentiate through content libraries, brand, and distribution. The personalization layer creates the appearance of divergence while the systems underneath it homogenize.

@NewGosplan

https://www.jeremydaly.com/the-convergence-problem/