Это не универсальный бухгалтерский стандарт, а просто удобная модель для понимания принципа. Но есть программное обеспечение, где такая логика становится опасной. Военные системы. Авиация. Ядерные объекты. Космические аппараты. Если ошибка в приложении обнаружена после выпуска, ее можно исправить обновлением. Если ошибка обнаружена в системе вооружения или в аппарате, летящем к другой планете, цена может быть совершенно другой. Поэтому в критически важных системах доля расходов на тестирование, моделирование отказов и верификацию может быть сопоставима с расходами на разработку или даже превышать их.
Условно возьмем обратную модель: 40/60 или даже 30/70. И теперь применим эту логику к современному ИИ. Frontier AI уже трудно считать просто еще одним программным продуктом. Такие модели умеют программировать, искать уязвимости, работать с химической и биологической информацией, управлять компьютерными инструментами и выполнять длинные последовательности действий. Чем мощнее модель, тем дороже доказать, что она безопасна. Теперь простая арифметика.
Предположим, полный цикл создания одной передовой модели стоит около $3 млрд. Если условно считать, что $2,1 млрд идет на разработку, а $0,9 млрд на тестирование, это соответствует модели 70/30. Но если мы начинаем относиться к такой системе как к критически важной и меняем пропорцию на 30/70, сохраняя те же $2,1 млрд разработки, общий бюджет одной модели становится уже около $7 млрд. Из них примерно $4,9 млрд приходится на тестирование и проверку безопасности. Если компания проводит пять крупных циклов разработки в год, получается уже не условные $15 млрд, а около $35 млрд. Разница около $20 млрд в год на одну компанию. И вот здесь безопасность превращается из философской проблемы в финансовую.
Сегодня наиболее заметные независимые игроки frontier AI это *OpenAI, Anthropic и xAI*. Все три участвуют в чрезвычайно капиталоемкой гонке: новые модели, дата центры, вычислительные мощности, исследовательские команды и все более сложное тестирование. При этом *Google с Gemini и Meta* находятся в несколько иной финансовой ситуации. Они встроены в огромные корпорации с большими существующими источниками доходов.
Это само по себе ничего не доказывает относительно мотивов компаний. Но экономические стимулы у них действительно различаются. Если каждая AI-компания должна самостоятельно строить огромную инфраструктуру для тестирования безопасности, каждая несет эти расходы отдельно. Но если часть самых дорогих проверок берет на себя государственная система, одна инфраструктура может обслуживать сразу несколько разработчиков.
С точки зрения общества в этом может быть серьезная логика. Но есть и другая сторона: часть расходов переносится с компаний и их инвесторов на государство, то есть на налогоплательщика. И здесь появляется еще один фактор: политика администрации Трампа. Вашингтон открыто рассматривает ИИ как стратегическую гонку и говорит об американском лидерстве, ускоренном внедрении передовых моделей и конкуренции с Китаем. Получается интересное противоречие. Государство говорит индустрии: *быстрее*.
Рынок говорит: *быстрее*. Конкуренты говорят: *быстрее*. Но одновременно общество требует: *докажите, что это безопасно*. А серьезное тестирование требует времени, денег и огромной инфраструктуры.
Поэтому сегодняшние призывы крупнейших AI-компаний к государственному участию в тестировании можно рассматривать не только как предупреждение об опасности технологий. Возможно, это еще и своеобразный *cry for help*. Не обязательно в смысле: «Остановите нас, пока мы не создали что-то опасное». Возможно, гораздо прозаичнее: *«Если вы хотите, чтобы мы одновременно выиграли AI race и доказали безопасность этих систем, помогите создать и оплатить инфраструктуру, которая сможет это проверить».
Это не означает, что опасность ИИ выдумана. Наоборот. Риски могут быть совершенно реальными, а компании могут совершенно искренне их опасаться. Но искренний страх перед рисками и финансовый интерес в государственном участии вовсе не противоречат друг другу.
Post #85345
22.5K
- 👍 108
- ❤ 51
- 💊 7
- 🤔 6
- 🥱 3
- 😢 1