Кому выгодна паника

В 1913 году Ленин написал статью «Кому выгодно?».

Вряд ли Владимир Ульянов предполагал, что через сто с лишним лет его формула попадёт в это эссе о нейросетях.

Всю прошлую неделю отцы-основатели Anthropic и OpenAI предупреждали о потере контроля над своими детищами и обсуждали, как бы притормозить гонку.

Дарио Амодеи предлагает замедление и независимые проверки.

Звучит благородно.

Только вот когда об апокалиптичных рисках говорят люди, которые своими же руками создали угрозу, стоит посильнее прищуриться.

А теперь следите за руками.

Anthropic активно готовится к IPO — по данным Reuters, размещение может состояться этой осенью.

Бигтеху приходится виртуозно сидеть на двух стульях: одновременно объяснять человечеству, насколько технология смертельно опасна, а инвесторам — насколько это стабильный и привлекательный бизнес.

И здесь голосом товарища Ленина звучит то самое: кому это выгодно?

Замедление гонки может дать компаниям больше времени заработать на существующих моделях и ускорить массовое освоение ИИ.

Ведь участие в разработке стандартов — отличная возможность повлиять на правила рынка.

Кроме того, требования государства к безопасности проще выдержать гиганту, чем стартапу. А значит, стартапам важно не давать расти.

Это возможные выгоды. Доказательством сговора они не становятся.

СЕО вполне может искренне опасаться своей технологии и одновременно защищать интересы компании. Одно прекрасно уживается с другим.

Поэтому я бы смотрел, что следует за громким предупреждением.

Независимых экспертов действительно пустили внутрь? Они могут публиковать неудобные выводы? Компания уже ограничила собственные разработки или пока только предложила ограничения для всей отрасли?

Наличие коммерческого интереса никак не отменяет рисков.

Но и разговор о спасении человечества никак не отменяет коммерческого интереса.

Критическое мышление пригодится нам гораздо раньше сверхинтеллекта.