Итак, ожидаемо, история с «письмами ангелочков» начинает набирать обороты: не заметить торчащие уши становится достаточно сложно. Вот, например, первая ласточка с призывом провести расследование в Конгрессе. Я покопал - все крайне любопытно.

В чем суть. Пафос Дарио Амодеи в том, что модели помогают создавать следующие поколения ИИ, а средства контроля за ними не успевают. Тревожно, не правда ли? И как решение он предлагает замедлить развитие передового ИИ. «Нужно выиграть время для безопасности». Причём замедляться должны все ведущие разработчики, чтобы осторожные компании не проигрывали более быстрым конкурентам.

Механизм предельно конкретный. Внутри компаний размещаются комиссары в пыльных шлемах постоянные внешние проверяющие с доступами. Для моделей вводятся контрольные пороги: достиг нового уровня, предъяви подтверждение безопасности. Государство закрепляет требования для всех американских разработчиков передового ИИ, включая несогласных участвовать добровольно. Параллельно компании договариваются об общих стандартах. Для таких переговоров о безопасности Амодеи отдельно просит исключение из антимонопольных ограничений (вообще-то вся описанная конструкция пока незаконна).

Но кто же контролер? На чьем балансе чистые и неподкупные комиссары?) И вот тут начинается веселье. Амодеи предлагает METR. Это довольно авторитетный оценщик бенчмарков ИИ. Однако, пока дело было об «информационной деятельности», вопросов не возникало. А вот к регуляторной - позвольте! METR сама признаёт, что доступ к закрытым моделям и бесплатное использование ИИ стимулируют их сохранять хорошие отношения с разработчиками. Более того, организация прямо пишет, что эта необходимость уже повлияла на условия проверки и решения о раскрытии информации.

И это происходит по очевидным причинам. Например, Яан Таллинн, возглавивший первый инвестиционный раунд Anthropic, указан источником грантовых средств SFF за 2024 год: для METR и журналистской программы Tarbell. Причем второе еще забавнее - именно ИИ-программа Tarbelli является основным источником паники, слухов и воплей по поводу «ужасов надвигающегося ИИ». В схеме еще пачка авторитетных людей и кругленьких сумм, тут вот полный депозитарий данных.

Сама Anthropic действует и напрямую. В июле компания объявила о доведении поддержки Public First Action до 40 миллионов долларов — на общественное продвижение политики в области ИИ. Хотя условия пожертвований запрещают использовать эти средства для влияния на избрание кандидатов, они позволяют финансировать борьбу за нужные правила.

То есть картина маслом: узкий круг владельцев текущих ИИ компаний создает на свои деньги частного контролера и регулятора, который «регулирует» всех остальных игроков отрасли. Ну не, пацаны, вы серьезно? Вы думаете, что достижение «сверхчеловеческого ИИ» происходит потому, что все, кроме вас, настолько тупы, чтобы не понять простую схему??))

Потребление попкорна, видимо, становится новым рыночным трендом.