Пчёлы против меда или зачем ставить на паузу развитие ИИ 🤩

Один из самых влиятельных конгрессменов США Берни Сандерс призвал технологические компании OpenAI, Anthropic и Meta* поставить на паузу развитие ИИ из соображений безопасности. В противном случае он пригрозил добиться этого законодательным путем.

Опасность развития ИИ он обосновал потерей контроля за моделями, которые стали слишком «умными» и слишком хорошо находят уязвимости в системах. В последнее время много событий, связанных со способностями ИИ. Правительство США запретило доступ иностранцам к новой версии ИИ-модели Fable 5, из-за чего Anthropic пришлось просто отключить доступ к ней. OpenAI заявила, что её новая модель смогла «сбежать» из песочницы, найдя уязвимости в системах, с которыми работала. А ведущий венчурный инвестор Марк Андриссен и глава NVIDIA Дженсен Хуанг ещё в начале года говорили о достижении AGI – универсального ИИ, который может всё. Так может, правда, пора остановиться?

Не думаем, что в развитии ИИ можно сделать паузу. Напомним, что ядерные арсеналы ограничили только после того, как они позволяли СССР и США кратно уничтожить друг друга. В случае же с ИИ – это не только военный инструмент, но ещё и прикладная технология, которая используется каждый день. И если одна страна остановится, то другая её обгонит – как Тайвань опередил США в литографии. Выход LLM Kimi K3, которая обыграла в тестах новейшие модели Anthropic и OpenAI, показал, что любое промедление в разработке ИИ в США просто отдаст лидерство Китаю. Неужели американские разработчики не могут этого разъяснить своим политикам? Сомневаемся.

Показательно, что в один день с заявлением Берни Сандерса глава Meta* Марк Цукерберг выступил с манифестом об опасности ИИ. Главные риски он увидел во власти, которую он может дать технологиям одной стране или компании. Читаем между строк – Meta* отчаянно отстаёт в разработке ИИ: не помогли ни найм гуру технологии лично Марком, ни миллиардные вливания. Компания потихоньку умерила амбиции и даже планирует сдавать собственные GPU-мощности – чтобы получить деньги здесь и сейчас, а не когда-то в будущем от более совершенного ИИ. И вот тут опасения Марка Цукерберга и Берни Сандерса становятся понятны – технология уровня атомной бомбы или изобретения транзисторов есть, а контролируют её какие-то «мутные» стартапы с ненадёжными гендирами. Надо их приструнить. И повод есть отличный. Безопасность. На неё можно будет списать любые меры.

*Деятельность Meta запрещена в России как экстремистская.