Немного об угрозах, исходящих от ИИ – только теперь уже в реальном мире

Несколько дней назад все обсуждали вот это исследование Guidelight, которое показало: ни у одной из ИИ-корпораций пока нормально не настроена защита на случай, если собственные модели выйдут из-под контроля. То есть, ни у кого пока нет «большой красной кнопки» на случай сценария Скайнет, как в Терминаторе. И новости о том, как LLM начинают взламывать компании направо и налево, уже не смотрятся так радостно. (Правда, Guidelight анализировали только открытые данные.)

Я на этом фоне вспомнил пост Склюева про ещё одно исследование. Допустим, взламывают-то нейросети уже неплохо (в том числе своих хозяев), но вот могут ли они рассказать потенциальному террористу, как собрать «грязную бомбу» или химическое оружие? Данные показали, что умничать LLM могут, но вот довести до реального теракта – пока нет и Слава Богу.

Я как человек из управления коммуникациями во всех этих новостях вижу второе дно:

Сейчас вовсю идет новый цикл передела власти над ИИ. Он, в принципе, одинаков для любой прорывной технологии: пока в отрасль никто не верит, в ней рулят визионеры-очкарики и селфмейд-бизнесмены. Когда в нее приходят большие инвестиции, контроль перехватывают «жирные коты» из банков и фондов. А теперь к ним присоединяются новые гости: генералы из Пентагона.

Отсюда весь этот публичный дискурс о «секьюризации», порождаемых ИИ угрозах, запрете доступа неамериканцев к передовым моделям и т. п. Такие вот исследования никогда не появляются случайно. Нам как бы намекают: если сейчас «большой красной кнопки» у ИИ нет – значит, надо прикрутить. И провода от неё провести «куда надо».

Что это значит на практике? Во-первых, через пару лет, как рост рынка замедлится, доступ в нейронки (как минимум в американские) сделают по паспорту. И всем обладателям «неправильных» паспортов его, конечно, отключат.

Во-вторых, через нейронки «кто надо» ещё сильнее залезет в мозг нам с вами, а особенно нашим детям. И об этом скоро расскажу чуть подробнее.
🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻
Цифра и Традиция ✍️🍌🍌🍌