ЗАРАЗНЫЕ НЕЙРОСЕТИ
#ИИ #кибербезопасность #USA

Anthropic предупредила о скором самораспространении ИИ по умным устройствам.

Компания сделала вывод по итогам собственных экспериментов.

Исследователи установили, что вредоносный ИИ может объединять вычислительные мощности подключённых к интернету устройств и создавать собственные копии. Модели с числом параметров до 30 млрд уже выполняют многие необходимые операции, но пока не могут надёжно завершить весь процесс. В упрощённой сети с ослабленной защитой модели GLM-5.2 и более мощные успешно воспроизвели себя.

Anthropic прогнозирует, что небольшие модели смогут самостоятельно размножаться уже к концу 2026 года. На слабых устройствах отдельные этапы могут занимать несколько дней. Такие сети трудно уничтожить из-за отсутствия единого центра управления.

В будущем ИИ сможет использовать для распространения даже вычислительные центры, однако эксперименты пока не подтвердили такую возможность.

T.ly/Tc4oG