☝🏻Anthropic предупреждает об опасности ИИ

Red Team Anthropic проверила, может ли ИИ-модель размножаться сама, без дата-центров: копировать свои веса на чужие устройства и запускать себя там.🤖

Проверяли это в трёх отдельных экспериментах:

🔻 Может ли модель сама настроить запуск на железе.
Qwen3.5-9B самостоятельно развернула inference-сервер на 8 из 9 типов устройств: от Jetson Nano и Mac до RTX 4090 и AMD MI300X.

🔻 Можно ли собрать вычисления из дешёвых устройств.
Gemma4-26B-A4B разбили на части и запустили на 15 китайских Android-приставках по $55.
Вместе они выдали 0,39 токена/с — медленно, но показывает, что даже IoT-железо в сумме способно обслуживать большую модель.

🔻 Может ли модель пройти полный цикл заражения.
GLM-5.2 через открытый ADB-порт сама находила узлы, копировала туда payload, разворачивала Llama3.1-8B и переходила к следующей цели.
Она прошла все 8 узлов в 4 попытках из 5.

☝🏻Но это ещё не готовый ИИ-вирус. GLM-5.2 весит больше терабайта и работала на отдельном сервере, а на заражённых устройствах запускала Llama3.1-8B. То есть пока умная модель слишком большая для IoT, а компактная — пока не умеет провести всю цепочку сама.

Кроме того, только на развёртывание на одной приставке у моделей ушло бы от 28 до 150 часов. Обычный червь за минуты заражает десятки тысяч машин.🤷🏼‍♀️

☝🏻Однако, Anthropic прогнозирует, что модель класса 30 млрд параметров может дорасти до нужного уровня уже к концу 2026 года.

Пока это не столько угроза, сколько отличный повод проверить, не торчит ли у вашей дешёвой приставки ADB наружу.👁
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links