Самовоспроизводящиеся ИИ-модели могут появиться уже через несколько месяцев — Anthropic

Компания Anthropic предупредила, что небольшие ИИ-модели смогут самовоспроизводиться на устройствах IoT уже через несколько месяцев. Такие модели не будут иметь централизованного отключения и смогут распространяться, используя уязвимые устройства.

В ходе тестирования исследователи Anthropic запустили модель с 25 миллиардами параметров на 15 недорогих Android TV-приставках. Устройства смогли выполнять распределённые вычисления, подтвердив возможность концепции.

Угроза заключается в том, что ИИ-черви могут использовать слабые защиты устройств IoT, разделять свою модель на части и работать на заражённых устройствах. Для защиты предлагается использовать сетевой карантин и ужесточить стандарты безопасности IoT-устройств, например отказаться от паролей по умолчанию и обеспечить автоматические обновления.

Подписаться