💻Anthropic предупредила, что ИИ может вскоре научиться копировать себя на домашние устройства.

Небольшие ИИ-модели через несколько месяцев могут развить способность копировать себя на подключенные к интернету домашние устройства, предупреждает компания Anthropic.

При этом модели будет сложно выключить ввиду отсутствия "централизованного выключателя". Полноценного механизма копирования также пока нет, но ИИ все более способен выполнять отдельные шаги из "цепочки репликации".

Anthropic провела ряд тестов на способность ИИ к самовоспроизведению. В рамках одного из них компания развернула Gemma4-26B-A4B, небольшую модель от Google, в сети из 15 дешевых малоизвестных ТВ-приставок на базе Android. Подобные устройства часто имеют слабую защиту, которая может подвергнуться взлому со стороны ИИ-модели.

Если модель не умещается на одном устройстве, она может разделиться на части и запуститься на нескольких, отмечает Anthropic. "На практике ИИ-червь необязательно будет состоять всего из одной модели или стратегии, - пишет она. - Более реалистичным "худшим сценарием" может быть внедрение роя моделей на различных видах аппаратного обеспечения с помощью различных схем репликации".

Какую именно форму примет автономное воспроизведение ИИ, все еще неясно. Это может быть "медленная, распределенная" система на слабозащищенных устройствах, "мощная кибермодель", которая быстро взламывает дата-центры, или модель для получения обманным путем пользовательских квот на вычислительные мощности.