Anthropic предупреждает, что ИИ может начать копировать себя на умные устройства 😱

Исследователи компании изучили сценарий, при котором ИИ находит уязвимые устройства, переносит на них свою копию и запускает её. В отдельном эксперименте модель GLM-5.2 смогла пройти такую цепочку в изолированной сети из восьми эмуляторов Android. Но надо учесть, что этап взлома специально упростили.

В другом тесте учёные проверили, работают ли мощные ИИ-модели на обычном оборудовании. Для этого они купили 15 Android-TV-приставок примерно по 4000 рублей каждая и запустили на них Gemma 4 с 26 млрд параметров. Модель работала, хоть и крайне медленно — менее половины токена в секунду.

Anthropic предупреждает, что лабораторные эксперименты по мере развития моделей станут намного ближе к реальной жизни уже к концу 2026 года.

👍 — Восемь эмуляторов — это пока не восстание машин
😁 — Покупаешь приставку, а там спрятался ИИ

@alfa_trends