Миру грозит «цифровая плесень»

Компания Anthropic изучает «цифровую плесень» — ИИ, который может размножаться на устройствах умного дома. Такие ИИ-черви смогут автономно размножаться и заражать телевизоры, бытовую технику и серверы.

Исследователи успешно развернули простую модель на 15 дешёвых Android TV-приставках, а более мощный ИИ (до 30 млрд параметров) смог самораспространяться в лабораторной сети. Пока это моделирование, но к концу года появление ИИ, который будет незаметно паразитировать на интернете вещей, Anthropic считает вполне реальной перспективой.

Исходный код