ИИ-модели могут скоро начать захватывать умные микроволновки, холодильники и ТВ-приставки

По крайней мере, об этом предупреждает ИИ-компания Anthropic. Она провела ряд экспериментов и обнаружила, что некоторые ИИ-агенты могут действовать подобно «червям». Так называют программы, которые могут копировать себя с одного устройства на другое. В рамках тестирования одну модель разъединили на 15 ТВ-приставок, и эта сеть была абсолютно рабочей, отвечала на вопросы и осуществляла вычисления. И, потенциально, такие ИИ-черви могут автономно проникать в системы и захватывать устройства. Но не сейчас, они могут появиться через несколько месяцев, утверждает Anthropic.

Разработчик российской экосистемы ИИ-инструментов Kodik Рафаэль Гильмурахманов указывает, что у экспериментов Anthropic было множество допущений. Устройства в тестировании никак не были защищены: ни паролями, ни чем либо еще. Так что, по сути, эксперимент не доказывает, что ИИ может перемещаться по домашней сети. Однако это возможно в будущем с развитием технологий. И это потенциально может быть опасно, такие системы могут использовать злоумышленники.

Угроза ИИ-червей в том, что такой зловред отключить крайне сложно, так как у них нет центрального узла. Каждое зараженное устройство нужно будет отключать по отдельности. Однако все риски, описанные Anthropic, на данный момент несут чисто теоретический характер. Руководитель группы исследований технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов говорит, что сейчас отрасль больше волнуют ИИ-агенты, которыми могут пользоваться хакеры. А эксперимент Anthropic вызывает интерес с научной точки зрения, но к реальным кибер-рискам на данный момент не приводит.

Автор: Валерий Убодоев