Anthropic предупреждает: ИИ сможет проникать в бытовые устройства

Небольшие модели, оказавшиеся в сети, могут научиться копировать сами себя на ТВ-приставки, духовки и прочую подключённую к интернету бытовую технику.

Anthropic опубликовала исследование 12 октября. Речь идёт о самостоятельном распространении по устройствам без связи с дата-центром. Остановить такое проникновение будет сложно, потому что единой точки отключения нет.

Пока были только тесты. Во время экспериментов с разными открытыми моделями полностью скопировать себя и внедриться в тестовые устройства смогла только GLM-5.2 от Z.ai. По прогнозам Anthropic, малые модели смогут сделать то же самое уже к концу года, если темпы развития сохранятся.

🛡 Anthropic просит производителей усилить базовую защиту устройств с выходом в интернет.

Что об этом думаете?

😱 — лучше бы не предупреждали
😎 — опять набивают себе цену
👻 — в мою микроволновку проникать опасно для здоровья

🟩 GPT, помоги!