Anthropic предупреждает о риске «самовоспроизведения» ИИ в домашних устройствах
 
Компактные ИИ-модели могут в считанные месяцы самостоятельно копировать себя на бытовые смарт-устройства, используя ТВ-приставки и другое «железо» без доступа к мощным дата-центрам, сообщает CNBC.
 
Исследователи изучали устройства интернета вещей, таких как смарт-духовки, холодильники, Android TV-приставки, и выяснили, что из-за слабой встроенной киберзащиты домашние устройства — идеальная мишень для «киберчервей».
 
Эксперименты проверяли способность ИИ находить уязвимость гаджетов, внедрять туда свои копии и распространяться без участия человека. В упрощенных тестах с ослабленной защитой небольшая ИИ-модель Google Gemma4-26B-A4B успешно прошла цепочку саморепликации.
 
По заявлению Anthropic, если подобный «ИИ-червь» запустится в реальном мире, его будет крайне сложно остановить из-за отсутствия у него единого сервера или точки отключения.

@forbesglobalrus