Anthropic предупреждает, что ИИ скоро сможет самостоятельно размножаться через ТВ-приставки, духовки и прочую умную технику

Небольшие ИИ-модели могут научиться сами копировать себя на бытовые устройства с выходом в интернет уже через несколько месяцев. Такой прогноз дала команда Frontier Red Team компании Anthropic: она опубликовала исследование 12 октября. Речь идет о самостоятельном распространении без доступа к дата-центрам: по умным духовкам, дешевым ТВ-приставкам на Android и другой технике, которую производители плохо защищают.

Их потенциальными целями могут стать умные телевизоры, холодильники, духовки, роботы-пылесосы и даже газонокосилки. Причём для работы таким нейросетям не понадобятся мощные дата-центры: они смогут использовать вычислительные ресурсы заражённой бытовой техники.

Для защиты Anthropic предлагает провайдерам отслеживать передачу файлов размером в несколько гигабайт и подозрительный обмен данными между устройствами, изолировать зараженную технику и предупреждать владельцев. Производителей компания призывает отказаться от небезопасных заводских настроек.