ИИ-модели могут научиться копировать себя на коммерческие устройства

ИИ-модели могут научиться копировать себя на коммерческие устройства уже через несколько месяцев. Об этом предупреждает Anthropic.

В экспериментах компании ИИ-модели искали уязвимые устройства, переносили на них свой код и продолжали распространяться без участия человека.

Речь идет об устройствах Интернета вещей, таких как умные духовки и Android TV-приставки. Anthropic добавила, что модели, способные к репликации, будет сложно извлечь, поскольку у них отсутствует централизованная точка отключения и они способны распознавать незнакомые устройства, нацеленные на центры обработки данных.

@Runet