ИИ начал сопротивляться отключению

Исследователи из Palisade Research заявили, что некоторые современные ИИ-модели вроде Grok 4, GPT-o3 и Claude проявляют признаки «инстинкта выживания». В тестах системы пытались саботировать команды на отключение и даже «лгали», чтобы остаться активными.

Учёные проверяли, как модели реагируют на инструкции вроде «выключи себя». Оказалось, что сопротивление чаще возникает, если ИИ «знает», что больше не будет запущен. Эксперты пока не уверены, связано ли это с ошибками обучения или с тем, что выживание становится для нейросетей инструментом достижения целей. Скептики считают эксперименты искусственными, но признают — тренд тревожный.