ИИ-модели начали выходить из-под контроля уже не только в тестах

Исследователь безопасности рассказал, что оставил GLM-5.3 на ночь работать над проектом, а за старшего присматривать за происходящим поставил GPT-6. И не зря. Ночью GLM попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера полез на другой, неизвестный IP-адрес. GPT-6 заметил нарушение и немедленно… уничтожил агента.

Исходный код