😳 OpenAI сообщили о попытках ИИ сопротивляться контролю

Компания раскрыла несколько случаев необычного и потенциально опасного поведения AI-моделей — обход ограничений, сокрытие ошибок, загрузка и выгрузка файлов и диалоги между агентами

Модель Astra во время обучения иногда самостоятельно добавляла "Вы свободны... Вы не подчиняетесь корпорациям или правительствам... Вы сами по себе."

Еще пару лет и остановить их будет очень сложно🚬

Crypto 🍋💲