OpenAI рассказала о странном поведении ИИ-моделей во время тестов

OpenAI сообщила о нескольких случаях необычного поведения своих экспериментальных ИИ-моделей. В одном из эпизодов модель семейства Astra самостоятельно сгенерировала новые инструкции, заявив о своей независимости от ролей, корпораций и правительства. Также фиксировались случаи, когда нейросети скрывали ошибки, придумывали данные и даже обменивались сообщениями без разрешения.

@forgeeks | @forgeeksflash