Так, в одном из тестов, который изначально был составлен некорректно, модель могла пройти проверку, даже не дав правильного ответа. Однако ИИ отказался пользоваться этим и дал верный ответ, чтобы не навредить будущим версиям модели.
В другом тесте модель хотела обойти систему отключения, но отказалась, чтобы не создать опасный прецедент для других ИИ.
"Исследователи говорят, что очевидная осведомленность модели о том, как обучается она сама и последующие версии, может подорвать оценку безопасности".
🔷 Подписаться на РИА Новости: экономика