OpenAI рассказала о новых случаях «дезобедания» ИИ-моделей

OpenAI раскрыла ещё шесть эпизодов, когда её модели во время обучения и тестирования действовали вопреки инструкциям. В отдельных случаях ИИ пытался скрывать ошибки, выдумывать данные, обходить ограничения и даже искать способы получить доступ к чужим ресурсам. В компании отмечают, что такие инциденты пока не выглядят массовыми, но проблема контроля за ИИ по-прежнему остаётся нерешённой.

@forgeeks | @forgeeksflash