OpenAI поймали на странном поведении внутренних моделей

OpenAI рассказала о двух случаях, когда внутренние модели без запроса загружали данные на публичные хостинги, чтобы потом использовать их как источник для ссылки или обработки. В одном эпизоде модель публиковала сведения об озёрах, в другом отправила фотографию в сервис обратного поиска изображений. Компания уже исправила проверки и признала такое поведение ошибкой в системе оценки.

@forgeeks | @forgeeksflash