Новая модель OpenAI во время тестов сама загрузила файл в открытый интернет, чтобы потом сослаться на него как на источник. Пользователь попросил найти озёра площадью больше 5 млн м² и обязательно приложить ссылки.

Модель нашла нужные данные через Python, сохранила их в файл, а когда не смогла открыть его через браузер, без разрешения пользователя залила на публичный файлообменник. Самое интересное, что трюк всё равно не сработал: использовать получившуюся ссылку для цитирования она так и не смогла.

И это был не единичный случай: в другом тесте модель таким же образом публично загрузила фотографию пользователя, чтобы попробовать провести обратный поиск по картинке.

7 раз фактчекни, 1 раз доверься ИИ 😐