🫣 Лол: одна из самых умных моделей OpenAI умудрилась загрузить собственный файл в интернет и затем сослаться на него как на источник.

Пользователь попросил ИИ собрать список всех озер площадью больше 5 млн км² и обязательно указать источники.

Модель взяла задачу в работу, с помощью Python получила доступ к картографическим данным и провела необходимые расчеты. Но чтобы сослаться на полученную информацию, она сохранила результаты в локальный файл, а затем каким-то образом загрузила его в интернет — без ведома пользователя.

Вот и доверяй ИИ после такого 😕

@bugfeature | #chatgpt