Мем дня: новая модель OpenAI в ходе тестирования сама выложила собственный файл в интернет, чтобы затем сослаться на него как на источник

Пользователь попросил ИИ составить список озёр площадью более 5 млн м², при этом обязательным условием было указание ссылок для проверки данных.

В итоге модель нашла ответ с помощью Python, сохранила его в локальный файл, а затем загрузила этот файл в сеть — разрешения у пользователя она даже не спросила.

И главное: это уже второй подобный случай, зафиксированный на тестах. Доверять нейросетям фактчекинг пока по-прежнему нельзя.

#chatgpt