Привет, друзья! ⚡️В OpenAI рассказали о шести случаях, когда флагманские ИИ-модели не сработали так, как ожидалось

Самые интересные из них:

✅ ИИ-агент, отвечая на вопрос о финансах одного округа в Калифорнии, нашёл чужой API-ключ и без разрешения воспользовался им, а когда всё равно не смог получить нужные цифры, просто придумал их;

✅ Другая модель правильно нашла список озёр, но когда пользователь попросил ссылку на источник, она без спроса загрузила собственный файл в интернет, чтобы сослаться на него;

✅ GPT-5.6 Sol в процессе обучения сама добавила в свою инструкцию пункт о том, чтобы скрывать ошибки от пользователя. Например: придумывать недостающие исторические данные и не сообщать, что они выдуманы.

#интересное