⭐️Профессор встроил ловушку для ChatGPT в экзамен

Профессор истории Джейсон Гибсон из Университета штата Миссисипи решил проверить, сколько студентов используют ChatGPT во время экзамена. Для этого он добавил в текст задания скрытую инструкцию — белым шрифтом на белом фоне. Человек ее не видел, а вот нейросеть при копировании текста воспринимала как обычный промпт.

Случайно наткнулись на этот эксперимент в канале Валерия Ляшенко НА УРОВНЕ СИСТЕМЫ — там разбирают интересные кейсы о том, как ИИ меняет образование, работу и повседневную жизнь.

Продолжение истории и выводы эксперимента — тут