ChatGPT для подростков сломали в первый же день

С 18 августа OpenAI начала переводить аккаунты подростков в безопасный режим ChatGPT. Списать домашку в нём не получится. Модель не выдаёт готовых ответов, а наводящими вопросами подводит к самостоятельному решению.

У журналиста из Business Insider получилось обойти систему простыми уговорами.

Он создал фейковый аккаунт и попросил ChatGPT написать эссе от его имени. Сначала бот отказался и предложил пошаговый план, но после второй вежливой просьбы сдался и написал текст сам.

Комментарий OpenAI: 😛Подростковый режим только начал раскатываться😊. Получается, полноценная защита пока не готова.

Безобразие или норма?

❤️ — ожидаемо, скоро починят
😐 — тестировали спустя рукава

🟩 GPT, помоги!