OpenAI официально объявила о планах разрешить эротические диалоги в ChatGPT для верифицированных совершеннолетних пользователей, начиная с декабря 2025 года. Это часть принципа «относиться к взрослым как к взрослым» и попытка сделать чат-бота «более приятным» для людей, которые не имеют проблем с психическим здоровьем.
Давайте разберемся, что это значит и какие есть подводные камни.
С одной стороны многие давно жаловались на "стерильность" и цензуру ChatGPT. Возможность вести личные или творческие диалоги (в том числе эротические) делает ИИ более "человечным" и универсальным инструментом, дает больше возможностей внутри привычного инструмента, без необходимости искать отдельные “эротические ИИ”.
С другой стороны OpenAI переходит из “безопасной зоны” к эксперименту, и критики предупреждают, что это может плохо кончиться.
«Ни один родитель не поверит, что его дети не смогут пройти возрастной контроль», - сказал Марк Кьюбан.
На конференции индустрии для взрослых TES в августе уже вовсю обсуждались сайты с AI-партнёрами, которые могут вести эротические диалоги и «раздеваться» за токены. Разработчики продолжают уверять, что ИИ-персонажи безопаснее веб-кам-бизнеса.
НО
▪️Для доступа к контенту 18+ нужно будет подтвердить возраст (возможно, загрузив фото удостоверения личности). Это значит, что OpenAI будет хранить две критически важные категории данных: ваши интимные чаты и ваши документы ( смотрим кейсы утечек данных, шантажа/мошенничества).
▪️Можно ошибочно запретить взрослому доступ или наоборот пустить подростка.
▪️Что именно считать “эротикой”? Где границы этики и законности? Какие способы предотвращения создания незаконных материалов?
▪️Есть риск, что такой режим станет инструментом “удержания” пользователей, а не инструментом полезного взаимодействия. Сильная персонализация и «игровые» элементы увеличивают вовлечённость.
▪️Риски для психического здоровья. Взаимодействие с ИИ может искажать представления о реальных отношениях, особенно у молодёжи.
▪️Как будут использоваться данные? Компания должна будет предоставить абсолютные гарантии, что эти разговоры не будут использованы для обучения модели, не будут переданы третьим лицам и будут храниться с максимально возможным уровнем шифрования и безопасности. Ведь утечка таких данных является катастрофой.
«Ящик Пандоры» открывается все быстрее...
Пользователям важно быть внимательными и понимать, какие данные они предоставляют, и где проходят границы между безопасным развлечением и потенциальной опасностью.
Предыдыдущий пост про 18+ ИИ-компаньоны и человекоподобные сервисы
#UXWatch
————
@pattern_ai