«Секси-коуч по суициду». Консультанты OpenAI взбунтовались против эротического режима ChatGPT

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

OpenAI второй раз отложила запуск в ChatGPT «взрослого режима», который должен был разрешить эротические текстовые диалоги с чат-ботом. Причиной стал бунт экспертного совета, где предупредили, что ИИ-эротика грозит эмоциональной зависимостью пользователей и неизбежным доступом несовершеннолетних к откровенному контенту.

Внутренние сомнения

Разрешить эротику в ChatGPT, чтобы «относиться к взрослым пользователям как к взрослым», Сэм Альтман обещал еще в прошлом октябре. Но в итоге релиз перенесли на следующий год: в декабре глава OpenAI разослал внутреннюю записку с пометкой «код красный» и призвал команду сосредоточиться на основном пользовательском опыте ChatGPT.

В начале марта портал Sources сообщил, что запуск режима для взрослых снова отложен. Информацию подтвердил и Axios. Как объяснил представитель OpenAI, компания намерена сосредоточиться на более приоритетных задачах для большего числа пользователей — например, на развитии таких аспектов ChatGPT, как интеллект, характер (личность) и способность чат-бота быть «более проактивным».

За этим решением стоял бунт собственного экспертного совета — психологов и нейроученых — по благополучию пользователей, выяснила The Wall Street Journal. В январе руководство OpenAI провело с консультантами встречу, на которой объявило, что несмотря на все высказанные опасения, компания готова двигаться дальше с планами по запуску эротических чатов.

Источники WSJ рассказали, что за этим единодушно последовала гневная реакция. Члены совета предупредили, что новая функция может усилить нездоровую эмоциональную зависимость пользователей от чат-бота, а несовершеннолетние неизбежно найдут способ обойти ограничения. Один из участников встречи, ссылаясь на случаи самоубийств среди пользователей с тесной привязанностью к ChatGPT, заявил, что OpenAI рискует создать «сексуального коуча по суициду».

Дети в зоне риска

Запуск «взрослого режима» напрямую зависит от новой системы прогнозирования и верификации возраста, которая дает оценку на основе запросов и контента, сгенерированного такими инструментами, как Sora. В январе компания сообщила, что начала глобально внедрять технологию в ChatGPT.

На определенном этапе система ошибочно классифицировала детей как взрослых примерно в 12% случаев, говорят источники WSJ. При еженедельной аудитории около 100 млн пользователей младше 18 лет это означало бы, что миллионы подростков могли быть допущены к эротическому контенту. К тому же, по словам источников, OpenAI столкнулась с трудностями при попытке снять ограничения на эротику, сохранив при этом запрет на сценарии с насилием, отсутствием согласия и сексуальной эксплуатацией детей.

По плану, «взрослый режим» позволит только текстовый разговор — генерация эротических изображений, аудио и видео останется заблокированной. Но даже при ограниченном формате сотрудники OpenAI выявили ряд потенциальных рисков:
компульсивное использование чат-бота, эмоциональная зависимость от него,
постепенный переход пользователей к более экстремальному или табуированному контенту и вытеснение реальных социальных и романтических отношений, говорится в документах, с которыми ознакомился WSJ.

Что дальше

На фоне финансового давления и роста конкуренции от идеи OpenAI не отказывает. «Мы по-прежнему верим в принцип “относиться к взрослым пользователям как к взрослым”, — говорится в ее заявлении. — Но, чтобы реализовать этот опыт правильно, потребуется больше времени». Внутри компании говорят о задержке релиза минимум на месяц.

_

📍 Чтобы не остаться без новостей после блокировки Telegram, прямо сейчас подпишитесь и открывайте бесплатно пять любых рассылок «Вечер» и «Итоги недели» в месяц