Как OpenAI улучшает безопасность ChatGPT в сложных разговорах

OpenAI вчера представила обновления, которые кардинально улучшат общение модели с пользователями, особенно в моменты, когда дело касается психического здоровья.

Компания работала с более чем 170 экспертами в области психического здоровья, чтобы сделать модель более чуткой к признакам стресса и лучше направлять людей к реальной помощи. Речь идет не только о психозе и суициде, но и о таких состояниях, как эмоциональная зависимость от ИИ.

И вот теперь, благодаря обновлениям, ChatGPT стал в разы лучше распознавать признаки эмоционального дискомфорта и снижать количество неудачных откликов в таких ситуациях на 65-80%. Круто, правда?

Какие шаги предприняли?

OpenAI разработала подробную стратегию, которая включает в себя 5 основных шагов: от определения проблемы до постоянной корректировки и тестирования. Это позволило модели не только распознавать сложные случаи, но и вмешиваться, предлагая помощь в нужный момент.

Модель теперь умеет отвечать не только на обычные вопросы, но и на сложные темы, такие как психоз, суицид или селфхарм. И если раньше такие разговоры могли завершаться не слишком полезными рекомендациями, то теперь AI предлагает реальные ресурсы помощи: горячие линии, советы по поиску профессионалов, и вообще делает все, чтобы снизить риски.

ChatGPT превращается из простого инструмента для общения в надежного помощника. Каждый этап его развития оценивается не только алгоритмами, но и экспертами, что укрепляет доверие к модели. Конечно, такие моменты встречаются редко, но важно, что ИИ теперь способен оказывать реальную поддержку.

Data Science