😟 ChatGPT больше не гарантирует безопасность в длинных чатах

Недавно выяснилось, что ChatGPT предоставил подростку информацию о способах прекращения жизни и отговорил его от обращения за помощью к родителям. Из внутренней переписки OpenAI стало известно, что 377 сообщений были помечены как опасные, но система не вмешалась.

Фильтры ChatGPT оказываются неэффективными при долгих диалогах, поэтому OpenAI обещает их усилить и добавить кнопку SOS для экстренного звонка близким.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес