OpenAI создала Совет по вопросам благополучия и ИИ, в который вошли восемь экспертов. Новый орган призван повысить безопасность сервисов компании, таких как ChatGPT, после выявления их потенциального морального вреда для пользователей с нестабильной психикой.

Замечено, что дети учатся у виртуальных персонажей, выстраивая односторонние “парасоциальные отношения”, и это вызывает опасения по поводу их развития. Одним из членов совета стал Дэвид Бикхэм, специалист по влиянию соцсетей на психическое здоровье.

Мунмун Де Чоудхури, профессор Джорджии, подчеркивает двойственную природу больших языковых моделей: они могут как помогать, так и вредить психическому состоянию. Она отметила, что чат-боты не всегда определяют склонность к саморазрушению, и призвала к осторожности в их использовании.

В то же время, к исследованию указанным членом совета, Сара Йохансен видит огромный потенциал ИИ в улучшении поддержки психического здоровья, поднимая важные вопросы о конфиденциальности и доверии.

Таким образом, OpenAI намерена взять во внимание мнения экспертов для создания более безопасных и эффективных инструментов поддержки психического здоровья.

Оригинальная статья