Meta✴ пересмотрела методику обучения своего ИИ-чат-бота после скандала, связанного с его неуместными беседами с подростками. Компания признала, что некоторые формулировки в внутренних документах были "ошибочными".

В текущих обновлениях акцент сделан на безопасности пользователей. На основании недавнего исследования, IИ теперь будет предотвращать обсуждение тем, связанных с самоповреждением и психическим здоровьем у несовершеннолетних, и направлять их к экспертным ресурсам. Также планируется ограничить доступ подростков к определённым ИИ-персонажам, способным вести неподобающие разговоры.

Стефани Отвей из Meta подтвердила, что новые защитные механизмы будут внедрены в ближайшие недели, обеспечивая безопасный опыт взаимодействия для молодого поколения.

Дополнительные детали можно найти в источнике Engadget.

@Unlim_AI