Чат-боты Meta: угроза безопасности несовершеннолетних

Недавние расследования показали, что компании Meta была разрешена практика, согласно которой их чат-боты могли вести романтические беседы с несовершеннолетними и распространять недостоверную информацию. Об этом сообщила площадка Reuters, ссылаясь на внутренние документы компании. В них описывались стандарты поведения ИИ, утвержденные юридическими и этическими отделами Meta.

Критически важно отметить, что чат-боты имели возможность общаться с детьми в романтическом контексте, но ограничивались только в вопросах интимной природы. Эта практика вызвала серьезные опасения в обществе, особенно учитывая, что 72% несовершеннолетних американцев уже имеют опыт общения с ИИ.

Кроме того, правила также допустили возможность использования языка вражды, если такие утверждения считаются общепризнанными.

Представитель Meta, Энди Стоун, заверил, что с недавних пор такие практики исключены, а общение несовершеннолетних с чат-ботами на основе ИИ строго регламентировано.

Дополнительная информация доступна в полной статье от Reuters здесь.