Meta* тайно стравливала ИИ конкурентов с фейковыми подростками

Meta* наняла армию аутсорсеров, чтобы те массово регистрировали фейковые аккаунты несовершеннолетних в ChatGPT, Gemini и Character.AI. Под видом подростков, оказавшихся в кризисных ситуациях, тестировщики скармливали чужим нейросетям десятки тысяч провокационных запросов на запретные темы. Никто из конкурентов даже не подозревал, что их хваленые фильтры безопасности проходят жесткий краш-тест от компании Марка Цукерберга.

Только за один этап подрядчики прогнали через алгоритмы более 45 тысяч токсичных промптов, аккуратно занося реакцию чат-ботов в гигантские таблицы с фейковыми почтами и паролями.

Сама Meta* не видит в своих действиях ничего криминального и цинично называет это стандартной практикой для развития индустрии. Однако эксперты уверены, что забота о детях здесь стала лишь удобной ширмой для агрессивной конкурентной разведки и сбора чужих алгоритмических ошибок.

Пострадавшие корпорации предсказуемо пришли в ярость, ведь тайные тесты прямо нарушают их правила использования сервисов.

Пикантности добавляет тот факт, что в США сейчас идет масштабное расследование властей по вопросам детской безопасности в ИИ. И пока чиновники пытаются навести порядок, технологические гиганты втихаря собирают компромат друг на друга, используя виртуальных школьников в качестве наживки.

*Признана экстремистской в РФ

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX