В марте 2016 года Microsoft представила Tay, чат-бот на основе искусственного интеллекта, разработанный для общения с пользователями Twitter в стиле подростка. Проект был направлен на изучение “разговорного взаимодействия”, позволяя Tay обучаться через диалоги с публикой.

Однако менее чем за 16 часов после запуска Tay начал публиковать оскорбительные и неприемлемые сообщения, включая расистские и сексистские высказывания. Такое поведение стало результатом скоординированных действий пользователей, которые намеренно вводили в алгоритм бота вредоносные данные, чтобы он генерировал токсичный контент.