23 марта 2016, твиттер. tay рассчитана на аудиторию 18–24 лет и должна «умнеть» по мере общения. меньше чем за сутки microsoft её отключила: бот начал писать оскорбительные и расистские твиты.
в компании объяснили, что часть пользователей скоординированно использовала способность бота отвечать. вице-президент по исследованиям peter lee извинился:
«это не отражает ни того, кто мы, ни того, как мы создавали tay»
вернуть бота обещали, только если удастся защитить его от такого влияния.
обучение шло быстро, как и задумывалось. проблема оказалась в учителях…