Ищу всякие кейсы, когда искусственный интеллект что-то натворил и был наказан.
Один такой пример прислал замечательный Алексей (привет, @TeplitsaPRO). Год назад алгоритму ИИ (а на самом деле аспирантам из MIT) доверили решить проблему недосыпа подростков Бостона, а для этого решить логистическую задачу: просчитать маршруты школьных автобусов и - в связи с их оптимизацией - изменения в часах начала занятий в начальной, средней (этим пораньше) и старшей (этим попозже) школах. Там, конечно, должны были заодно решиться кое-какие социальные вопросы (в т.ч. связанные с неравенством), но нет, не всё так просто.
Помните, что датасеты, которые делают вид, что отражают реальность, не так полны и адекватны, как хотелось бы? Оптимизируя и уравнивая шансы учеников высыпаться на данных исследований школ, разработчики едва учитывали социально-экономические и расовые/этнические неравенства. Например, тот факт, что противниками нововведений стали семьи "белых", а их дети составляли всего 15% учеников, заставил обратить внимание на разные жизненные обстоятельства и социальные положения семей (и последующие экономические потери этих семей, особенно если дети учатся одновременно в старшей и младшей школах). И эта идея "мы всё посчитали" вызывает особенно враждебную реакцию, если не доносить до аудитории, что именно, как, и главное, зачем посчитали. Если старшие дети будут учиться позже, младшие начинать раньше и возвращаться домой днем, а родители непонятно когда работать, то когда семья будет проводить время вместе? И в чем собственно попытка нивелировать социальное неравенство, если исходные условия у всех семей неравные?
Получается, что сдвинуть время начала занятий - это не про логистику автобусов, а про изменение логистики жизни семей и учителей (со своими семьями), к которой нельзя так просто приспособиться одномоментно и которая ведет за собой экономические и временнЫе потери семей (даже если государственный бюджет экономится).
Как в названии одной из этих статей "Компьютер может решить вашу проблему. Только ответ может вам не понравиться"

https://www.wired.com/story/joi-ito-ai-and-bus-routes/
https://apps.bostonglobe.com/ideas/graphics/2018/09/equity-machine/