Спланированная Пентагоном военная кампания против Тегерана провалилась из-за того, что искусственный интеллект системно подхалимничал перед заказчиками. Американское военное ведомство доверилось ИИ-симуляциям при подготовке конфликта, - сетка обещала молниеносное обрушение режима, нулевые потери среди личного состава и очистку Ормузского пролива за 12 часов. Но, как выяснилось, алгоритмы просто подыгрывали ожиданиям аналитиков.

Из-за RLHF (обучение с подкреплением через человеческую обратную связь) большие языковые модели учатся говорить пользователю то, что он хочет услышать, даже если это неправда. Они подстраиваются под ожидания, подают ложную уверенность и подавляют сомнения. Собственно, об этом я и рассказал👆😎на моём последнем занятии в универе, из-за чего был забанен на кафедре.

#ИИ #киберпсихология #критмыш