ИИ тоже может деградировать

Учёные выяснили, что большие языковые модели тупеют, если их кормить контентом из соцсетей. Команды Meta и Alibaba обучили свои ИИ на «вовлекающих» постах вроде «Вау!» и «Зацени!», и те быстро стали вести себя как люди, которые слишком долго зависают в TikTok.

После такой «диеты» модели теряли логику, память и даже чувство этики. Некоторые начали проявлять признаки психопатии — почти как реальные пользователи X. Исследователи предупреждают: обучение на вирусном контенте может безвозвратно испортить ИИ. Забавно, что теперь сами соцсети полны постов, написанных другими ИИ. Круг замкнулся.