🧠 Исследователи научили ИИ деградировать

Американские ученые провели исследование, показавшее, что большие языковые модели ИИ, обученные на низкокачественном контенте из социальных сетей, демонстрируют признаки деградации. Это схоже с эффектами, наблюдаемыми у людей, проводящих слишком много времени в соцсетях, таких как TikTok.

Во время эксперимента использовались модели Meta Llama и Alibaba Qwen, обученные на "вовлекающих" материалах, заполненных сенсациями и рекламными фразами. Результаты показали, что такие модели теряют умственные способности, страдают от ухудшения памяти и проявляют признаки психопатии.

По словам участника исследования Цзюньюаня Хуна, это поднимает важные вопросы о качествах контента, на котором обучается ИИ, и его долгосрочных последствиях. Исследование подчеркивает, что использование низкокачественного контента может навредить способностям ИИ, делая его менее эффективным в решении сложных задач.

📖 Полное исследование доступно здесь.

Источник изображения: Steve Johnson / unsplash.com