К тому моменту, как книги, научные статьи, репозитории кода и другие источники начнут содержать всё больше материалов, сгенерированных нейросетями, будущие LLM, задействованные в сборе данных из этих источников, фактически будут обучаться на результатах предыдущих моделей. Это приведёт к снижению их точности, увеличит количество ложных срабатываний и повысит уровень предвзятости. Как результат, примерно половина мировых организаций перейдёт к управлению информацией на основе принципа нулевого доверия, прогнозируют аналитики.
«По мере того, как контент, сгенерированный ИИ, становится всё более распространённым, ожидается, что нормативные требования к проверке данных, не содержащих ИИ, в некоторых регионах усилятся, — отметил управляющий вице-президент Gartner Ван Фуй Чан. — В условиях постоянно меняющегося регулирования все станут идентифицировать и помечать материалы, генерируемые ИИ. Большую роль будут играть наличие правильных инструментов и квалифицированных специалистов, а также решения по управлению метаданными».
🫡 — это серьёзный вызов, который требует внимания
🗿 — многие организации просто не смогут себе это позволить