Есть мнение, что если ничего не предпринимать, то уже через десять лет мы окажемся в синтетической реальности. Нейросети не понимают, какой контент настоящий, и обучаются на продуктах генерации других нейросетей. Наступит день, когда масса сгенерированного контента станет критической и похоронит под собой результаты научной деятельности всего человечества: мы останемся не только без верифицированных данных, но и потеряем саму возможность их проверять и признавать достоверными.
Идея создания национального ИИ-верификатора заслуживает внимания. Подобная нейросеть будет лишена недостатков зарубежных моделей: она будет учитывать национальный контекст, законодательство и культурные особенности, а использование верифицированных источников снизит риск галлюцинаций и фактических ошибок. Что-то похожее уже предлагалось в одной из версий правительственного законопроекта о регулировании ИИ-технологий, где носила название «суверенная языковая модель».
Но даже если некий «ИИ-верификатор» появится, и даже если он не будет галлюцинировать, я бы всё равно поостерегся полагаться лишь на него. Распространение искаженных знаний – следствие того, что люди пренебрегают необходимостью проверять информацию, критически ее оценивать. И основная роль здесь за энциклопедическими ресурсами, которые работают по проверенной временем технологии. Конечно, веяния времени таковы, что даже энциклопедисты сегодня используют ИИ – но не для написания статей, а чтобы сократить рутинные процедуры.
🇷🇺 Этот пост вышел в МАКС час назад