Цифровая идеология: можно ли запрограммировать традиционные ценности

Объективность и беспристрастность — это те качества, которые часто приписываются нейросетям. Якобы машина — нейтральный инструмент, лишенный человеческих эмоций, а значит ее решения априори более справедливые. Во-первых, есть исследования, которые доказывают, что это не так. Важно, на каких данных были обучены модели, и какие стоп-листы в них заложили разработчики. Во-вторых, мы все чаще видим, как технологию ИИ стремятся нагрузить ценностным и культурным багажом, что связано с постепенной национализацией сферы нейросетей.

Тенденция будет укрепляться. Вопрос уже заключается не только в том, где хранятся данные и кому принадлежит программный код. Государству необходимо определить, какие ценностные установки будет воспроизводить цифровая система, с которой ежедневно взаимодействуют миллионы граждан. Так, в недавно принятом в России законе о поддержке развития технологий искусственного интеллекта есть пункты о традиционных российских духовно-нравственных ценностях. И это общемировая тенденция. ИИ все реже воспринимается лишь как инструмент. У этого процесса будут свои последствия и свои проблемы.

📌Культурный код. Представление о том, что в нейросеть можно загрузить некий перечень убеждений и получить идеологически выверенную машину, является ошибочным. Вернее, так сделать можно, но качество работы LLM радикально снизится. Модель формируется значительно сложнее: через подбор обучающих данных, систему приоритетов, правила фильтрации. Ценностная история могла бы закладываться вокруг организации работы сервисов и систем на базе ИИ, но не в сами модели.

📌Перевод понятий. Традиционные ценности существуют в политическом и культурном языке, где смысл раскрывается через историю, опыт и моральные категории. Алгоритму же требуются формализованные критерии. Разработчики должны решить, как именно модель будет распознавать патриотизм, историческую память, справедливость, коллективизм или приоритет семьи. Любая такая формализация неизбежно упрощает сложные понятия и создает риск бюрократизации ценностей. Живая культурная норма может превратиться в набор шаблонных ответов, которые будут формально корректными, но содержательно пустыми.

📌Замедление индустрии. Российские разработчики по сумме сложных причин, среди которых и технические, и геополитические, пока отстают от западных конкурентов. Нехватка чипов и ресурсные ограничения — один из главных сдерживающих факторов, но добавление к уже имеющимся проблемам дополнительных трудностей в виде верификации разработок на предмет соответствия традиционным ценностям — это дополнительное отягощение, которое вряд ли ускорит процесс разработки.

Вышеописанные аспекты, конечно, не означают необходимость снятия ценностных вопросов в дискуссии о развитии нейросетей, однако они, вероятно, должны быть перенесены в организационную плоскость, а не сферу разработки и развития продуктов на базе ИИ.

Мой комментарий специально для АК