Руководитель лаборатории «Машинное обучение и семантический анализ» Института ИИ МГУ Константин Воронцов выступил на интенсиве «ГорИИзонты: эволюция медиа», организованном Мастерской новых медиа. Площадка объединила экспертов из сферы медиа, технологий и коммуникаций для обсуждения влияния ИИ на создание и распространение контента.
Константин Воронцов подчеркнул, что в развитии нейросетей должны появляться бенчмарки – набор данных, на которых можно протестировать, насколько правильно языковая модель себя ведет в той или иной коммуникативной ситуации языкового употребления.
«Для этого нужны специалисты, в основном в гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. И надо собрать много таких примеров, и на них построить тесты. А тестов таких нужны не десятки, не сотни, а тысячи. На основе чего появятся процедуры сертификации, когда, не пройдя эти тесты, модель не может быть выпущена для использования людьми»
Разработка таких подходов важна для формирования надёжных и безопасных систем ИИ. Она помогает переходить от общих принципов к проверяемым критериям качества — в том числе для языковых моделей, которые всё активнее используются в образовании, медиа, бизнесе и повседневной коммуникации.
Участники дискуссии сошлись во мнении, что развитие искусственного интеллекта уже вышло за рамки исключительно технологической повестки. По их оценке, дальнейшее внедрение ИИ потребует совместной работы государства, научного сообщества, разработчиков, представителей медиа и гуманитарных наук над формированием единых принципов ответственного использования новых технологий.