По его мнению, независимые эксперты должны получать доступ к новым ИИ-системам ещё во время обучения. Это позволит заранее выявлять потенциальные риски и проверять модели до их широкого запуска.
При этом речь не идёт об отказе от развития ИИ. Идея в том, чтобы методы контроля и безопасности успевали развиваться вместе с возможностями технологий.
Мы попросили Алексея Мячина, руководителя направления AI-продуктов АНО «РТИИ», оценить инициативу.
«Сейчас модели становятся мощнее быстрее, чем мы успеваем научиться их проверять. В авиации или фармацевтике продукт не запускают без внешней проверки, поэтому доступ независимых экспертов к моделям ещё на этапе обучения вполне логичен.
Но я бы не ставил вопрос как "замедлять или нет". Важно понять, что именно считать замедлением, кто будет контролировать выполнение таких инициатив и подключатся ли все крупные игроки. Есть и риск, что подобные меры могут помочь нынешним лидерам рынка закрепить свои позиции.
Направление правильное, но выводы стоит делать после появления конкретных правил и первых результатов независимых проверок». - прокомментировал Алексей Мячин
Главный вопрос сегодня не только в том, насколько быстро развивается ИИ, но и в том, успеваем ли мы создавать инструменты для его безопасной проверки.
💙 АНО РТИИ в Max