Эксперт Алексей Пастухов: в гонке ИИ победит тот, кто установит предел власти алгоритма над человеком

Новым собеседником Аналитического центра ТАСС по теме образа будущего стал Алексей Пастухов, один из авторов доклада «Дух Победы и мировая гуманитарная повестка. Нюрнбергский императив в эпоху антропотехнического перехода», координатор программы «Дух Победы: мировая гуманитарная повестка», генеральный директор компании ICS Consulting.
 
Главное из интервью:

👔Я бы отделил голливудскую картинку – рой ботов, мол, захватит интернет через полгода - от вполне реальной опасности, которую эти же компании и породили. Разработанные ими системы уже помогают строить следующее поколение систем, в которых агенты действуют сообща и выходят за пределы порученного. А человеческая ответственность за решения размывается быстрее, чем выходят пресс-релизы о согласовании ИИ с человеческими целями и ценностями.
 
 
👔На мой взгляд, в мотивах Амодеи угадывается несколько слоёв. Не замечать хотя бы один из них – это непростительная провинциальная близорукость.
 
▪️Первый – это юридическая подстраховка. Кто первым громко описал катастрофу, завтра скажет: «Мы предупреждали».  
 
▪️Второй уровень – это война лабораторий внутри самого Запада. Anthropic последовательно продавала себя как безопасную альтернативу OpenAI.
 
▪️Третий уровень – это достижения Китая и его открытые разработки. Страх конкуренции вполне реален: Пекин ликвидировал отставание в качестве моделей, обходясь меньшими вычислительными ресурсами. Открытые и средние по масштабу лаборатории перестали быть статистами.
 
▪️Четвёртый, главный слой – это страх потерять монополию на норму. Они поняли: дело уже не в параметрах модели: сейчас решается, кто установит предел власти алгоритма над человеком. А значит, кто определит рынок, право и язык будущих судов. Отсюда и внезапная любовь к «замедлению» разработок.
 
👔Защита — это архитектура власти, а не программная заплатка. На наш взгляд, ИИ допустим только там, где он расширяет возможности ответственного действия человека: не подменяет целеполагание, не лишает прав, не применяет силу. За человеком должно оставаться неотчуждаемое право не быть полностью вычислимым.

👔Победит не обладатель самого мощного вычислительного кластера, а тот, кто определит смысл алгоритма и предел его власти над человеком. США - лидер по капиталу, чипам, лабораториям, создающим передовые модели, но и в способности превращать страх в повестку для регулирования. А это, согласитесь, не то же самое, что «однозначный мировой лидер». Китай уже доказал, что догонять можно - дешевле и быстрее, чем хотелось бы Вашингтону.
 
👔Место России в этой гонке - не третье кресло в чужом совете директоров и не роль вежливого комментатора американской паники. Россия не обязана принимать чужую модель прогресса как судьбу. В упомянутом докладе наша линия сформулирована жёстко: надо стремиться не догонять чужой темп, а задавать правила гонки.
 
👔Задачу надо ставить иначе. Норму не выпрашивают у тех, кто уже отравил колодец: её предъявляют - в праве, в стандартах допуска, в промышленных регламентах, в суверенных контурах и в языке международных площадок, где ещё не всё отдано на откуп словарю Кремниевой долины. Россия здесь не проситель, Россия - сторона, у которой есть историческое право говорить о пределе насилия над человеческим достоинством. Припомним: ведь именно на этом пределе была одержана Великая Победа.
 
👔Всемирного согласия завтра утром не будет. Будет борьба за определение нормы. Поэтому формула одна, и смягчать её незачем: будущее принадлежит не тому, кто создал самый мощный алгоритм. Оно принадлежит тому, кто задал ему смысл, установив - или не установив - жёсткий заслон перед властью ИИ над человеком. А всё, что ниже этой формулы, — просто комментарии к чужой повестке.
 
Беседовал обозреватель АЦ ТАСС Алексей Турбин

Фото: Архив АЦ ТАСС

#образ_будущего

✔️ ТАСС-Аналитика в Макс и Дзене