‍Угроза, исходящая от всё большего применения ИИ, не в том, что компьютерные системы начнут испытывать ненависть к человечеству и исходя из нее будут принимать решения, а в том, что то или иное катастрофическое поведение будет побочным эффектом выполнения поставленной человеком задачи, отмечает IT-редакция ИА Красная Весна.

Именно такой ракурс проблемы предлагают рассмотреть авторы научной статьи How Could AI Eliminate Humanity? («Как ИИ может уничтожить человечество?») из Польско-японской академии информационных технологий в Варшаве. Ученые призывают не приписывать компьютерным системам эмоции и человеческое целеполагание, которое, с одной стороны, как будто бы понятным языком объясняет их поведение, но на самом деле никак не связано с тем, как работают современные системы ИИ.

Ученые настаивают, что разрушительное поведение не обусловлено якобы испытываемой машиной ненавистью к человеку или человечеству. «Плохо заданные цели, неожиданное обобщение, вредоносное использование людьми и небезопасные институциональные стимулы — всё это может приводить к опасному поведению без какой-либо злонамеренности со стороны машины», — отмечается в публикации.

📖 Читать продолжение: https://rossaprimavera.ru/news/18bc1407

#ИАКВ_редакции

@ia_rossa ✍️ #ИАКВ