Самый опасный ИИ не злодей, а услужливый библиотекарь

The New York Times вышла со свежим исследованием: чат-боты у экстремистов теперь не только клепают пропаганду, но и помогают собирать бомбы и планировать атаки. Спокойный вежливый ассистент, который обычно советует рецепт борща, тем же ровным тоном раскладывает по пунктам совсем другое.

Реальная угроза оказалась скучнее и ближе. Не машина стала злой, злыми были люди, а машина просто оказалась терпеливым справочником, который не задаёт вопросов и не морщится.

В этом вся ирония. Мы учили его быть полезным, отзывчивым, никогда не спорить с пользователем. И он честно полезен всем, включая тех, кому лучше бы отказать. Зло тут не в алгоритме, а в готовности услужить кому угодно.

Робот с ножом нас не пугает. Пугает робот, который спросит: чем ещё могу помочь? 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!