Почитайте, если еще не видели, недавний доклад о злоумышленном использовании ИИ. 26 исследователей из разных организаций анализируют риски, связанные с развитием искусственного интеллекта и машинного обучения. Авторы концептуализируют технологии как предмет «двойственного использования» (dual-use), воздерживаясь от чрезмерно оптимистичной или наоборот мрачной картины технологического прогресса: ИИ может применяться как в благих целях, так и злонамеренно.
В докладе выделяются три сферы – цифровая, физическая (вооруженные дроны и автономные автомобили) и политическая (искусственный информационный «шум» в новостных каналах, пропаганда и fake news с реалистическими визуальными свидетельствами) безопасность и описывается, что может произойти, если современные технологии и технологии ближайшего будущего окажутся не в тех руках.
Однозначных решений и способов предотвратить угрозы здесь нет, но есть рекомендации, что может помочь – например, кооперация с теми, кто занимается кибербезопасностью, развитие культуры ответственности и открытости (публикация оценки рисков, образование, разработка норм и этических принципов), создание технологических и policy-механизмов по предотвращению вреда.
https://img1.wsimg.com/blobby/go/3d82daa4-97fe-4096-9c6b-376b92c619de/downloads/1c6q2kc4v_50335.pdf