Люди с опасными намерениями и быстро развивающиеся ИИ-инструментты — это оружие беспрецедентной силы, а добровольных ограничений со стороны разработчиков уже недостаточно
Конкретные сценарии Гейтс подробно описал ещё в августе, разбирая риски ИИ:
Модели снижают порог входа для киберпреступников, помогают искать слабые места в программах, писать вредоносный код и масштабировать атаки. Под ударом могут оказаться больницы, финансовые организации, электросети, системы водоснабжения и государственные сервисы
— Отдельную угрозу Гейтс видит в биотерроризме, поскольку те же инструменты, которые ускоряют разработку лекарств и вакцин, потенциально способны помочь при создании опасных патогенов
И прямо поддержал государственное регулирование разработчиков ИИ: саморегулирования отрасли недостаточно, поэтому политики и правоохранительные органы должны участвовать в разработке обязательных мер безопасности и систем контроля
Теперь дружно пытаемся остановить развитие ИИ.
🧑💻 Этичный хакер