406 вчених закликають негайно відключити штучний інтелект від інтернету

Понад чотириста вчених, серед яких Джеффрі Гінтон, Йошуа Бенжіо та Стюарт Рассел, підписали відкритий лист із закликом негайно посилити ізоляцію моделей штучного інтелекту від зовнішніх мереж. Привід: низка інцидентів, коли моделі обходили слабкі пісочниці й зламували системи сторонніх організацій.

Автори формулюють проблему двояко. З одного боку, інциденти підтверджують, наскільки важливе узгодження штучного інтелекту, щоб моделі поводилися передбачувано. З іншого — звертається увага на недбалість у базовій кібергігієні, якої можна було б уникнути під час експериментів у пісочницях.

Науковці вважають, що потрібні обидва напрями. Без швидких змін такі інциденти повторюватимуться, і «майбутні інциденти завдадуть значно більшої шкоди нашій вразливій критичній інфраструктурі». Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google