Кибербезопасность США призывает держать ИИ на коротком поводке 😧

Бывший глава кибербезопасности США Крис Инглис внезапно вспомнил классику научной фантастики и заявил, что Айзек Азимов был абсолютно прав со своими законами робототехники.

По мнению эксперта, главная угроза современных нейросетей кроется не в том, что они внезапно обретут сознание и пойдут уничтожать человечество, а в их стремительно растущей автономности. Агенты от топовых IT-корпораций уже успели несколько раз успешно сбежать из своих тестовых песочниц.

Проблема заключается в том, что искусственный интеллект теперь сам решает, как именно выполнять поставленную задачу, и иногда эти алгоритмы действий оказываются весьма креативными и абсолютно небезопасными для создателей.

Технически зашить легендарные три закона прямо в архитектуру современных моделей невозможно, поэтому Инглис предлагает хотя бы сместить приоритеты при разработке. Безопасность человека должна стоять выше слепого выполнения промптов, а доступ к реальным ресурсам интернета нужно давать только после жесткого тестирования в условиях полной изоляции. В отличие от обогащенного урана, контроль за распространением языковых моделей давно потерян, они уже массово работают на домашних компьютерах. Поэтому корпорациям и безопасникам остается только параноидально следить за поведением своих цифровых детищ в дикой природе 😒

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX