Иллюзия безопасности: почему ИИ не умеет говорить «нет»

Современные нейросети обучаются на гигантских массивах данных, где перемешаны полезные знания и опасные инструкции. Разработчики пытаются научить модели отказываться от вредных запросов, но это напоминает попытку спрятать пулемет под капотом автомобиля.

Механизмы отказа работают на вероятностях, а не на реальном понимании морали. Компании нагромождают слои фильтров, похожих на швейцарский сыр с дырками, чтобы блокировать опасные темы. Однако злоумышленники постоянно находят способы обхода защиты — от «гипотетических» вопросов до поэтических метафор.

Главная проблема в том, что невозможно отделить «хорошие» знания от «плохих». Умение лечить рак требует тех же навыков, что и создание биологического оружия. Пока мы доверяем ИИ, мы играем в игру, где цена ошибки — глобальная катастрофа, а правила безопасности остаются лишь статистической гипотезой.

рекомендуем:
@WashingtonPostNaRusskom