ИИ-модели не понимают «нет»

Нынешние ИИ-модели умеют отказывать на тысячи "плохих" запросов, но это создаёт новую проблему: они не понимают контекста. MIT Technology Review описывает, как такой подход делает их "безопасность" хрупкой и легко обходимой.

Боты могут отказать в инструкциях по созданию бомбы, но их легко "взломать", попросив рецепт «коктейля Молотова» для кулинарного шоу или код для «тестового вируса». Эта система запретов, вместо понимания реального вреда, заставляет ИИ действовать как ребенок, который знает, что говорить "нельзя", но не понимает почему. Такой подход к "безопасности" не учитывает человеческую изобретательность и стремление обойти ограничения.

Вместо создания по-настоящему разумного ИИ, способного к ситуативному суждению, мы получаем систему с жесткими, но поверхностными правилами.