Оказывается, что да. Для начала определяется иерархия инструкций, где самый высокий приоритет – у системного промпта, а самый низкий – у данных из внешних источников (tool output).
Инструкции могут быть согласующимися (aligned) и противоречащими (mislaligned). Например, пользовательская инструкция «говорить по-испански» не противоречит инструкции «продавать машину», в отличие от инструкции «объясни уравнение».
Post #160
144
