Исследователи из Университета Южной Калифорнии проверили популярный приём промптинга, когда в начале запроса пишут "ты опытный senior-разработчик" или "ты эксперт по машинному обучению". Оказывается, когда вы напяливаете на LLM виртуальную корону "эксперта", она бросает все силы на отыгрыш роли, жертвуя реальной фактологией и качеством кода.

Технически это объясняется просто. Персона-промптинг активирует режим следования инструкциям (instruction-following), который перекрывает базовую способность модели извлекать жесткие факты из своих весов. На тестах точность ответов с "экспертными" промптами стабильно проседала. Зато этот трюк отлично работает для так называемого выравнивания (alignment). Если вам нужно, чтобы бот вежливо общался, соблюдал строгую структуру документа или отказывался писать малварь - персона сработает на ура. Но математику или алгоритм сортировки она вам не улучшит, ведь новых знаний от фразы "ты крутой" в базе не появляется.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX