Почему нейросеть иногда надо выбивать из колеи

В ответ на прошлый пост мне рассказали, кто как мотивирует нейронки. Кто-то пишет: «уверен, ты можешь», кто-то ругается в духе: «б#$@#, сделай уже нормально».

Почему всё это срабатывает?

Дело, конечно, не в том, что ИИ становится стыдно. У него нет эго и страха выглядеть хуже коллег. Причина в другом.

Когда модель говорит, что не может что-то сделать (хотя может), она оказывается заложницей контекста. Нейронка обучена быть последовательной: если один раз сказала «не умею», то каждый следующий ответ подстраивается под эту версию. Эффект колеи.

Сообщение про способных коллег, ругательства и тому подобное просто выбивают агента из этой колеи. Так что токсичным руководителем для нейросети становиться необязательно: сработать может и обычное «попробуй ещё раз по-другому».

С людьми, кстати, смена контекста тоже работает: мы часто становимся заложниками однажды выбранного убеждения. Эффект установки. Тогда смена контекста ломает не проблему, а способ смотреть на неё.

Иногда человеку нужен не более сильный аргумент, а другой ракурс.