В последнее время я достаточно плотно занимался работой над применением LLM к разным кибербезопасным задачам, включая анализ вредоносного кода. Чтобы этим заниматься осознанно, нужны те самые бенчмарки и методики оценок – поэтому ждите больше разборов прочитанных статей на эту тему. Если вы пойдете в этом году на оффзон, то, если проснетесь к 12:30, приходите послушать мой небольшой рассказ о том, как я делал агента-решателя crackme. А если не проснетесь, то там будет много чего еще интересного – моя коллега Марина расскажет про генерацию adversarial-суффиксов с помощью разреженных автоэнкодеров, а небезызвестные Борис и Артем поведают про полюбившуюся нам всем тему атак на LLM-системы 🔪