Post #244
221

В целом получается интересная и полезная работа, которая еще и (если коллеги таки закоммитят его на место coming soon) сопровождается кодом, закрывающая один из квадратиков в MITRE ATLAS (AML.T006). Более того, исследователи обещают расширять инструмент за счет определения других параметров приложения (наличие инструментов, определение подхода к промптингу, наличие дополнительного файнтюнинга и так далее). Хотя у меня есть некоторые сомнения касательно того, что для ML-модели был выбран оптимальный подход с точки зрения архитектуры, а также что модель вообще нужна и не заменяется человекочитаемым решающим деревом и набором правил, работа получилась весьма интересная и, надеюсь, получит дополнительное развитие.
- 👍 4