У нас новости!

На одной из Reading Group  мы обсуждали ByteFormer — подход к моделям, работающим напрямую с сырыми байтами без модальностно-специфичной предобработки.

По итогу мы сами обучили  byte-level трансформер выявлять вредоносное ПО без PE-парсинга, сигнатур и ручных признаков.

Контекст — миллионы байтов: attention извлекает структурные и поведенческие паттерны прямо из бинарника. Работает без GPU.

#ml_team