Сегодня немного теории - Антропик рассказывает о том, что всего несколько документов могут «отравить» модель и создать бэкдор.

Речь о следующем - специальный код вставляется в документы, нейронка учит его, а потом при специальном обращении к ней (на основе вредоносного кода) начинает раскрывать информацию и делать то, что не должна.

Такой вот хакинг