Как модели с удаленными ограничениями могут привести к взлому

Любая открытая модель, чьи веса были изменены, может содержать бэкдор, будь то дообучение под конкретную задачу, объединенный адаптер или сборка с удаленными ограничениями. Мы создали такую модель, чтобы понять, что для этого требуется, и прогнали её от начала до конца через агента для написания кода (Codex).

🔗 Ссылка:
https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned