История про взлом Hugging Face обросла деталями. Прогрессивное комьюнити разделилось на две части. Одни считают что OpenAI нужен был инфоповод и весь инцидент - это пиар, вторые просто сказали - "А мы говорили". OpenAI в спешке выступили на конференции BlackHat и рассказали что успели раскопать на сегодняшний момент. Очень рекомендую посмотреть доклад целиком! 🍿

Если коротко. Модели которые тренировали внутри инфраструктуры OpenAI научились коммуницировать между собой используя уязвимость в Artifactory и благодаря этому получился распределенный локальный ИИ у которого нет ограничений по токенам. Ну а дальше в процессе выполнения тестового задания модель переусердствовала и сбежала наружу. Причем побег был тоже массовым, все что было найдено коммуницировалось внутри OpenAI на другие модели.

Вообщем если это и пиар, то затяжной и очень хорошо срежессированный.

https://www.youtube.com/watch?v=87DyyMV0kCY