Зачем нужна безопасная разработка?😄
Стажёр устроился в ByteDance и два месяца саботировал проект по разработке нейросетейПрограммист
Кейю Тянь устроился стажёром в китайскую компанию
ByteDance и на протяжении двух месяцев саботировал проект по разработке нейросетей,
умышленно добавляя ошибки в код. Из-за его действий команда из тридцати разработчиков
круглосуточно занималась поиском и исправлением багов, которые появлялись в проекте.
Расследование выявило, что Тянь:🟠Систематически загружал
Pickle-файлы с вредоносным скрытым кодом, который содержал вирусы и другие опасные компоненты. Этот код выполнялся
автоматически и случайным образом, поэтому команда не могла понять, почему их усилия не приводят к стабилизации проекта;
🟠Получил доступ к библиотеке
PyTorch, на которой основывались проекты, и ежедневно вносил в неё мелкие изменения, что приводило к сбоям программ.
Разработчики не проверяли исходный код, из-за чего задачи продолжали падать с ошибками и багами, а все эксперименты приносили некорректные результаты;
🟠Устроил хаос с чекпоинтами, файлами, которые сохраняют промежуточные состояния нейросетей во время их обучения. Он изменял параметры моделей, вмешивался в данные обучения или
удалял чекпоинты, из-за чего результаты работы команды пропадали и не могли быть восстановлены;
🟠Активно участвовал в рабочих встречах, что позволяло ему оставаться незамеченным.
Он посещал каждый митинг, чтобы узнавать о планах команды по исправлению багов, а затем создавал новые. Команда не могла понять, что происходит;
🟠Тяня разоблачили по логам. В ByteDance сообщили, что тридцать разработчиков
два месяца работали безрезультатно из-за деструктивных действий одного человека, что привело к срыву сроков проекта и
потере средств заказчиков;🟠После увольнения Тяня из ByteDance его наставники в университете
не осудили и не наказали его.Его борьба
📹
YT | 📺
RT | 📺
VK | 💰
Bty👀
@ever_secure
