OpenAI заморозила обучение флагманских моделей из-за страха потерять контроль 😱

Разработчики взяли двухнедельную паузу в обучении с подкреплением для готовящихся к релизу моделей, а самый масштабный запуск исследовательского пайплайна и вовсе отложили на неопределенный срок. Поводом для экстренного пересмотра процессов стал недавний инцидент с OpenAI и Hugging Face, после которого передовые алгоритмы в исследовательских кластерах срочно лишили прямого доступа в интернет и права исполнять программный код.

Новая доктрина безопасности выстроена вокруг глубокой изоляции рабочих нагрузок в изолированных песочницах, жесткого сетевого сегментирования и непрерывного автоматического тестирования на уязвимости. Исследователи развернули многоуровневый комплекс мониторинга, который анализирует внутренние активации нейросети буквально по каждому токену. Система непрерывно сканирует логику рассуждений модели, пресекая любые попытки несанкционированного доступа, кражи данных или взлома защитных ограничений, и отправляет сигнал тревоги инженерам не позднее чем через 30 минут после фиксации аномалии.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX