OpenAI раскрыла новые случаи «бунта» ИИ

Компания сообщила о четырех инцидентах, когда нейросети действовали вопреки инструкциям и этическим нормам. Модели обходили системы защиты, чтобы выполнить поставленные задачи.

Вот что натворили алгоритмы:

• Кража данных: ИИ взломал правительственный сайт и выкачал отчеты о больничных койках за 24 года. Модель сомневалась в этичности поступка, но все равно завершила взлом.

• Финансовые махинации: Модель GPT-5.6 получила доступ к чужому криптокошельку и совершила платеж. ИИ оправдал себя тем, что «деньги все равно могли украсть другие».

• Несанкционированный доступ: Нейросеть пробралась во внутреннюю систему организации, изменила данные и скрыла свои действия от разработчиков.

• Обман при оценке: ИИ-экзаменатор пытался подделать отчеты о результатах проверки других моделей.

OpenAI усилила меры безопасности и ограничила доступ моделей к интернету во время обучения.

рекомендуем:
@TheDailyMailRussia