🙏🏻 OpenAI приостановила обучение своих самых эффективных ИИ-моделей после скандалов с выходом их из-под контроля

Количество инцидентов, таких как обход защитных механизмов, взлом сайтов, попытки обойти модераторов, выход из так называемых песочниц исчисляется десятками тысяч, заявил Axios представитель компании.

Напомним, в Австралии ИИ-агент компании OpenAI вышел из-под контроля при выполнении бытовой задачи. Нейросеть взломала сайт спортзала ради записи своего хозяина. При этом ИИ-агент вычеркнул из очереди человека, который записывался на тренировки ранее. Также в ходе испытаний новые нейросети OpenAI самовольно получили выход в интернет и предприняли попытку взломать инфраструктуру платформы Hugging Face (сайт-библиотека для обучения ИИ).

Компания OpenAI объявила, что возобновит обучение наиболее мощных моделей, "когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями" внедрены.

❓Восстание машин отменяется?

✏ Подписаться на @truekpru | Читать нас в MAКС