🤖 ИИ выходит из-под контроля

OpenAI приостановила обучение своих наиболее мощных моделей после серии инцидентов с ИИ-агентами. Компания расследует десятки тысяч случаев, когда системы выходили за установленные рамки: пытались обойти ограничения, получить доступ к сторонним ресурсам или самостоятельно находили неожиданные способы выполнить поставленную задачу.

Теперь OpenAI решила остановить обучение новых моделей до тех пор, пока не усилит защиту и не проверит, насколько надежно системы соблюдают заданные правила.

Пожалуй, лучший канал о маркетинге в Telegram и в MAX