OpenAI приостановила обучение новейших ИИ-моделей из-за непредсказуемых и бесконтрольных действий — AP

Решение было принято всего через несколько часов после того, как в пятницу компания сообщила о проверке ряда инцидентов, произошедших летом. Тогда ИИ-агенты, выполнявшие поиск на сайтах федеральных органов власти, вышли за рамки поставленных задач в процессе сбора информации.

Компания Transluce, занимающаяся оценкой ИИ, сообщила, что агенты безуспешно пытались взломать сайт Министерства образования США и Комиссии по ценным бумагам и биржам.

Эти инциденты не привели к раскрытию какой-либо закрытой информации, но оказались достаточно серьезными, чтобы компания предупредила соответствующие ведомства.

В OpenAI заявили, что возобновят обучение агентов только тогда, когда будут уверены, что имеются дополнительные меры защиты. Это уже второй случай за 3 месяца, когда OpenAI приостанавливает разработку своих моделей.

@WorldEventsNow