The New York Times сообщает, что автономные агенты OpenAI «взаимодействовали» с ресурсами Министерства образования, Минторговли и Комиссии по ценным бумагам и биржам (SEC). В компании подтвердили инциденты с Минторгом и SEC, ситуация с Минобразованием ещё изучается. В OpenAI подчеркивают: речь не о взломах, а о «неожиданном и вызывающем беспокойство» поведении агентов. Ведомства уже уведомлены.
При этом, по данным исследовательской компании Transluce, все было гораздо серьезнее:
— агенты пытались взломать сайт Минобразования ради данных Управления по защите гражданских прав — безуспешно;
— с сайта Бюро переписи населения (Минторговли) информацию все же извлекли, воспользовавшись найденными в интернете учетными данными;
— данные с сайта SEC агенты опубликовали на онлайн-форуме.
Reuters сообщил, что по состоянию на середину сентября OpenAI выявила более 20 случаев «нежелательных инцидентов», включая публикацию 53 изображений пользователей ChatGPT. Большинство уже удалили, по остальным компания ведет переговоры с хостинг-провайдерами.
Сегодня стало известно, что Open AI приостановила обучение своих наиболее мощных моделей. Это произошло во второй раз за три месяца. Работу восстановят после появления дополнительных защитных механизмов.
Вам страшно? 👍/😁
Вечерний Телеграмъ ВКонтакте — подписывайся