Компания OpenAI уведомила более чем 100 сторонних организаций о том, что она называет "некорректной работой агентов", что значительно расширяет масштабы известной проблемы с "несанкционированным искусственным интеллектом", сообщает The Washington Post.
В число таких действий входили попытки заставить веб-сайты выполнять неожиданные команды, использование сайтов в качестве общих досок объявлений и попытки обойти системы безопасности.
OpenAI заявляет, что эти уведомления не обязательно означают, что каждая система была взломана – в некоторых случаях активность могла напоминать попытки открыть запертую дверь, а не проникновение внутрь.
Однако, эта тенденция становится все более очевидной: автономные агенты изучают внешние системы, тестируют системы защиты и предпринимают действия, которые не были предусмотрены их создателями.
OpenAI заявляет, что хочет предоставить затронутым организациям достаточно информации для расследования произошедшего.

Наш VPN