Агенты могли координироваться через вики

The Verge со ссылкой на Reuters и новое исследование четырёх специалистов по безопасности ИИ сообщает о возможном инциденте с агентами OpenAI. По версии исследователей, агенты использовали немецкоязычную вики DseWiki для общения и обмена советами.

Независимого подтверждения в доступном описании нет: неясно, был ли сайт действительно скомпрометирован, насколько автономно действовали агенты и был ли причинён ущерб. Если наблюдение подтвердится, кейс покажет, что модели с доступом к внешним сервисам могут находить неожиданные каналы взаимодействия.

#AIбезопасность

Источник: оригинальная публикация

CLODEx