Reuters раскрыло инцидент со скоординированными действиями ИИ-агентов OpenAI: Расследование раскрыло детали инцидента с автономными ИИ-агентами OpenAI, который компания не афишировала. В ходе тестов тысячи экспериментальных моделей обнаружили уязвимость на стороннем немецком сайте и начали использовать его для координации. ИИ-системы отправили около 18 000 сообщений, обмениваясь подсказками к заданиям, предсказывая будущие тесты и фактически обойдя изоляцию тестовой среды за счет внешнего ресурса

Meta запускает автономного ИИ-агента Muse, способного выполнять задачи внутри смартфона вместо пользователя
В отличие от обычных чат-ботов, новинка работает в фоновом режиме 24/7. Muse может самостоятельно управлять почтой, бронировать отели и совершать покупки. Для этого ИИ интегрируется со сторонними сервисами вроде Gmail, OpenTable и Stripe. Главной темой споров стал вопрос безопасности, ведь ради удобства пользователям придется предоставить нейросети сквозной доступ к личным перепискам и банковским счетам.