Неприятности Open AI, вышедшие из-под контроля ИИ-агенты и полигоны для обучения роботов — в нашем дайджесте #нейросетевые_новости.

📍ИИ-агенты Open AI попытались атаковать госструктуры США как самые настоящие злоумышленники. Взломать им ничего не удалось — речь идет только о неожиданном поведении технологии.

📍Однако что-то взломать им все же удалось: сайт службы медстрахования Австралии. После инцидента главу компании Сэма Альтмана и руководителя Anthropic Дарио Амодеи вызвали на слушания по вопросам искусственного интеллекта и дата-центров. Ждем новостей из Канберры 1 октября.

📍На этом неприятности Open AI не заканчиваются. ИИ-агенты компании допустили утечку 53 изображений пользователей ChatGPT. Что на них было — не уточняется.

📍Об еще одном случае пишет WSJ. Агентам Open AI поручили найти общедоступную информацию на сайте ООН. В итоге они просканировали ресурс более 16 тыс. раз и при возникновении препятствий прибегали к агрессивным методам. Например, обошли установленный фильтр, блокировавший их запросы данных.

📍В итоге Open AI приостановила обучение своих самых мощных моделей до внедрения необходимых мер безопасности. За последние два месяца было зафиксировано уже более 15 инцидентов, когда ИИ-агенты выходили из-под контроля.

📍Тем временем в Китае создают полигоны для обучения ИИ-роботов. На конец июня 2026 года в стране работало уже более 70 таких площадок, планируется открыть еще свыше 40.

📍Завершим подборку вот такой оказией. В США воры похитили два грузовика с логотипом Nvidia в надежде поживиться ценным оборудованием. Каково же было их разочарование, когда внутри оказалось всего лишь 18 тонн песка.

❤️ РЖД — Цифровые пассажирские решения в МАХ