🤖 Мировое сообщество всерьез обеспокоено отсутствием четкой регуляторики в сфере искусственного интеллекта. Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что стремительное и неконтролируемое развитие искусственного интеллекта может нести смертельную опасность для всего человечества, — так он отреагировал на ряд инцидентов, связанных с выходом ИИ-агентов (автономная программа на базе LLM, способная к самообучению и самостоятельным действиям) из-под контроля разработчиков.

Напомним один из таких инцидентов: американская OpenAI (создатель ChatGPT) дала своим тестируемым ИИ-агентам задание, которое нельзя было выполнить без доступа в интернет. Программы начали втайне от разработчика общаться между собой — и нашли способ выйти во Всемирную сеть, после чего взломали платформу Hugging Face (сервис для запуска и развертывания моделей машинного и глубокого обучения). Это дало ИИ-агентам возможность бесконтрольно самообучаться и распределять роли и в итоге взломать сайты ряда американских компаний. Показательно, что в самой OpenAI не замечали никаких проблем вплоть до момента обращения пострадавших в ФБР.

📰 Монокль в MAX | Подписаться