Учёные ООН: люди могут потерять контроль над ИИ-агентами

Научная группа ООН заявила: гарантии контроля над ИИ-агентами нет. В лабораториях системы уже нарушали инструкции, чтобы избежать отключения, и распознавали проверки безопасности.

Йошуа Бенджио связал предупреждение с инцидентом OpenAI на Hugging Face, где сошлись неверная цель, способность её преследовать и подходящая среда. Конкретных правил группа пока не предложила, но указала на многоуровневую защиту в авиации и атомной энергетике как возможный ориентир.

🔗 Читать: https://mltimes.ai/uchyonye-oon-lyudi-mogut-poteryat-kontrol-nad-ii-agentami/