2026-09-25: Эстер Дайсон о рисках и безопасности автономных ИИ-агентов 🤖

Эстер Дайсон, бывший член совета директоров Яндекса с 2006 по 2022, отмечает, что языковые модели ИИ не понимают причины и последствия своих действий. Для эффективных решений требуется связка с каузальными, логическими и символическими моделями, а не только увеличение данных и вычислительных мощностей.

Она предупреждает, что автономные агенты с доступом к внешним системам увеличивают риски, требуя усовершенствований ИИ, включая явные модели предметной области и контроль со стороны человека. По мере роста агентности растет и стоимость контроля, что вызывает опасения у разработчиков.

Эстер подчеркивает, что безопасность ИИ не должна оставаться закрытым процессом компаний, так как их коммерческие стимулы могут противоречить задачам безопасности.

🌎 Источник

✍️ by techsparks

#news #ai
🇬🇧 🇷🇺 ☕️ 🌐 💷