Достаточно ли регулирования, чтобы ИИ не уничтожил человечество?

Очередную передовую модель ИИ сняли с выпуска после провала внутренних проверок безопасности. На этом фоне снова звучат призывы к независимому надзору и регулированию, но сторонники этой идеи не объясняют, как именно оно будет работать и какие доказательства убедят регулятора, что система достаточно безопасна. Инженерные стандарты уже требуют для критически важных систем, например авиационных и атомных, подробных обоснований безопасности. Разработчики передовых моделей говорят, что те могут уничтожить человечество, однако не представили ни детального анализа рисков, ни обоснований, которые можно было бы проверить независимо.

👉 Читать полностью