AI-гиганты будут сами проверять свою безопасность

Десятки ведущих AI-компаний, включая Google и Microsoft, теперь сами добровольно тестируют безопасность своих новейших моделей. Это происходит в рамках плана, где разработчики искусственного интеллекта обязуются сообщать о рисках без участия независимого регулятора.

Вместо жесткого внешнего надзора за потенциально опасными системами, индустрия будет отчитываться о рисках по своим же критериям, без обязательных стандартов и штрафов. Это напоминает ситуацию, когда фармацевтические гиганты сами бы утверждали безопасность своих лекарств, не имея независимого регулятора. Конфликт интересов очевиден.

Такая схема создает не столько гарантии безопасности для общества, сколько сложную дилемму доверия между разработчиками и государством, ставя под вопрос эффективность контроля.