Бывший генеральный директор Google предупреждает о необходимости отключить ИИ, если он начнет эволюционировать

Эрик Шмидт, бывший генеральный директор Google, выразил обеспокоенность быстрым развитием искусственного интеллекта (ИИ) и возможными рисками, связанными с его автономностью. В интервью ABC Шмидт отметил, что, хотя ИИ приносит значительные преимущества, такие как ускоренное открытие новых лекарств, существует опасность, что системы ИИ станут самодостаточными и начнут принимать собственные решения без человеческого вмешательства.

Шмидт подчеркнул, что, если ИИ достигнет способности к самоусовершенствованию, необходимо будет серьезно рассмотреть возможность его отключения. Он также отметил, что ответственность за контроль над ИИ не должна лежать исключительно на технологах; требуется консенсус общества для установления надлежащих ограничений, сохраняющих человеческое достоинство.

Интересно, что Шмидт предположил, что сами системы ИИ могут быть использованы для контроля за другими ИИ, поскольку людям может быть сложно эффективно осуществлять такой надзор.