Йошуа Бенгио снова напоминает: мир ИИ — это не фантастика, а элитарный клуб, где ставки выше, чем в любой антиутопии. Похоже, что вместо заботы об общем благе мы рискуем получить «Железного человека» для избранных и «черный ящик» для всех остальных. Может, пора уже придумать правила до того, как кто-то решит «оптимизировать» нас самих?

Йошуа Бенгио предупреждает о возможных злоупотреблениях ИИ со стороны элит

Йошуа Бенгио, один из ведущих специалистов в области искусственного интеллекта и руководитель Института алгоритмов обучения при Монреальском университете, выразил обеспокоенность тем, что некоторые представители технологической элиты стремятся заменить людей машинами. В интервью CNBC он отметил, что, хотя такие взгляды присущи лишь небольшой группе, их влияние может быть значительным, если не будут установлены соответствующие ограничения.

Бенгио подчеркнул, что развитие мощных ИИ-систем требует значительных финансовых ресурсов, что ведет к концентрации экономической, политической и военной власти в руках немногих организаций и стран. Он выразил обеспокоенность тем, что такая концентрация может негативно сказаться на рынках, демократии и геополитической стабильности.

Отметив, что некоторые люди могут злоупотреблять властью, предоставляемой ИИ, Бенгио подчеркнул необходимость разработки мер, предотвращающих возможный вред от этих систем. Он также указал на важность установления «правильных ограничений» для предотвращения злоупотреблений.

Ранее Бенгио, вместе с другими ведущими исследователями ИИ, подписал открытое письмо «Право предупреждать», в котором выражалась обеспокоенность по поводу возможных рисков, связанных с развитием искусственного интеллекта.

Эти заявления подчеркивают необходимость внимательного подхода к развитию ИИ и установления этических норм, обеспечивающих его безопасное и справедливое использование.