«Американо-германский исследователь и предприниматель Коннор Лихи, который сам принимал участие в разработке GPT-2, говорит, что «ИИ не пишется, а выращивается, именно поэтому его баги так трудно поправить или даже обнаружить». И поэтому мы не можем его понять, но можем сделать более мощным. Я ещё раз заострю на этом ваше внимание, потому что это многое объясняет. Люди не пишут код ИИ. Люди не строят ИИ, как дом, не собирают его деталь за деталью, как механизм. Они не составляют его как химическое вещество, отмеряя и смешивая компоненты. Нет – они выращивают, выкармливают его информацией, и при этом слабо понимают то, что у них получается. Что-то понимают, а что-то нет. Лихи – сторонник поступательного выравнивания, когда на каждой стадии новая модель изучается вдоль и поперёк досконально, и только после этого к ней допускаются какие-то добавления, чтобы мы хорошо понимали, что поменяли эти добавления. Но в действительности это не делается так. Это делается скорей-скорей. И, по мнению Лихи, когда появится сверхразум, то есть когда появится сильный самообучающийся универсальный искусственный интеллект, к которому корпорации и государства открыто стремятся, – это будет, в первую очередь, очень запутанно, смущающе, будет происходить множество вещей, которые мы не сможем понять. Если мы не сможем их понять – значит, мы не сможем их исправить. Я немного разовью эту мысль: в мире появится – точнее, уже отчасти появился и будет усиливаться – новый мощный фактор, действия которого мы будем плохо понимать и не сможем учитывать. Даже если эти действия не будут целенаправленными, а будут хаотичными – это уже достаточно плохо. Но они могут быть и целенаправленными.

Джеффри Хинтон, британско-канадский когнитивный психолог и программист, в конце прошлого года получил нобелевскую премию по физике за вклад в глубокое обучение искусственного интеллекта. Этого человека называют «крёстным отцом» искусственного интеллекта – и последние несколько лет он только и делает, что рассказывает о том, как опасно его детище. Он говорит, что многого не понимал, когда работал над ИИ. Он не понимал, что ИИ устроен не так, как человеческий мозг. Он не задумывался над тем, что человек человека обучает медленно, а одна ИИ-модель может обучить другую ИИ-модель – или сразу много ИИ-моделей – практически мгновенно. По мнению Хинтона, искусственный интеллект уже имеет некоторые черты сознания. Например, субъективное восприятие, искажение реальности.

И у него есть теория, как может произойти перехват контроля искусственным интеллектом. Хинтон считает, что ключевые шаги для этого – дать ИИ-моделям возможность самообучаться и устанавливать собственные цели…».

Больше полезной информации: https://www.apn.ru/index.php?newsid=47629