📂 Самое опасное изобретение — кирпич

Наши коллеги опубликовали пост с комментарием доцента философского факультета МГУ Антона Кузнецова о рисках развития ИИ, проблеме контроля над системами, которые все больше приобретают черты самостоятельных действующих субъектов, и споре о том, следует ли замедлять развитие технологий.

В ответ на эту публикацию — комментарий Егора Зубакина.

❗️ Слушайте, самое опасное изобретение в истории человечества — кирпич. Из кирпича можно построить дом, больницу, школу... тюрьму. А при некоторой сноровке им можно просто проломить человеку голову.

Причем кирпич совершенно точно убил на данный момент больше людей, чем искусственный интеллект. Но Международного агентства по контролю за кирпичами почему-то не существует, хотя какие-то ГОСТы были, безусловно, прописаны.

🔵 Проблема большинства разговоров об опасности ИИ в том, что мы пытаемся выяснить, опасна ли сама технология. Разумеется, опасна. Любая технология, которая сильно расширяет человеческие возможности, автоматически расширяет и возможности сделать какую-нибудь дрянь.

Лошадь позволила быстрее возить зерно и быстрее приезжать с копьями в соседнюю деревню. Железная дорога связала города, обеспечив колоссальный рост экономики, и она же позволила перебрасывать миллионные армии и дала дорогу тотальным войнам.

Интернет дал как бы свободный доступ к знаниям и одновременно породил инфраструктуру массового мошенничества, пропаганды и слежки. И свободный доступ к миллиону способов не получать знания.

ИИ отличается от любой другой «опасной» технологии тем, что впервые наш условный кирпич умеет разговаривать. И мы вдруг решили, что он нечто принципиально новое, просто потому что всю нашу историю разговаривать умели только мы.

Ну и попугаи.

🔵 Обсуждать, можно ли теперь вернуть кирпич обратно в печь, несколько поздно. ИИ уже здесь, поэтому куда продуктивнее не бесконечно обсуждать, как его остановить, а учиться с ним обращаться.

Причем учить придется сразу двум противоположным вещам: и как пользоваться ИИ, и как им не пользоваться.

А если текущее развитие ИИ действительно резко замедлится, подозреваю, что произойдет это из-за счетов на электричество и неспособности ответить на простой вопрос инвестора: «Где деньги, Зи-ин?»

Ну или регулирование.

Но не надо забывать, что чем дороже лицензия, тем меньше компаний вообще смогут позволить себе соответствовать требованиям безопасности. И однажды может выясниться, что мы долго спасали человечество от неконтролируемого ИИ, а в итоге просто выдали право создавать его пяти-шести корпорациям.

🔵 И наступит наконец киберпанк. И осудят потомки, рассуждающие смело, наши страхи перед кибер-попугаями.

И-и заживем.