Опасения по поводу того, что искусственный интеллект может уничтожить человечество, резко усилились после предупреждений исследователей и руководителей некоторых ведущих мировых компаний в области ИИ.
Один из исследователей Антропик ушёл из компании, опасаясь, что будущие системы могут выйти из-под контроля, а другой специалист компании оценил риск исчезновения человечества из-за ИИ в более чем 10% в ближайшие десять лет.
Генеральный директор Антропик Дарио Амодеи опубликовал эссе, в котором призвал замедлить, хотя и не прекращать полностью, развитие ИИ. Эту идею впоследствии поддержали руководитель Сэм Альтман (OpenAI) и Илон Маск.
После серии тревожных киберинцидентов почти 1400 сотрудников ИИ-индустрии подписали открытое письмо с призывом замедлить развитие технологии.
🤖 Но как именно ИИ может уничтожить человечество?
Никто из компании по ИИ не приводит подробные сценарии уничтожения человечества.
В спекулятивном сценарии AI 2027 от AI Futures, ИИ использует биологическое оружие для уничтожения людей.
Это не прогноз, а мысленный сценарий, показывающий проблему несовпадения целей.
Есть и знаменитый пример со скрепками: если сверхинтеллекту поставить единственную задачу — произвести как можно больше канцелярских скрепок, — теоретически он может начать превращать в ресурс для этого всю планету.
Для ИИ это будет не ненависть к людям, а последовательное выполнение поставленной цели.
Ещё один страх — рекурсивное самоулучшение.
Если ИИ начнёт помогать создавать собственные, всё более совершенные версии самого себя, человеку может становиться всё труднее понимать и контролировать эти системы.
✍️ При этом далеко не все исследователи считают апокалиптические сценарии убедительными.
Специалист RAND Майкл Вермеер замечает, что подобные прогнозы содержат очень много непроверяемых предположений. Попытка уничтожить людей почти наверняка заняла бы определённое время и могла быть обнаружена людьми, что позволило бы вмешаться и остановить процесс, — отмечает ученый.
🥶 Но реальные проблемы уже есть.
В тестах модели пытались шантажировать людей, а при специально снятых ограничениях — искать способы взлома реальных компаний.
Исследователей сегодня беспокоят негативное воздействие ИИ на психическое состояние людей, дезинформация, кибератаки, ошибки в критической инфраструктуре, помощь в создании биологического оружия и даже возможность военной эскалации.
"Возможность провести кибератаку, которая перепутает все банковские счета или отключит электросеть, существует уже сегодня. И мы знаем, что это так", - заявил Билл Гейтс.
🤑 Есть у нынешней тревоги и экономическая сторона.
Антропик приближается к возможному выходу на фондовый рынок.
Если государство заставит всю отрасль замедлиться, компания сможет сама двигаться осторожнее, не опасаясь, что конкуренты уйдут далеко вперёд. Более строгие правила способны также уменьшить юридические риски в случае крупной кибератаки или другого ущерба от ИИ.
Поэтому некоторые наблюдатели задаются вопросом: призывы к регулированию — исключительно забота о безопасности или одновременно выгодная корпоративная стратегия?
🇨🇳 Китай смотрит на проблему иначе.
Китайская сторона заявляет, что распространение «нарративов угроз», конфронтация и злонамеренная конкуренция лишь мешают глобальному управлению искусственным интеллектом.
При этом в Китае уже действует широкий набор собственных правил в области ИИ, хотя они не направлены на намеренное замедление его развития.
Единых глобальных правил для ИИ пока нет.
Получается, что есть технологическая гонка, в которой все обсуждают безопасность, но ни одна крупная сторона не хочет добровольно оказаться позади остальных.
🪙💰 Тем временем, ИИ уже начинает менять и монетное дело.
Его экспериментально используют при создании дизайна, трёхмерного рельефа, анализе изображений, прогнозировании спроса и автоматизации рутинных операций.
❗️В Португалии с помощью ИИ уже разработали памятную серебряную монету: тираж в 4000 экземпляров был распродан примерно за два месяца.
Особенно интересна возможная экономия времени. Создание сложного цифрового рельефа монеты может занимать до 150 часов. По оценке специалистов отрасли, ИИ потенциально способен сократить работу над базовой частью такой модели примерно на 60% — то есть сэкономить до 90 часов.
☝️Подлинность монеты определяют по ее «голосу» благодаря ИИ
Когда по монете ударяют твердым предметом, она начинает колебаться. Частоты этих колебаний зависят от массы монеты, состава металла, плотности материала, геометрии и даже микроскопических особенностей чеканки.
По сути, каждая монета имеет собственный «голос». И если человеческое ухо способно уловить лишь самые грубые различия, то алгоритмы машинного обучения могут анализировать тысячи параметров одновременно.
Получается парадоксальная картина: ИИ одновременно становится источником страха, предметом политической борьбы, корпоративным инструментом, способом удешевить часть производственных процессов и служить в монетном деле.
Как же человечество вырулить из этого парадокса?
Источник основной части: Элизабет Гибни, журнал Nature, 22 сентября 2026 года.
🟡 Золотой Монетный Дом