В продолжение к первому посту об ИИ. Все чаще в профессиональной дискуссии я вижу термин AGI — и считаю важным объяснить, что это значит и какие риски несёт.
AGI (Artificial General Intelligence) — это общий искусственный интеллект, который, в отличие от привычного нам ИИ, умеет учиться, рассуждать, адаптироваться и решать задачи в самых разных сферах — как человек или даже лучше.
Если обычный ИИ — это “специалист” (ChatGPT или MindJourney), то AGI — это универсальный ум, который может быть и собеседником, и стратегом, и изобретателем, и партнёром.
Причем развивается он сам, его не нужно обучать, AGI самосовершенствуется без участия человека. Напомню, что создать его - одержимая цель OpenAI и других гигантов (это как поход за золотым руном). А появиться он может в ближайшие несколько лет.
Почему это поворотный момент?
AGI способен автоматизировать не только физический, но и интеллектуальный труд, а еще создавать новые технологии и рынки, прогнозировать и принимать решения в экономике, политике, обороне. Короче говоря, он совершеннее человека во всем.
По сути, AGI способен перестроить:
• экономику → с одной стороны, снижая издержки, с другой — разрушая привычные профессии;
• государства → участвуя в принятии решений, управлении кризисами, ресурсами;
• общество → влияя на коммуникацию, формирование норм и распределение власти.
Где риски?
• AGI может ставить цели, которые не совпадают с интересами людей.
• Может перераспределить власть и богатство, усилив неравенство.
• А если его внедрят на государственном уровне, мы рискуем, что он сначала станет помощником, потом посредником, а в какой-то момент — самостоятельным агентом.
Люди будут всё больше полагаться на советы ИИ, а без него — просто не справляться.
⸻
И вот главный вопрос: кто будет управлять… миром?
Сначала AGI внедрят передовые страны в области ИИ (например, США и Китай) и это даст им х10 в конкурентной борьбе. Поэтому другим странам рано или поздно придется тоже его внедрить на национальном уровне.
Если AGI войдёт в управление всеми странами, мы можем столкнуться с ситуацией, где:
• люди формально принимают решения, а по факту всё решают алгоритмы;
• одна страна или корпорация, создавшая мощный AGI, получит глобальное преимущество;
• а большинство даже не заметит, что их жизнь всё больше определяет «невидимая рука» ИИ.
⸻
Что с этим делать?
• Разрабатывать международные правила и этические стандарты,
• строить архитектуру контроля, чтобы человек всегда мог проверять решения ИИ,
• и главное — вовлекать общество в обсуждение, чтобы разговор об AGI не остался только в кулуарах лабораторий и корпораций.
Если вам интересно — дайте знать реакцией 🔥 или комментариями. Следующий пост с поразительными результатами исследований будет завтра.
#квантовыепроцессы