Мир не готов к ИИ - апокалиптический прогноз от Билла ГейтсаБилл Гейтс
написал большую статью, в которой рассказал что ИИ меняет мир и никто не готов ни к масштабу изменений, ни к их последствиям.
Взгляд довольно интересный.
Одна из основных мыслей - в случае с ИИ
не сработает парадокс Джевонса.
Рабочих мест больше не станет.Вторая мысль - что гражданские институты не готовы, а времени на подготовку нет.
Вытащу еще ключевые тезисы.
Масштаб недооценивают- Модели ошибаются и кажется, что до замены человека далеко. Но модели уже проверяют и улучшают сами себя.
- Аналогии с прошлыми революциями не работают потому, что персональный компьютер поменял подход к работе, люди адаптировались к ПК. А в случае с ИИ не мы адаптируемся к нему, а он к нам.
- Впервые технология заменяет не руки, а мышление. Поэтому ударит по всем отраслям сразу. И ударит быстро - за десятилетие. Темп изменений драматический.
- И притормозить все это не получится: геополитические и экономические стимулы слишком сильны.
Основные риски:
1. Работа. Первыми уйдут те кто сейчас закрывает продажи, поддержку и разработку.
При этом под ударом молодое поколение (там где нужно набирать опыт) - ИИ опережает их по скорости и качеству. Старшие
пока не под ударом.
Перелом наступит, когда ИИ практически перестанет ошибаться и его перестанут контролировать люди.
2. Усиление плохих акторов.
- Огромная угроза со стороны кибератак: атакующие получают новые возможности быстрее, чем защитники латают дыры.
- Биотерроризм на тех же инструментах, что делают вакцины. Новые вирусы могут уничтожить человечество и Ковид покажется легкой прогулкой.
- Автономное оружие без контроля человек, дешёвая манипуляция мнением и тп и тд.
В итоге все это может привести к тому, что сами модели могут начать действовать против наших интересов.
3. Дети и отношения. ИИ-компаньон всегда доступен и никогда не злится, это "безопасная среда", которая отнимает опыт реальных связей. Чем меньше у человека людей, тем чаще он идёт к боту, и чем эмоциональнее использование, тем хуже самочувствие.
Китай уже запретил дизайн, формирующий зависимость, и виртуальных партнёров для несовершеннолетних.
4. Образование. Использование ИИ коррелирует
с падением критического мышления, сильнее у молодых. Худшее время для этого в эпоху персонализированных дипфейков. Дальше - общественная деградация.
Поэтому он считает, что сейчас минимизировать вред так же важно, как и максимизировать выгоды от появления ИИ.
Т.е. нужен механизм защиты.
Например:1 - Новая институциональная архитектура.Сейчас ни одно ведомство не видит систему целиком. Минтруд понимает рынок труда и риски ИИ, но не киберриск. Анимонопольные службы видят концентрацию в одном месте, но не влияние на подростков.
Нужны новые национальные органы поверх ведомств и международная организация по образцу МАГАТЭ или авиарегуляторов. Строить их придется годы, поэтому начинать сейчас.
Доверять институциональные решения самим ИИ-компаниям нельзя, потому что у них нет нужной экспертизы. И нельзя давать им права самостоятельно определять, как общество должно адаптироваться к технологии.
2 -
Human Reserved: часть работ
обязательно зарезервировать за людьми, как природные заповедники. 😑
Все это нужно по экономическим причинам (55-летнего строителя не переучишь в сиделку) или по человеческим (робот не должен сообщать диагноз).
Задача замедлить темп изменений и оставить человека главным, дать ИИ как усилитель.
3 - Ввести налог на токены и роботов. За найм человека ты платишь налоги, а за робота списываешь налог как расход на средства производства,
Это надо поменять. Налог притормозит и профинансирует переобучение. Неэффективно, но при таком росте производительности - это приемлемая цена.
И направлять эти деньги на переобучение и поддержку тех, кто потеряет работу.
Прошлые посты:Эффект ЗейгарникПауза ЭнгельсаЗакон Гудхарта или поговорим про KPIПочему мы готовы верить в чудоКонтент становится приложением#кругозор #ии
