ПолитИИзация

Интересная речь советника по нацбезу США Салливана про перспективы ИИ  в Национальном университете обороны (смесь РАНХИГС с Академией Генштаба, где из штатских госслужащих куют "вашингтонских ястребов").

⬛️ ИИ НАЦИНТЕРЕСОВ
"В этом мире использование ИИ определит будущее, и наша страна должна разработать, как сказал бы генерал Эйзенхауэр, новую доктрину для гарантии, что ИИ работает на нас, наши интересы и наши ценности, а не против нас".

⬛️ Три важные вещи из пониманмя нацбеза США про ИИ:

1⃣ Скорость развития.  Быстрее, чем видели в других технологиях. В логике "мы только начали что-то пытаться регулировать, а это уже устарело и надо придумывать регулирование под новые вещи".

2⃣ Неопределенность траектории роста ИИ. Наиболее непредсказуемая инновация в истории человечества. Вплоть до того, что никто по-настоящему не знает, принесет ли ИИ ту пользу и даст ли те возможности, которые обещают энтузиасты. Пессимисты тоже очень убедительны. Но властям надо быть готовыми к любому сценарию – от взлета возможностей вертикально вверх до стагнации и разочарования.

3⃣ Минимальная роль государства в инициировании разработки и внедрения. Всем занимаются частные компании. Это создает риски для системы нацбезопасности.

3️⃣ Основы лидерства. "Крупные технологические компании, которые разрабатывают и внедряют системы ИИ, будучи американскими, дали Америке лидерство".  Лидерство надо "защитить и расширить" усилиями государства. Американский частник должен конкурировать с "такими компаниями КНР, как Huawei, чтобы предоставлять цифровые услуги людям по всему миру".

Задача: США должны быть "единственным технологическим партнером для стран по всему миру".

⬛️⏩ Что будут делать США?

1⃣  Регулирование: США "создали самое лучшее в мире регуляторное пространство для ИИ" и сейчас идет работа над распространением его принципов на страны-союзники. Регулирование не ограничения, а способ обеспечить надежные, безопасные, вызывающие доверие и ограничивающие враждебную конкуренцию условия для лидерства. 

2⃣ Люди. Больше "виз талантов" и гринкарт. США должны "пылесосить" мир в поисках людей способных к работе в этой области и забирать их себе "везде, где это возможно".

3⃣ Оборудование. Чипы: больше для себя, меньше для других. Все "передовые чипы" либо должны быть произведены американскими компаниями, либо их распределение должно находиться под контролем США. Ограничения для других должны касаться не только чипов, но и оборудования для их производства.

4⃣ Электроэнергия. Вся инфраструктура для работы современного ИИ должна возводиться на территории США, а значит быть обеспечена американской дешевой энергией. В переводе с чиновничьего с "климатическими целями"  на человеческий – больше разрешений на строительство и эксплуатацию атомных станций. 

5⃣ "Комиссары" от правительства, следящие за соблюдением нацбеза в работе ИИ-компаний. "Люди из правительства должны тесно сотрудничать с разработчиками ИИ из частного сектора, чтобы обеспечить им своевременные услуги по кибербезопасности и контрразведке для сохранения их технологий". 

⬛️ Главный конкурент и оппонент – Китай. Который ИИ будет использовать непременно в "плохих целях": цензура, фейки, влияние на выборы в других странах, подрыв демократии и так далее по списку. Этому надо "противостоять", заставив человечество использовать только американский ИИ. Но победа – не предопределена. Поэтому работа здесь – ключевая для будущих администраций США.

✔️Речь выглядит как заявка внятной стратегии в данном направлении. Которая – если убрать шелуху про демократию – сводится к защите лидерства через контроль и недопущение любого развития у любых конкурентов.
Все что человечество может предложить или сделать в сфере ИИ должно быть не просто подконтрольно США, а производится и контролироваться на их физической территории. С Китаем или нами понятно – мы оппоненты, но мысль о том, что даже собственные союзники вроде Европы или Японии с Тайванем не имеют права голоса и должны полностью подчинить свои интересы американским частным компаниям хорошо показывает настоящий расклад сил на Западе.

ИИ в повестке Саммита БРИКС

В этом году Россия является председателем в БРИКС, что позволило российской стороне формировать повестку более 150 международных мероприятий. Что примечательно для моего канала, в повестку были внесены и вопросы развития ИИ.

Результатом стало включение в Казанскую декларацию БРИКС пункта про поддержку формирования системы глобального управления ИИ при ключевой роли ООН. Также было объявлено о создании специальной исследовательской группы по ИИ, целью которой станет сотрудничество стран-участниц по формированию общего взгляда на развитие ИИ.

В ходе Саммита глав государств объединения Президент России предложил создать альянс БРИКС в области ИИ для выработки и продвижений совместных подходов к развитию и применению ИИ. Помимо этого Путин пригласил членов БРИКС и другие страны присоединиться к Кодексу Этики ИИ, который был разработан и принят в России в 2021 году.

Стоит добавить, что в 2024 году в Москве был проведен международный Форум Этики ИИ, а в ходе Академического форума БРИКС российское экспертное сообщество представило проект по созданию единого индекса оценки развития и внедрения ИИ под эгидой организации.

Тематика ИИ все больше становится полем для международного взаимодействия. Интересно, что же выиграет на этом поле: идея сотрудничество или же соревнования.

#aipolitics

ИИ-компании США призывают власти начать их регулировать

Интересные новости приходят из США. В преддверии выборов в стране представители индустрии ИИ выражают недовольство темпами работы Конгресса США в области ИИ-регулирования.

Эксперты указывают, что отсутствие правовых норм приводит к распространению дипфейков и других видов дезинформации на основе ИИ. Федеральные законы регулирующие применение ИИ так и не приняты, хотя еще год назад власти США анонсировали внедрение норм разработки и использования ИИ.

Причиной подобных задержек называется сложность поиска компромисса в подходах законодателей.

Один подход предполагает формирование единой законодательной базы для ИИ, который мог бы приблизить США к ЕС с их дотошным регулированием всего связанного с ИИ.

Второй же подход отказывается от необходимости масштабной нормативной базы, а апеллирует к разработке норм для конкретных отраслей, а также задачам по повышению ИИ-грамотности всего населения.

В итоге, ИИ-отрасль Штатов сталкивается с растущим «лоскутным одеялом» локальных законов в разных Штатах, что усложняет для ИИ-разработчиков соблюдение этих, иногда противоречащих друг другу, правил. Следствием этого могут стать различные инциденты с применением ИИ уже в президентские выборы.

Сложно предугадать, как правовая система США будет реагировать на ситуации, когда дипфейк, созданный в лояльном для генерации контента Штате, будет применен в Штате с более жестким регуляторном подходом.

#ailaws

👍 До Форума этики в сфере искусственного интеллекта остался 1️⃣ день

⚡️ Откроет мероприятие пленарная сессия «Этика искусственного интеллекта: окно возможностей», после чего пройдут две торжественные церемонии:

• Церемония присоединения новых российских и зарубежных организаций к Кодексу этики в сфере ИИ;
• Церемония награждения лауреатов Премии за вклад в развитие этики искусственного интеллекта;

⚡️ Деловая программа мероприятия состоит из 10 сессий, на которых обсудят различные направления развития этики в сфере ИИ.

⚡️ Также в ходе Форума будет действовать постерная выставка ИИ-разработок исследовательских центров в сфере ИИ.

👍 Регистрация на сайте форума

🇷🇺 Национальный центр развития искусственного интеллекта при Правительстве РФ

Вместе с коллегами принимал участие в подготовке этого форума.

Старались, по возможности, добавить международный взгляд на развитие ИИ, поэтому в программе организованы два международных блока .

Для каждой сессии будет организована трансляция с переводом

Оказалось, что ИИ-помощники не решают проблемы программистов

Согласно новому исследованию компании Uplevel, ИИ-инструменты, такие как GitHub Copilot, не помогают программистам работать продуктивнее и чувствовать себя счастливее. Разработчики должны были стать одними из основных бенефициаров растущего интереса к генеративному ИИ, но этого не произошло. Специалисты все также работают в авральном режиме и сталкиваются с выгоранием. Исследование охватило около 800 разработчиков и сравнило их производительность с использованием и без использования Copilot в течение 3 месяцев.

https://hightech.plus/2024/10/04/okazalos-chto-ii-pomoshniki-ne-reshayut-problemi-programmistov

Для прослушивания на выходных советую выпуск подкаста Мировой факультет как раз про ИИ.

Подобные беседы вносят нужный вклад в общее понимание, почему тема ИИ несет в себе куда больше международной политики, чем мы могли бы ожидать.

Чтобы в этом разобраться пора отойти от обсуждения ИИ в категориях отрицания или подтверждения хайпа. Нужен трезвый взгляд, на что может рассчитывать та или иная страна от активного участия в международном развитии ИИ.

К примеру, для многих станет удивлением, что арабские монархии становятся активными игроками в этом процессе, а Индия пытается отойти от роли бесправного поставщика данных и кадров для IT-корпораций. Есть свои преимущества и ограничения и у России.

#aipodcast

Маркировка и ИИ

Известия опубликовали обзорную статью про мировые подходы к маркированию контента, сделанного ИИ. Весьма советую к прочтению. Ниже ряд наблюдений из текста:

- Нейросети позволяют генерировать видео, картинки и др., однако всегда есть вероятность, что этот сгенерированный контент будет использоваться в сомнительных целях. К примеру, вот как дипфейк кандидаты участвовали в выборной кампании Индии, а Штаты решили срочно обязать ИИ-разработчиков внедрить обязательную систему маркирования ИИ-контента, чтобы не повторить опыт Индии.

- Маркировка контента может быть как в заметной для человеческого глаза форме водяных знаков, так и в виде специальных пометок в файлах.

- Маркировка контента требует от отрасли большого вложения ресурсов, однако именно она будет развиваться как для борьбы с недобросовестным использованием технологии, так и для повышения доверия к ИИ среди населения

- В мире нет единого подхода к тому, как маркировать контент. Если ЕС принял специальный закон об ИИ, то в Штатах сами компании взяли на себя внедрение системы маркировки.

- То, какой подход к маркировке контента будет выбран, повлияет на скорость развития и внедрения ИИ в стране. Есть наглядный пример ЕС, где местные разработчики из-за регуляторных требований не могут разработать конкурентные на международном рынке ИИ-решения, а ряд техногигантов ограничили доступ к своим ИИ-моделям в Европе.

#aitrends

Огромное полотно в журнале Time о том, как Украина превратилась в грандиозный испытательный полигон самых разных технологий, но прежде всего – военного применения искусственного интеллекта и связанных с ним явлений. Наблюдается гармония – украинская сторона готова способствовать тестированию чего угодно, технологические гиганты не прочь попробовать то, чего они не могут сделать дома.

Явно не без приукрашиваний, но мысль понятна.

But Ukraine and its private-sector allies say they are playing a longer game: creating a war lab for the future. Ukraine “is the best test ground for all the newest tech,” Fedorov says, “because here you can test them in real-life conditions.” Says Karp: “There are things that we can do on the battlefield that we could not do in a domestic context.”

https://time.com/6691662/ai-ukraine-war-palantir/

Новое правительство Великобритании делает ставку на ИИ

С июля 2024 году в стране было сформировано новое правительство, которое сразу же заявило о своем приоритете внедрению ИИ, позиционируя эту технологию как панацею от проблем в сфере государственных услуг, неэффективности правительства и застоя в экономике. Институт TBI, созданный прошлым премьером страны Тони Блэром, является одним из мозговых Центров набирающей силу ИИ-зации страны.

В своих аналитических отчетах этот Институт утверждает, что интеграция ИИ в гос.органы может сэкономить до 40 миллиардов фунтов стерлингов в год. Так же ИИ позволит сократить 1 млн. государственных служащих, так как более 40% задач их задач могут быть частично автоматизированы с помощью ПО на основе ИИ.

Некоторые из задач, в которых может помочь ИИ: ускорение обработки заявок на льготы, прогнозирование спроса на койки в больницах, работа с корреспонденцией, а также поддержка "забюрократизированной" судебной системы Англии.

При этом работать есть с чем. В недавнем отчете Государственный агентство аудита Британии обнаружило, что 37% государственных органов внедрили ИИ на минимальном уровне (ИИ используется только в одной функции органа). При этом наибольшее внедрении ИИ наблюдается в работе полиции по распознаванию лиц, использование алгоритмов для выявления мошеннических заявлений о выплате пособий.

Что примечательно, еще предыдущее правительство начало заявлять о значении ИИ. Так в ноябре 2023 был создан «боевой отряд» ИИ, целью которого заявлялось сокращение рабочих мест на государственной службе. Но тогда дальше пиара дело не продвинулось. Посмотрим, победит ли пиар реальные задачи и в этот раз.

#aigovernance

Может ли ИИ управлять городом?

В июне 2024 года местный житель американского города в штате Вайоминг Виктор Миллер подал документы для баллотирования на пост мэра. При этом он заявил, что является лишь «скромным мясным аватаром» для VIC (от Virtual Integrated Citizen — Виртуально интегрированный горожанин) — алгоритма на основе нейронки GPT. По словам Миллера, в случае победы он будет лишь перерезать ленточки на официальных церемониях, а реальные решения останутся за чат-ботом.

Конечно, такое новшество вызвало большие споры. Создатели нейросети обвинили Миллера в нарушении пользовательского соглашения и отключили для него свой сервис, а власти Штата заявили, что Миллер имеет право баллотироваться как человек, а не представитель ИИ.

Примечательно, что в Великобритании в парламентских выборах уже принял участие ИИ-кандидат - AI Steve. Как говорили разработчики AI Steve, кандидат-ИИ должен «заново изобрести демократию» и вернуть политике доверие избирателей, которое пошатнулось в последнее время, в том числе в Европе и США. При этом желающих отдать за него голос было крайне немного.

Как отмечают эксперты, у виртуальных управленцев действительно есть ряд преимуществ. К примеру, ИИ может обработать большое количество информации и принимать решения с учетом абсолютно всех обстоятельств. Очевидным плюсом является и отсутствие человеческих эмоций (ИИ неподкупен, а также лишён эмоций).

Но есть и минусы, которые заключаются опять же в том, что ИИ - не человек. Эксперты отмечают, что управление не ограничивается подбором решений и максимизацией эффективности процессов, но и включает правильное понимание запросов населения, поиск баланса между управленческой логикой и удовлетворением запросов жителей. Фактически, ИИ может обеспечить функционирование управленческого аппарата, но при этом не сможет полностью понять запросы населения, которое как раз и является ключевым пользователем государственной системы.

Альтернативой "ИИ-власти" может стать более плотное интегрирование ИИ в гос.управление. Это позволит воспользоваться плюсами скорости анализа множества данных и сохранить понимание своего избирателя.

Однако, только практическое внедрение подобной схемы даст ответ на вопрос: "Что больше влияет на управленческие решения: обработка нужной информации или же человеческий фактор?"

#aigovernance

НАТО представила обновленную стратегию Союза по ИИ

Предыдущая версия Стратегии появилась в 2021 году и уже тогда прослеживалось явное стремление НАТО воспринимать ИИ как новое поле для соревнования, в-первую очередь, с Китаем.

Примерно в то время активно начали вводиться ограничения на инвестиции в технологические компании Поднебесной, а также на работу западных специалистов в ИИ-проектах с китайскими корнями, были введены запреты на поставку в Китай чипов для нужд ИИ-развития.

Помимо скоординированной внешней политики, Стратегия предполагала, что развитие ИИ должно идти совместно. К примеру, специальный фонд DIANA (Defence Innovation Accelerator for the North Atlantic) выступает связующим звеном между университетами, промышленностью, правительствами и технологическими компаниями всего Альянса.

Фактически, Альянс позиционирует ИИ как технологию, требующую ресурсов (материальных, интеллектуальных), которых в достаточном объеме нет ни у одной страны мира, что означает потребность в скоординированной политике развития ИИ.

В обновленной Стратегии эта мысль раскрывается дальше. Так как лидерство в ИИ становится элементом сохранения лидерства Запада в мире, то необходимо отринуть внутреннюю конкуренцию и снять ограничения, которые ранее замедляли интеграцию научно-исследовательских комплексов стран-участниц.

Из интересных пунктов Стратегии можно выделить следующие:
- Предлагается формировать внутреннюю систему обмена данными для ускорения развития ИИ, что ранее было неприемлемо для европейских стран.
- Обеспечить оперативную совместимость ИИ в военном секторе всех стран Альянса.
- Совместно использовать выч.мощности суперкомпьютеров, имеющихся в странах-участницах.
- НАТО ставит своей целью становление собственных стандартов ИИ, как единственно возможных и принятых в мире.

Смотря на это можно сделать вывод - политизация ИИ нарастает, а по-отдельности страны точно потеряют свою конкурентность в глобальной ИИ-гонке.

#aipolitics

🫠 Языковые модели деградируют из-за синтетических текстов

Исследователи выяснили, что синтетические данные могут ухудшить работу моделей, поскольку они не обладают той же сложностью и разнообразием, что и реальные тексты. Этот недостаток приводит к снижению качества генерации и понимания текстов.

Исследователи обучили языковую модель на статьях из Википедии, а затем попросили модель сгенерировать тексты в стиле этих статей. Далее они включили эти сгенерированные тексты в выборку для следующего сеанса обучения модели. Этот круг они повторили несколько раз. С каждым разом модель делала свою работу всё хуже и хуже. Девятая версия модели, когда её попросили написать статью об английских колокольнях, начала рассуждать о зайцах с разноцветными хвостами.

Суть проблемы заключается в том, что заметки, которые генерируют уже обученные модели, не могут полностью имитировать многообразие реальных человеческих текстов. В реальных данных присутствуют различные стили, жаргоны, профессиональные термины и контексты, которые трудно воссоздать с помощью машинного обучения. Когда языковые модели обучаются на таких однородных синтетических данных, они теряют способность к точной и адекватной обработке информации.

📌 Для улучшения языковых моделей необходимо использовать реальные, а не синтетические данные. Однако проблема заключается в том, что уже сейчас данных для обучения моделей не хватает. Особенно в тех областях, где их и так немного (скажем, редкие языки). Кроме того, уже через несколько лет, по прогнозам, основная часть контента в интернете будет представлять собой сгенерированные данные, а не тексты и изображения, созданные человеком.

#aihow
ИИ требует все больше данных, но способен ли человек удовлетворить запросы машины?

Один из ключевых принципов ИИ - это обучение на данных и их обработка. К примеру, для обучения языковой модели GPT3 на момент релиза в 2020 году исследователи собрали набор данных из более 570 ГБ текстов, английскую Википедию, два датасета с книгами и датасет WebText2 с текстами веб-страниц.

Человек своей жизнью постоянно создает данные и, кажется, что их дефицита быть не может. Но готовы ли мы делиться информацией о своей жизни?

Технологические компании пытаются решить эту задачу через обезличивание данных, обещание использовать наши данные по определенным инструкциям. Однако чем дальше, тем сложнее реализовать эти обещания, ведь алгоритмы для улучшения своей работы требуют все больше данных.

Развитие же алгоритмов позволяет узнать чувствительную персональную информацию даже из обезличенных данных (вспомните случаи, когда злоумышленники соединили несколько украденных баз данных из разных сервисов, что позволило им идентифицировать конкретных людей).

Для решений этой проблемы компании используют синтетические (искусственно сгенерированные, имитируюрующие реальные) данные. Помимо вопроса персонализации, эти данные позволяют решать ряд других задач:
- Увеличение объема обучающих данных для машинного обучения, когда реальных данных недостаточно
- Создание сбалансированных наборов данных, если в реальных данных есть перекос
- Снижение затрат на сбор и разметку реальных данных

По оценкам аналитиков, к 2030 такие данные будут составлять больше 60% всех данных в мире. Неудивительно, что вокруг них уже формируется целый рынок, растущий по 30% от года к году (аналитики ждут $1.15 млрд к 2027 году)

На фоне всего этого можно явно сказать, что данных для ИИ хватит, но, возможно, мы подойдем к ситуации, в которой выдуманные данные начнут менять уже реальную жизнь человека.

1 августа в ЕС вступает в силу Закон об искусственном интеллекте. Полноценно его основные положения начнут действовать с 2026 года, но до этого времени их будут внедрять с постепенным интервалом.

Критики закона обратили внимание, что поспешные попытки регулировать базовые ИИ-модели ограничат использование технологии, а не риски, связанные с использованием нейросетей.

Подробнее в формате News+: https://forklog.com/?p=237132

#регулирование #ЕС

Европейцы решили на себе показать, что будет, если принять закон раньше формирования среды, которую он будет регулировать.

За этим опытом с интересом будет следить весь мир