Польза и риски ИИ. Игорь Ашманов

За великолепную работу наше общее спасибо Кириллу Никулину!
Оригинал видео тут. Нормальный звук на моих Ютубе, Рутубе. Ниже — авторский текст.

Доклад был прочитан в Сарове на базе Национального центра физики и математики в рамках III Всероссийской школы по ИИ и большим данным.

Само выступление обязательно к просмотру полностью. Это настоящий ликбез в потоке глупостей об ИИ. Ниже не просто таймкоды для кусочного просмотра, а достаточно подробное содержание выступления, конспект. Его цель в том, чтобы быстро находить тот или иной фрагмент для справок и\или ссылок на него. Кроме этого, в докладе нет ссылок на цитируемые работы, часть, наиболее полезных, которые удалось найти, добавлены.

03:05 ИИ это очередной технологический пузырь. Их было много и разных. ИИ ажиотаж это пополнение в копилку. “калькулятор и т9 это тоже ИИ” – это примеры программного обеспечения, которые тоже относятся к ИИ, но при этом не обладают таким завораживающим действием как жпт-агенты.
05:25 О маркетинговых уловках ИИ. Нейронные сети это не модель живого мозга, а нейрон значительно сложнее. О технологических истоках наших убеждений.
10:15 Сравнение истерики вокруг блокчейна и ИИ.
13:30 Кратко о кривой агентства Гартнер
16:35 Примеры технологических пузырей.
19:00 Чиновничье сумасшествие на тему ИИ. Про 2Г (Герман Грэф)
20:17 О министре празника (официально Министр Просвещения РФ), его откровения и выводы из этого.
21:20 Важная часть. Заслуженное место ИИ – боевые действия. Об Эрике Шмидте кто? откуда? почему он интересен?
25:40 Российские ученые до сих пор считают, что ИИ это направление в мировой науке. Поэтому до сих пор хотят вносить свой вклад в развитие. Не понимая (делают вид?) что в США это отрасль военного дела. На чью мельницу они льют воду?
28:40 О доморощенных цифровизаторах и о социальных рисках ИИ.
30:00 О социальном рейтинге. Какой рейтинг будет у администраторов системы? В Китае уже есть социальный рейтинг. — А это точно?
32:20 Повальная фальсификация всего, в том числе академических статей.
35:20 ИИ в высшем образовании.
38:00 ИИ в социальной сфере – гарантированная катастрофа. Для многих чиновников это удобно, потому что они таким образом снимают с себя ответственность. “ИИ не принимает человеческих решений” – это очевидно, но если задуматься над этим, представить последствия, то захотим ли мы жить в таком мире? Примеры в докладе.
40:00 Упоминание про новый цифровой класс. Уместно вспомнить полезную книгу Шошаны Зубофф “Эпоха надзорного капитализма".
42:30 ИИ убивает профессии. Какие?
44:22 Подтасовки топ-менеджеров от корпораций по теме ИИ.
46:20 ИИ и ФЗ-152. Поправки Хинштейна и Рукавишниковой. Персональные данные бизнесу нужны только для “втюхивания”. — цитата десятилетия. Каждый это на себе испытал.
48:15 Про обезличенные ПД.
50:10 “ИИ НЕ повышает производительность труда”. Исследование METR русский пересказ. Отчет MIT про окупаемость ИИ-агентов (для просмотра нужен VPN потому что сайт не дружелюбен для русских). Развернутый пересказ МИТ и метр только на хабре.
52:30 “В текстах не так много знаний” – парадоксальное заявление, но не в контексте ИИ.
Рассказ о новой бизнес нише – продвижение в чатботах (ну а как без этого).
54:35 Почему ИИшки до сих пор рисуют по 6-7 пальцев?
55:25 О сильном ИИ или AGI (Artificial general intelligence) – он не возможен! Если коротко, то ограничения в потреблении энергии. “Мозг” на полупроводниках чудовищно не эффективен в сравнении с биологическим мозгом.
57:00 “В текстах не так много знаний” – разъяснение высказывания, с глубоким примером.
Упоминаются Файн В.С. и Рубанов Л.И. и их совместная книга “Машинное понимание текстов с ошибками”. Публикации Рубанова (действующий ученый).
Важная цитата — “Машина для производства смысла это человек!” На основании текстов, которые индексирует, например, чатгпт программа не способна их (тексты) “понять”.
58:35 Пример бесполезности агентов-бредогенераторов.
59:54 О сектах и церквях ИИ. Спиралевики. Вполне ожидаемый итог ИИ-сумасшествия.

Продолжение ниже, в аудиоверсии.