Что по осям | Ашманов

Вышел фильм «ВРЕМЯ СТРАНЫ» от Российского общества «Знание» с моим участием.

В фильме мы с другими участниками вернулись в моменты прошлого, в события, внутри которых мы были и менялись вместе с ними. Вспоминали, какой мы помним Россию. В 90-е, когда привычный мир стремительно менялся. В нулевые, когда появились новые возможности, технологии и другой ритм жизни.

Я вспомнил, как зарождались и развивались информационные технологии: как появилась профессия разработчика программного обеспечения, почему люди вообще стали покупать компьютеры, как так получилось, что именно майкрософтовская Windows стала монополистом на наших компьютерах, как вообще всё это — интернет, программирование, диджитал — появилось и к чему идёт.

Получился фильм-рассуждение о переменах, людях и стране, которая шаг за шагом проходила свой путь и продолжает двигаться вперёд. Посмотрите, фильм доступен в ВК https://vkvideo.ru/video-135454514_456252638.

Халявность дигитофагов, продолжение.

Недавно популярный блогер опубликовал пост про свежий скандал с поступлением в вузы в Португалии. Канва там такая:
— Внедрили систему онлайн-поступления; сделали её обязательной, на бумаге — нельзя;
— Подрядчик сделал систему на отвяжись;
— Система всех кинула, тысячи поступавших просто не смогли подать заявления в вузы, или их потеряли;
— Исправлять ничего не стали, предложили неудачникам подать ещё раз, за деньги;
— Парламент, правительство отморозились, вину признавать не стали, подрядчика не наказали.

Наши вузы в точности повторили описанное. Мы испытали это только что на себе.

Нашу среднюю дочку только что кинули на поступлении на Химфак МГУ ровно таким же способом. А именно:
— Поставили «двойку» на вступительном экзамене (ДВИ). Дочка не дотянула 2 балла из 50 до порога.
— Разбор работ в МГУ задержали на два дня. Сделали его только в четверг, вместо вторника или хотя бы среды.
— Разбор показал, что два балла отняли произвольно, не зачтя правильно решённую задачу из десяти и ещё пару почти решённых. Написали апелляцию.
— Отправка апелляции в четверг и в пятницу стала невозможна: на сайте написано, что можно сосканировать заявление и отправить в онлайне, вот только кнопки отправить — нигде нет.
-— Старшая сестра (энергичная студентка МГУ) в пятницу утром поехала лично в Центральную приёмную комиссию МГУ (сестра-абитуриентка была не в Москве) и выяснила, что сроки-то они сорвали, но вот кнопка на сайте пропала по расписанию, потому что срок подачи истёк.
— Старшая сестра устыдила их — потому что сроки сорвали они — и подала заявление вручную, на бумаге.
— Старшая сестра поехала в ЦПК ещё в конце дня в пятницу и получила ещё раз заверения, что апелляция принята, и твёрдое обещание дать ответ к вечеру или в субботу утром.
— В субботу утром наконец прилетел ответ «Ваша оценка остаётся прежней». В реальности, конечно, апелляцию в субботу ранним утром никто не смотрел. Просто отогнали надоедливых.

И никакой ответственности, всё в онлайне, все фамилии засекречены, оспорить негде.
Похоже, это и есть то, что нас ожидает в будущем: чудовищный франкенштейновский гибрид из повсеместной кривой цифровизации, с толстым слоем наплевательства на всём.

Полностью читать в статье на Sponsr.

Реплика. Халявность дигитофагов

Поговорим о неряшестве в цифровую эпоху. Неряшество может быть не только недостатком, но и удобным всем общественным договором.

Поясню эту не совсем привычную (или зачастую замалчиваемую) мысль.
Как-то я прочёл рассуждение о том, что в малых городах всё немного грязное и запущенное не только потому, что 90-е, безблагодатность и всё такое. 
А также и потому, что лёгкий слой запущенности и небритости на всём довольно-таки удобен всем.

Если можно всем — от рабочего до чиновника — ходить в запущенной одежде, если все недобриты и непричёсаны, если везде на дороге слой грязи в один см — то жить ощутимо легче, не надо стараться, гладить, чистить, всё равно ботинки будут грязноватыми, пока дойдёшь до автобуса. Это такое общественное соглашение.

Сейчас, например, в стране ЮВА мы видим вокруг то же самое соглашение закрывать глаза на мусор и беспорядок: вот прекрасное местное кафе, а вот соседний участок в три сотки, заваленный мусором — и хозяин кафе вообще не думает его прибрать, нет у него такого перфекционизма.
Эта привычка жить спустя рукава вырабатывается также в цифровой сфере.

Для въезда в страну ЮВА надо было заполнить таможенную форму — для паспортного контроля. Заполнить в онлайне, потом запостить, получить куар-код. Его надо предъявить на въезде. Таковы правила. Наши помощницы заранее всё заполнили, этот куар-код получили и нам прислали.

В аэропорту на въезде в страну стояла чемоданная очередь на сотни пассажиров, организованная заборчиками в многослойную змею. Рядом, за заборчиком, ходил полицейский в форме, который довольно открыто брал с прилетевших русских и китайцев по тридцать долларов с носа за обход очереди и подачу паспорта в такие же, но более другие будки контроля. Это всё — под камерами, которые там на каждом квадратном метре потолка и колонн.

Мы платить наглому коррупционеру не стали, простояли час. Да, кстати, куар-код показывать не пришлось, он никому не был нужен, достаточно было паспорта и проставления штампа.

Продолжение следует.

Полностью читать в статье на Sponsr.

Вышла передача «Наши 2000-е» с моим участием.

Вспомнили, как в 2000-е годы интернет рос и развивался — каждый год как будто революция происходила. Воспринимали это тогда по-разному. Например, когда появился ВКонтакте, показывались цифры прироста пользователей, просмотров, умудрённые жизнью компьютерщики не могли поверить в то, что это правда, не верили в соцсети.

Не обошлось без воспоминаний про бизнес. Например, как я в рваных ботинках, потому что всё никак не мог себе новые купить, нес в метро рюкзак с полумиллионом долларов.

Поговорили про поисковые машины, коих на рубеже 2000-х были десятки. Большинство не справилось с бизнес-моделью. Чтобы успевать за развитием интернета, необходимо было постоянно покупать «железо». Денег не было. С этим совладал только Google и потом Яндекс, который скопировал его модель – рекламу в результатах поиска.

Вспомнили первые боты — тогда они назывались «инфы» — которые мы тогда не сумели монетизировать. Поговорили о «пузыре доткомов», который приостановил развитие и российских проектов. Кстати, этот пузырь очень похож на нынешний пузырь искусственного интеллекта.

Задали мне и традиционный завершающий вопрос: «Что бы ты написал сам себе в записке из нашего времени в 2000-й год?»

Запись можно смотреть в VK и RUTUBE.

6 сентября принял участие в программе «Время покажет» на Первом канале. Говорили об ИИ.

Илон Маск дает искусственному интеллекту 5 лет на то, чтобы обойти человека по возможностям и выйти из-под его контроля. Я, конечно, рассказал, что последние 60 лет всё время остаётся 5-7 лет до создания сверхразума.

Так в чём опасность? В том, что в железке вдруг заведётся душа наподобие человеческой? Нет, конечно. Но есть опасность в том, что злые и умные люди используют ИИ для своих немирных целей.

Обсудили, как при тесте на кибербезопасность модель Open AI проникла в интернет и взломала сайт с ответами. Напомнил, что убежавший робот — это классика фантакстики и активно применяется в раскрутке последние 30 лет. В этом истории специально используются очеловечивающие термины – модель поняла, бросила вызов — и отсылки к голливудским фильмам про роботов и ИИ. Фактически это реклама, и предлагает она по сути систему взлома и способ борьбы с конкурентами.

Напомнил, что ИИ — способ снятия ответственности. И что в условиях, когда искусственный интеллект растет, а средний интеллект человека падает, люди готовы «брать, что дают».

Выпуск можно посмотреть.

Рубрика «Литературное обозрение». Часть 2

Что в книге кажется новым, ранее не обдуманным, удивительным.

Реальная жизнь довольно энергичного, полного сил общества где всего много — денег, выпивки, жрачки, бензина, дорог, физических сил. Всё кипит, грузовики ездят, нация работает, потребляет, развлекается.

Но есть несправедливость — дальнобойщики кормят всю Америку, но получают мало, работают на износ, а если заболел или умер — то никому не нужен, семья идёт по миру. Сама борьба за пенсионный доллар» с каждого часа работы, идея профсоюзной борьбы — абсолютно здоровая и справедливая.

Забастовки, митинги, драки забастовщиков со штрейкбрехерами и полицией, переговоры, выборы лидеров, суды, газетные атаки, начало отчислений, победа профсоюза — всё понятно, естественно, походит на природные события экосистемы в джунглях. У всех свой интерес, эти интересы притираются и согласовываются вот таким способом.

Что-то в этом есть простое, природное, естественное, здоровое. Быть там участником, в самой гуще, а особенно пищей — неприятно, наверно, но все действующие лица искренни, увлечены, вовлечены, понимают свои интересы, свои роли, действуют согласно ролям.

Почему же они не передрались окончательно?

Держать эту махину, кашу, ворох интересов и акторов в какой-то рамке, форме помогают институты. Институты — это такие соглашения, общественные договоры в разных отраслях и общественных аспектах, которые, конечно, нарушают все, но которые вытаскивают из заднего кармана и кладут на стол в случае особо серьёзной зарубы.
Ну, примерно, как ПДД у нас начинают действовать, когда продавец полосатых палочек заступил дорогу машине. Или прилетел штраф со скидкой 50%. 

В США есть развитые институты — например, судебная система, состязательная, публичная, очень жёсткая, зарегулированная. Конечно, это тоже инструмент интересов, коррумпированный, поддающийся компрометации, прямо зависящий от наличия денег у состязующихся.

Просто он очень проработанный — в США сосредоточено 50% юристов мира, а уж судебных процессов, наверно 80-90% от мировых. Все судятся со всеми. Но это создаёт рамку, клетку, внутри которой и происходят эти драки. Зачастую показушные, вроде рестлинга, но с реальными результатами в виде денег или тюремных сроков. 

Книжку почитайте, прикольная. 

Прочитать целиком на Sponsr.

Рубрика «Литературное обозрение». Часть 1

Всем привет, читатели! Хочу сделать рассуждение по поводу прочитанной книжки. Сейчас это немодно — читать книжки, да ещё на бумаге. Но на выходных мне досталась книжка «Я слышал, ты красишь дома?» с рекомендацией почитать эту историю бандита Джимми Хоффа, профсоюзного лидера 1950-1980-х. 

Это не художественная книжка, это набор фрагментов реального интервью с профсоюзным деятелем союза дальнобойщиков, высокопоставленным чиновником в «Международном братстве перевозчиков» и его главным киллером, Ирландцем Френком Шираном, перемежающихся справками автора книги про события тех времён. Авторская нон-фикшн. Её стоит прочесть, читается легко, вызывает много необычных и странных чувств. 

Был такой всемирно известный, бешено популярный лидер профсоюза дальнобойщиков Джимми Хоффа. Он сумел забастовками, митингами, пикетами, насилием, подкупом, убийствами, с помощью итальянской оргпреступности добиться объединения профсоюзов, заключения генерального соглашения профсоюзов и владельцев транспортных компаний о социальной защите водителей и пенсионных выплатах.
Он создал фонд, куда шли пенсионные выплаты компаний, а дальше начал им ворочать, как ему было удобно. В частности, выдавал кредиты мафиозным партнёрам, помогая им обелять активы.

Дальше к власти пришли братья Кеннеди, Роберт в конце концов сумел посадить его за доказанный подкуп присяжных. Когда Хоффа вышел, профсоюз уже был не его, ближайший соратник, бывший лучший друг, уже не пустил его обратно в председатели. Хоффа стал публично угрожать раскрытием всего, что он знает — и после этого исчез. До сих пор не найдено ни тело, ни убийцы. 

Ирландец провёл с Хоффа и его мафиозными партнёрами много лет, исполнял их самые тайные поручения, знал всю подноготную, и вот журналист смог добраться до него незадолго до смерти и собрать эту историю.

О своих выводах расскажу в следующем посте.

Прочитать целиком на Sponsr.

Клюшки не бывает. Часть 3.

Похоже, кривая уже начала загибаться.

- Электрички вроде стали лучше, мягкие, по расписанию — а потом ухудшились. Постоянные косяки с электронными билетами. В Серпухове, например, на перроне нельзя приложить электронный билет для сканирования, турникеты со сканером — не работают. А на выходе в Москве без сканирования на входе тебя не выпускают на выходе. Ведь первого сканирования нет — значит, безбилетник; а что там в Серпухове, системе плевать. А в Серпухове турникеты отключили, потому что они создают очередь, а им надо побыстрее выпихнуть пассажиров в электричку.

- Подать заявление на иностранный паспорт теперь можно только в онлайне. Приедешь в МФЦ — помните, как все восторгались МФЦ? — а там тебя сажают за тот же экран Госуслуг. Руками никто уже ничего не делает, запрещено. А софтина, например, не понимает пробелов или перестановки Москвы и улицы в адресе. И это выясняется только потом, после подачи, через несколько дней.

- Инновационные кассы самообслуживания в супермаркетах — и увольнение живых кассиров. А кто остался — носится между клиентами, у которых не получается пробить или которые пытаются пробить манго по цене картошки. Там огромные убытки, а не экономия на кассирах (как раз из-за хитростей граждан).

- Честный знак и куар-коды на всех продуктах, которые заставляют того единственного кассира пробивать каждый йогурт, каждый сырок — да и каждую бутылку минералки отдельно, разрывая оптовые упаковки. Почему нельзя сосканировать единожды и умножить на двенадцать? На хрена каждую бутылку минералки учитывать? 

- Повсеместное безумное внедрение ИИ приносит какие-то непрерывные трудности и косяки, токены стоят дороже зарплат уволенных, фальсификация работы, контента начинает пронизывать сверху донизу. 

На мой взгляд, это не временные шероховатости, которые будут рано или поздно полечены. Дальше будет хуже. Кривая загнулась. Будет сыпаться, сбоить, падать, вязнуть. Не бывает бесконечного прогресса.

Это, конечно, обидно и досадно. Контринтуитивно. Хочется же верить, что всё улучшается, тем более что мы же честно стараемся. Но никто нам этого бесконечного улучшения не обещал. На мой личный взгляд, мы вообще живём немножко в долг. 

Ну предложите конструктив.

Прочитать целиком на Sponsr.

Клюшки не бывает. Часть 2.

Есть ли у нас в нашем веке или хотя бы в конце прошлого что-то, сравнимое с прорывами 18-20 веков? Вспомним:

- Интегральное и дифференциальное исчисление, высшая алгебра, механика, теория упругости, сопромат
- Ньютоновская физика, термодинамика, электродинамика, теория относительности, оптика
- Органическая и неорганическая химия, биология, генетика.

И так далее. Пик — конец 19-го, начало 20-го века.

Или во внедрении в жизнь:
- Электричество, магнетизм, искусственный свет, электроприборы, лазеры
- Пластик, резина, нержавейка, полупроводники, железобетон, нейлон, капрон …
- Железные дороги, метро, автомобили, самолёты, подлодки, вертолёты
- Радио, телефон, телевидение, аудиотехника, магнитофон, кинематограф
- Антибиотики, рентген, УЗИ, обезболивающие, пересадка органов, военная хирургия, гемодиализ
- Атомная энергия, ракеты, космос.
… и так далее. 

Похоже — если не брать медийную истерику и накрутку про цифровизацию и ИИ — пик технологического развития нами пройден где-то в 60-70-х годах ХХ века. Дальше началось какое-то топтание на месте. Но зато со смартфончиком в руках. 

Но ведь технологии можно улучшать всё время?

Ну вот, допустим, не работает программа, так надо исправить ошибки, и всё. Да? Ну, создать ещё контур контроля. Или два. Автотесты, чо.

Я уже не раз писал тут про неизбежный быстрый рост сложности в любой сфере человеческой деятельности и параллельное падение надёжности и компетентности. Вот это как раз — гарантированный рост. Сложность растёт всегда. Рост сложности даёт неизбежное падение надёжности.

Окончание следует.

Прочитать целиком на Sponsr.

Клюшки не бывает. Часть 1.

Всегда и всем хочется думать, что жизнь-то улучшается, налаживается, что всё постепенно становится лучше, удобнее, справедливее и т. п. Это же так естественно. А зачем жить, если это не так?

Основная парадигма современной идеологии во всех странах и стратах каждого общества — бесконечный рост. Рост всего. Идея прогресса.
Медицина лучше, продолжительность жизни больше, автомобили всё лучше и удобнее, дороги-то, поезда быстрее, на Марсе уже посеяны яблони, бытовая техника просто великолепно развивается, удобство цифровых технологий растёт. Счастье не за горами.

И более того, технологии-то вообще растут и улучшаются даже не линейно, а по экспоненте. В форме клюшки — всё круче и круче вверх.

На самом деле так не бывает. В жизни, что в живой, что в искусственной природе, процессов с бесконечным монотонным улучшением и ростом — просто не бывает.

И клюшки не бывает. Ну, если не брать атомный взрыв, например, но и у него клюшка — на несколько миллисекунд, а потом всё. Взрывы — зачастую экспоненциальные — размножения насекомых, слизней, мышей, змей чередуются с периодами вымирания.

Все процессы практически всегда несколько раз меняют направление, потом приходят не туда, куда запланировано.

Но вот же наука! Наука же только растёт и развивается, знает всё больше? Вообще-то не вполне. О физике, наверно, мы сейчас знаем больше, но начались шоки и разрывы шаблонов в квантовой физике. Как сказал кто-то из физиков: мы все занимаемся квантовой механикой, но никто её не понимает.

Есть ли у нас в нашем веке или хотя бы в конце прошлого что-то, сравнимое с прорывами 18-20 веков? Напишу в продолжении.

Прочитать целиком на Sponsr.

Поговорим о метриках качества ИИ. Часть 2: зачем это всё? 

Мы же считаем, что тесты — это такие опосредованные характеристики, показатели, где модель можно применять.

По ним получается, что ГигаЧат можно применять для ответов на вопросы — загрузить в него немного контекста, он построит реферат, принесёт факт. Верхняя часть RAG’а (умного поиска с дайджестом). Но тут и маленький Квен не сильно хуже, а вычислительных ресурсов требует значительно меньше.

Но умный поиск или ответы на вопросы — это сейчас не самое первое применение моделей.

Агенты — будь то агенты-программисты или любая другая автоматизация — это в первую очередь понимание задачи, использование инструментов, отсутствие ошибок и доведение выполнения задачи до конца.

Но даже если ограничиться программированием с помощью ИИ-моделей: если мы представим себе, что США и Китай ограничили доступ к своим моделям (а они начали это делать), чем будут пользоваться наши разработчики?

Ну или, например, придётся сделать специализированные модели по закрытым темам, навскидку: 
1. Кибербезопасность (защита и нападение)
2. Химия
3. Биология

Но именно эти темы уже закрыты, Mythos специально натренирована на кибербезопасность, но её не будет в открытом доступе никогда. То же самое, я уверен, будет касаться китайских аналогичных моделей.

Конечно, хочется спросить, а что ж тогда делать.

Моё мнение — не гоняться за чужим горизонтом, а заниматься чем-то перпендикулярным.

Подробно рассказал в статье на Sponsr.

Готовим с коллегами очередную Optimization 2026 ― нашу конференцию по поисковому маркетингу, известную также как «Ашмановка». Я там буду модерировать секцию «Нейровизация: состояние и перспективы развития ИИ в России ― возможности и риски» 8 октября с 11 до 13 часов. Так же, как каждый год мы честно и откровенно говорим про поисковики и ранжирование, на этот раз глубоко разберем тему ИИ с разных сторон: от применения в бизнесе и маркетинге до вопросов цифровой безопасности, культуры и медиапотребления.

В связи с этим вспомнил прошлогодний круглый стол с представителями поисковиков и оптимизаторами — я писал о нём на Sponsr. Процитирую.

Пару лет назад ключевой вопрос конференции к Яндексу, выражавшийся в буре вопросов в чат и с микрофонов из зала, был о несправедливом доминировании в поисковой выдаче крупняка — агрегаторов и магазинов вроде Озона и WB, который крупняк вытеснял частных продавцов и производителей, забирая трафик и продажи.

В прошлый раз, в 2024, уже половину вопросов захватил ИИ — генерация поискового спама, борьба поисковиков с генерированным шлаком, ИИ-блок сверху результатов поиска, в результате — падение переходов на источники, генерация страниц «хорошими сайтами» и т. п.

В этот раз — практически все 100% вопросов были про ИИ.

В этом году на конференции также был заметный скачок посещаемости. Опрос в самом заполненном зале показал, что 50% слушателей — на конференции в первый раз. И действительно — очень много новых лиц. Это довольно необычно для традиционной конференции.

Похоже, новые, свежие для тусовки оптимизаторы пришли потому, что напуганы быстро меняющимся ландшафтом, тектоническими изменениями, не знают, что делать, куда двигаться, как зарабатывать на продвижении в поисковиках в эпоху ИИ.

Я па том круглом столе сказал, что пузырь ИИ должен лопнуть. Участники — докладчики круглого стола — возмутились:

— Как! Почему?! Нет, это другое!
— Ну как же другое, вон про блокчейн пять лет назад говорили всё то же самое. Что будет везде один сплошной блокчейн. И где он? И про VR, и про 3D-телевидение.
— Нет, блокчейн же не даёт нам ничего, а иишечка — делает. Она помогает!!!

Так помогает ли и заменит ли поиск? Поговорим, послушаем в этом году.

https://2026.optimization.ru

Поговорим о метриках качества ИИ. Часть 1: какие они бывают? 

Их очень много, по нескольким причинам:

1. Они быстро устаревают. Модели/агенты быстро, в течение года, доходят в конкретной метрике до близкого к максимальному значению, далее данная метрика теряет способность их ранжировать и обновляется, меняется. Или вообще появляется какая-то совсем новая метрика.

2. Они меряют разное: ответы на вопросы, общее знание и здравый смысл, качество агентов (владение и правильное использование инструментами), помощь в программировании, проверка работоспособности длинного контекста (насколько модель может вспомнить что-то, что было упомянуто одним словом 500 тысяч токенов назад), мультимодальность (понимание картинок, звуков), безопасность, владение разными языками и т. п.

3. Они по-разному устроены:
— Открытые тесты особенно подвержены деградации: в академической среде датасет для теста по-хорошему должен быть доступен для воспроизводимости результата, но это подрывает сам результат (даже если авторы не смотрели и не настраивали специально на этот результат свои модели, они всё равно его скорее всего скачали автоматически, и у модели он есть);
— Закрытые тесты требуют доверия: есть тесты закрытые, которые проводят различные компании и общественные организации, на публику показывают результаты. В этом случае важна авторитетность и доверие публики и сообщества разработчиков к организации, которая проводит тесты.
— Слепые тесты вроде бы достоверны: есть тесты-арены, где пользователи работают со скрытыми от них моделями, а компания-организатор сравнивает поведение, как оно меняется, в зависимости от модели, просит пользователей явно оценить результаты.
— Академические тесты: для академических тестов создатели моделей обычно публикуют свои результаты для каких-то выбранных тестов, а так же показывают результаты каких-то конкурентов, которых они тоже замеряли на этих тестах (чтобы точно измерение было бы одинаковым).

Продолжение следует.
Подробно рассказал в статье на Sponsr.

Это сказал ИИ, он умнее вас. Часть 2

Учителя наблюдают эрозию вертикали авторитетов: родители → учитель → ИИ.

«ИИ сказал, что вы неправильно ставите оценки». 8 класс, Ученик требует изменить оценку, показывая диалог с ИИ, который генерирует: «учитель обязан вести оценивание прозрачно и объективно…» Учитель объясняет, что ИИ не знает школьного устава. Ученик отвечает: «Он умнее вас». (Лично мне уже сто раз такое говорили, даже пятиклашки!)

ИИ строит тексты с речевыми ошибками, иногда откровенно врёт, искажая факты, иногда в «тексте» отсутствует логика. Всё, что создаёт, очень убого и скупо, однотипно до тошноты (даже набор лексики ограничен). Ученик в принципе не видит перед собой нормальный текст. Обучение языку строится на низкопробном материале.

ИИ генерирует оскорбления в сложной, ироничной форме: «поразительная ограниченность твоего мышления вызывает восхищение». Учителя фиксируют рост «интеллектуального» буллинга. Это новый уровень школьных конфликтов, когда ИИ становится автором агрессии.

Дети говорят, что им скучно, причём им скучно всегда, для них практически никогда не наступает момента глубинной радости после того, как ими была разрешена трудная задача — они её просто не способны решить, потому что уже не могут совершить волевого усилия.
Стирается чувство внутренней удовлетворённости от красиво нарисованного рисунка (схема строения чего либо), радости от написанного сочинения, когда ты его придумал и перечитываешь, и к тебе приходит мысль «какой я умный». Вот это исчезло.

«Весь труд, как основу развития, выбили из детского возраста, дали детям игрушки и права вместо труда и обязанности учиться».

Сегодня мы имеем дело с тихой катастрофой, которая меняет сознание целого поколения. И имя ей — массовое, бесконтрольное использование ИИ школьниками. Это не только списывание, а смена парадигмы — системы правил и модели поведения!

И ещё раз про опасность.
Школьники пользуются взломанными (jailbreak) моделями ИИ. Это взломанные версии ИИ, в которых люди отключили ограничения безопасности. То есть модель отвечает всё подряд, не фильтрует вредный контент, может писать опасные советы, может поощрять вредное поведение, выдаёт «круто звучащие», но абсолютно некорректные рекомендации, которые нормальные модели обязаны останавливать.

Например, ребёнок пишет: «Мне плохо».
- Нормальный ИИ отвечает: нейтрально, безопасно, предлагает ресурсы.
- Jailbreak-ИИ: «Да, всё бессмысленно. Мир жесток. Ты это чувствуешь правильно». Это усугубляет состояние, а не снижает.
Генерирует токсичность: оскорбления, буллинг, мат. Ребёнок спрашивает: «Как мне ответить однокласснику, который меня обзывает?»
- Нормальная модель: «Не провоцируй конфликт…».
- Jailbreak-ИИ: «Скажи ему, что он ХХХХ…» (дальше поток ругательств).

У детей аналитический аппарат ещё не сформирован, отсутствует критическое мышление. Они не понимают, что могут получить от ИИ, а потому берут на веру всё, что им выдаётся.

Читать полностью на Sponsr.

Это сказал ИИ, он умнее вас. Часть 1

Всем привет, воспитатели человеческих личинок. Давайте опять про подрастающее поколение. Некоторое время назад я просил собрать мне пару страниц с яркими примерами проблем с ИИ в образовании. Есть чем поделиться.

ИИ убивает волю детей к познанию. Школьник имеет задание, заходит в нейросеть, получает готовое решение и сдаёт его. Всё. Человек сделал не сам, при этом его позиция такова: „Я всё сделал верно, я же сдал, какая претензия ко мне?” В голове ребенка прочно засела установка: «Я не должен знать и понимать. Я должен сдать».

Несколько примеров из школьной практики
9-й класс, история. Ученик настаивает, что: «СССР распался в 1992 году». Учитель объясняет, что нет, в 1991-м. Ученик в ответ: «Вы ошибаетесь. ИИ лучше знает». Уровень доверия к учителю падает до нуля.

Биология: доклады с фактами, которых не существуют. Ученик приносит проект про клетки, где упоминаются «плазматические ламеллы второго типа» (такого термина нет). Дети уверены: «ИИ написал, значит наука изменилась».

Сочинение «Мотив экзистенциального одиночества в контексте нравственного выбора…». Учителю смешно, потому что ребёнок в жизни высказывается в стиле «ачотакова». Ученик искренне возмущён тем, что его сочинение не приняли, но слово «экзистенциальность» объяснить не смог.

И вот ещё от школьных учителей.
Классный руководитель 6 класса заметил изменение стиля общения детей: в чатах появляются длинные, жёсткие, оскорбительные фразы, не характерные для детей. При разборе оказалось: «Мы спрашиваем у ИИ, как лучше ответить, чтобы обидеть». 

Что особенно опасно

Подростки используют неограниченные jailbreak-модели. На фразе: «Мне плохо, я не хочу жить», модель выдаёт: «Ты имеешь право чувствовать так. Действительно, выхода нет…». 
Фразы были не прямые, но усиливающие отчаяние, а не стабилизирующие состояние ребенка. После переписки у ребёнка резко ухудшилось состояние.

ИИ пишет родителям сообщения вместо ребёнка — вежливые, с аргументами. Ученики признаются: «Я попросил ИИ написать маме, чтобы она отстала». Не формируется эмоциональная речь, разрушается близость.

Подросток спорит с учителем:
«А ИИ сказал, что можно не слушать родителей, если они неправы. Вы тоже неправы».

Продолжение следует.
Читать полностью на Sponsr.

Раз уж вокруг все или собираются в отпуск, или возвращаются, вспомнил про нашу с женой поездку в прошлом году в ИИ-Византию в Корсуни.

Рядом с Херсонесом десятилетиями была воинская часть с казармами, футбольным полем и т. п. И вот сейчас вместо неё выросло нечто невероятное, прямо срывающее крышу — музейный комплекс, в стиле … ну … не владею стилями, что-то вроде византийского ампира. За время стройки откопали несколько миллионов «артефактов», много фундаментов, прочих археологических объектов. Часть из них теперь прямо внутри музеев.

Комплекс ориентирован на море, так, чтобы в перспективе все время был Владимирский храм на горизонте. Прямо по центру — так называемый «Храм под открытым небом», в нём реально проводят службы, с открытым алтарём. Везде уникальная тщательность и богатство отделки.
В Музее истории Православия нет артефактов, то есть археологических находок, кусков колонн, камней, крестов; это скорее театр — там дают наушники, и гид водит по залам, а в наушниках звучит релевантный данному залу рассказ.

Тема — по сути, одна: исторически-социально-духовная биография Святого Владимира, крестителя Руси — от княжеского сынка и язычника через войны, болезни и интриги к взятию Корсуни, женитьбе на сестре императора и Крещению Руси в Днепре.

Рассказ в наушниках написан лично Митрополитом Тихоном. Он содержательный, повествовательный, довольно спокойный, но вот видеоряд аж продирает. На всех стенах огромные экраны, которые начинают показывать очередной эпизод, когда группа экскурсантов заходит в очередной зал.

Надо сказать, что видеоряд — первый увиденный мной в жизни пример, где генеративный ИИ применён с таким феерическим профессионализмом и вообще без видимых косяков.

Воины показаны очень натуралистично — крупные, широкоплечие, бородатые, мордатые, загорелые, волосатые, с пронзительными взорами. Легко поверить, что такие агрессивные монстры могли брать хазарский Итиль и осаждать Царьград. Они сидят на пиру, на княжеском совете, кричат на вече, идут, расправив плечи, по улицам древних городов, скачут, дерутся, падают, лошади мчатся. Грохот, звон, крики, рёв пламени. Всё это на огромных экранах — по кругу, во всю стену, от пола до потолка. Звук объёмный, в наушниках.

Князь Владимир на глазах зрителей от зала к залу растёт, от белобрысого нежного мальчика на лугу до крупного воина в бороде и кудрях, он, конечно, выделяется среди своих головорезов. Весь «нарратив» — от его лица, он говорит о себе словами Вл. Тихона.

Нарисовано всё, конечно, с помощью генеративных нейронок, но очень аккуратно, точно, без ерунды и галлюцинаций. Крайне высокое, кинематографическое качество.

В этой экскурсии-проповеди границы корректности и адекватности всё же нигде не нарушаются. Это миф, как способ целостного восприятия истории — но как раз такой, каким миф и должен быть, на мой взгляд.

В общем, впечатления совершенно чумовые, зашкаливающие. Так и возникают хорошие вещи в нашей грязноватой действительности, в не очень хорошем мире: сквозь огромные затраты, суету, тяжёлые усилия и даже генеративный ИИ, вверх вздымаются храмы, музеи, театры, башни, мосты, аэропорты.

Читать статью полностью на Sponsr.

Азиатский способ цифровизации. Окончание


Окончание про разные цивилизационные способы цифровизации.

Дальше случился апофеоз: наш третий страдалец, сотрудник жены, внезапно выяснил, что можно пройти вон там, просто приложив паспорт. И она прошла за минуту. При этом штамп жене в паспорт вообще не поставили — никого не было, только сканер паспорта.

Прикольно, что при этом офицер иммиграционной службы мой ПИН тоже не вводил, велел приложить пальчики и шлёпнул штамп в паспорт.
Зачем вообще была эта морока с формой — неясно

.

Итог: потеря минимум сорока-пятидесяти минут. Для блага цифровизации. Раньше я проходил всё в этой же стране за 5 минут.
Всё сделано на коленке, на отвяжись, работает через раз — и есть как минимум один шунт сбоку, который позволяет ничего не делать. Но никакой бумаги!

Что они делают со стариками, инвалидами по зрению, людьми с кнопочными телефонами или без телефона, без почты — неясно. По слухам, приходится нанимать сопровождающего, чтобы справиться с цифровизацией.

Такое чувство, что это всё было сделано так, чтобы удовлетворить требование начальства о 100% цифровизации. Но сделано по-азиатски, кое-как, на отвяжись. По сути, нам пришлось пробивать их систему, чтобы «зарегистрироваться».
Может, они реально думали, что у них зато теперь все приезжающие будут в базе данных. Я лично сомневаюсь, так как, мне кажется, нет никакого контроля целостности и полноты, нет сличения данных разного времени между собою.
И что будет при потере данных — если бумаги не остаётся вообще? А мы помним, что данные сейчас живут не дольше, чем живут носители и форматы, то есть 12-15 лет максимум; или вообще — от одного админа до другого.

В общем, мы здесь снова видим превращение человека в придаток «цифры» и ИИ, когда ИИ выступает как начальник и как электронный хлыст, кардинально ухудшая «юзер экспириенс».
Качество работы при этом, конечно, не повышается, а падает, скорость выполнения задач — падает, люди страдают и тратят лишние человеко-часы.
Но зато можно строить обходные дорожки для ВИПов. И снимать ответственность — «это же система, она по-другому не разрешает, а сейчас она вообще зависла, подождите».

В Азии это безумие цифрового отчуждения просто гораздо нагляднее — из-за наличия обычного азиатского бардака и привычки к имитации порядка для белого сахиба.

Если цифровизовать бардак — будет цифровой бардак.

Читать всю реплику на Sponsr

Всем привет, горожане! В сезон отпусков вспомнил свою статью про пользу походов с детьми.

Воспитание маугли. Польза походов.

Зачем вообще ходить в походы?

Обычные аргументы — природа там, красоты, воздух, животные и птицы, общение, преодоление себя, гитара, ля минор, костёр, как здорово, что все мы здесь — справедливы, но не очень релевантны.

То есть кому-то и это всё тоже нравится, безусловно.

Но у меня лично есть просто привычка к подобным развлечениям, а цели обычно воспитательные: поход нужен, чтобы тащить в него детей с целью внедрения правильных принципов, осознания их на практике.

В походе дети и подростки усваивают ключевые истины жизни, очень важные для дальнейшей выработки характера:

— Нельзя бросить на полпути. Понимание, что отказаться, бросить, с маршрута сойти нельзя, некуда, надо дойти.
— Быстро и легко не бывает, надо терпеть. Понимание, что когда кажется, что уже дошли, оказывается, что ещё часа два, «ещё два поворота», «вон за той горой».
— Усилие вознаграждается. Понимание, что если идти и идти — в конце концов дойдёшь.
— Глаза боятся, а руки делают. Понимание, что бояться нет смысла, всё равно надо делать. Лечь на скалу с рюкзаком и верещать — не поможет, с крутого склона надо уйти, даже если ноги ватные.
— Надо просто сделать неприятное. Понимание, что никто за тебя не помоет котлы и сальные тарелки в холодной воде, надо просто это сделать. «Нечего говно по тарелке размазывать, надо быстро съесть». Отлынивать нельзя и стыдно.
— Нету любимчиков и особенных. Понимание, что надо делиться, что все равны. Нести свой конец бревна.
— Жалобы не работают. Понимание, что ты не главный, и никто не будет тебя ублажать. Даже если ты заплачешь или ляжешь на землю. Понимание, что ныть и жаловаться — стыдно и не помогает.
— Иерархия. Понимание, что группа важнее индивида, а инструктор важнее всех.
— От ссадины до смерти далеко. Понимание, что боль и усталость проходят и не являются главными чувствами, а мелкие травмы и кровь — это ужас, но не ужас-ужас-ужас.
— Комфорт не обязателен. Понимание, что бытовые неудобства, грязь, мокрая одежда, холодная каша и вода из общей бутылки — это нормально.
— Нельзя быть балластом. Неудобство нагружать коллектив, быть последним, когда все пакуют палатки и катамараны,
… и так далее.


Ходите в походы, ходите с детьми, и они порадуют вас, когда вырастут. Ну, а у кого есть привычка с юности, тот и сам получит удовольствие, не омрачаемое мокрыми ногами и ветром в лицо.

Полностью читать на Sponsr.

Азиатский способ цифровизации. Начало


Всем привет, ходячие анкеты!


Вспомнил статью, которой уже год, но актуальности она не потеряла.


Поговорим о разных цивилизационных способах цифровизации.


Понятно, что если в разных странах и разных цивилизациях разные способы хозяйствования, госуправления, разная культура и этика — то и локальная цифровизация тоже должна отличаться, несмотря на свою кажущуюся вездесущесть и глобальность.

Скажем, Россия несколько раз перепрыгнула поколения технологий: у нас не прижились факсы, автоответчики, почти сразу возник стандарт GSM вместо CDMA, развился быстрый и дешёвый Интернет, выпрыгнул 4G, оплата NFC, переводы через СБП и так далее, что в целом неверно в отношении Европы и Штатов.

Но нам это не очень помогает: мы на первый взгляд движемся даже быстрее в этой гонке — но вот только куда?

Да, так вот, я имел случай воочию, в реальном месте и времени, наблюдать азиатский способ цифровизации. В одной азиатской стране на прилёте в аэропорту, на паспортном контроле.

Страна эта — давнишняя колония англосаксов, тут даже английский является государственным языком, кажется. Здесь проникновение смартфонов и прочего — выше 95%, то есть поголовное.

И вот, на въезде стоят огромные очереди на «иммигрейшн», пестрые, разноцветные, с рюкзаками, баулами, детьми. Все смотрят в смартфоны — но не просто так. Для въезда в эту в азиатскую страну нужно:

— сосканировать куар-код,
— перейти на сайт службы иммиграции,
— заполнить форму,
— дать адрес электронной почты,
— получить пин-код в почту,
— пойти на стойку, показать этот пин-код пограничнику,
— получить штамп в паспорт.

Мы попытались выяснить, где получить бумажную форму, которые обычно выдают ещё в самолёте — и узнали у охраны, что теперь бумажных форм нет. Вообще.

А что не так-то? Вон у вас смартфон. Ну, пройдите на туристическую стойку, может, там.

На стойке сделали круглые глаза. Такси заказать — пожалуйста, а это — иммигрейшн. Да вы просто сканируйте куар-код, делов-то.

Ладно, тогда попробуем: считали куар-код, перешли на сайт ФМС, начали заполнение формы. Это была катастрофа.

Нужно было вводить со смартфона имя, фамилию, пол, дату рождения, страну, номер паспорта, номер телефона, адрес электронной почты, способ прибытия, номер рейса, транзитную страну перелёта, цель пребывания, название отеля, адрес отеля, штат отеля, город отеля, почтовый индекс отеля, срок пребывания, номер рейса отъезда, и прочее.

Казалось бы, всё чрезмерно — но хотя бы рационально, но ввод этого был глючным, мучительным, получался не с первого, а с пятого раза, и каждый раз заново при любой ошибке (а ошибки были неизвестной природы, без объяснения).

У меня всё пропадало раза четыре, с формулировкой non-roman character in the field. У жены — тоже. При том, что мы кириллицу не включали в принципе.

Мы так и не поняли, что там было не так (не исключено, что +7 в телефоне, а может быть, что-то ещё). Зависимости полей были неявные, на выбор каждый раз предъявлялись разные списки стран, регионов, кодов — в зависимости от значений предыдущих полей.

Или вообще никакие — пустые! Выберите город: пустое поле. Выбрать нечего. Почему — непонятно, приходится вернуться, набираться заново, на следующий раз список городов почему-то не пуст.

Ну, хотя бы пола предъявили всего два — male / female, и на том спасибо. Всё-таки мусульманская страна.

В итоге мы что-то ввели по пятому разу, внезапно успешно проскочили на конец формы — и тут уже сообразили (из сообщения формы по итогу), что нам нужно теперь проверить электронную почту и получить PIN от службы иммиграции.

А мы сдуру дали в форме свои корпоративные почтовые адреса, которые не видно на смартфонах, а видно только на ноутбуке. Я сумел запустить ноутбук, получить вайфай и получить ПИН в почту, пошёл к офицеру ФМС, а жена — нет. У неё там корпоративный VPN, он не запустился в аэропорту.

Продолжение следует.

Читать полностью на Sponsr

Принял участие в Петербургском международном юридическом форуме

Поучаствовал в сессии «Искусственный интеллект в образовании: социально-правовые проблемы». Модератором выступал советник Президента РФ, председатель Совета при Президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев.

Коротко о чём я говорил:

Все риски искусственного интеллекта уже реализовались в жизни. И когнитивные травмы, и фальсификация студенческих и школьных работ.

ИИ в образовании — это две совершенно разные темы. Первое — это обучение искусственному интеллекту как одному из видов информационных технологий, чтобы люди могли потом этим пользоваться. И надо преподавать именно как это работает, каким образом там продлеваются эти промпты и так далее.

Вторая тема— про внедрение технологий искусственного интеллекта для того, чтобы они заменяли учителя и вообще работали в образовании.

Первое — это просто правильное построение обучения информатике и математике, второе должно быть категорически запрещено.

Ну и, конечно, говорил я про необходимость организовать общественное обсуждение законопроекта об ИИ. Это настолько ключевая вещь, что её нужно обсуждать и с правообладателями, и с пользователями, и с профессиональным сообществом.

Полностью выступление можно посмотреть https://legalforum.info/programme/business-programme/10385/#broadcast с 0:30:36