VideoLab & Self-Motivated Learning

Коллеги!

Из интересного - на этой неделе я на Традиционной молодежной летней школе "Управление, информация и оптимизация", которая проходит в Новосибирском Академгородке в новом шикарном корпусе НГУ.

Институт ИИ МГУ является одним из ключевых спонсоров школы, как следствие я вижу многочисленные эмблемы ИИИ на спинах студентов сидящих в майках школы на лекции прямо сейчас))) Кстати - крупный индустриальный спонсор Huawei, но они шифруются и их лого нет)))

Для фото выше они неудачный момент выбрали (собрали процентов 60% участников всего) и даже на лекции прямо сейчас передо мной сидит больше студентов, чем на общем фото. 😲😁

Очень сильно радует общение со студентами (народ, который приехал очень мотивирован и неплохо прокачан!). Но самое интересное для меня, конечно, это общение с преподавателями школы (иногда весьма неординарными).

Ну и также кампус НГУ радует.

Я тут бывал раньше. И это было такое "наследие СССР". Богатое, впрочем.

В этом году поразился большому количеству новых корпусов, как уже эксплуатируемых (мы сейчас в таком), так и прямо сейчас сдаваемых в эксплуатацию (на прошлой неделе Мишустин приезжал принимать), так и строящихся. Они, конечно, сильно в инфраструктуру вложились. Площади у них явно более, чем удвоились. Это сильно!

Ну и чтоб 2 раза не вставать)

Среди участников будет сформировано 20+ команд, по разным темам атак, защит и т.п.

От нас будет минимум 3 темы. Вот пример одной из них от Насти, которая вам хорошо знакома как наш топовый автор А* статей:

Анциферова Анастасия Всеволодовна
Атака на watermarking генеративных моделей для изображений (в рамках челленджа NeurIPS'24)
Атака
Современные генеративные модели для изображений наносят невидимые глазу водяные знаки, которые при наличии инструмента для их считывания способны распознать, было ли изображение сгенерировано определенной моделью (DALLE/OpenAI https://www.theverge.com/2024/2/6/24063954/ai-watermarks-dalle3-openai-content-credentials, Google SynthID https://deepmind.google/discover/blog/identifying-ai-generated-images-with-synthid/). На ICML подходила к постеру статьи https://wavesbench.github.io/ и нас позвали поучаствовать в их новом бенчмарке атак на водяные знаки изображений. Авторы используют 3 разных способа добавления водяных знаков и предлагают разработать методы обмана их детекторов. Авторы запустили челлендж "Erasing the Invisible: A Stress-Test Challenge for ImageWatermarks" в рамках NeurIPS https://wavesbench.github.io/, даты должны совпасть со сменой, т.к. окончание соревнований 31 октября. Если даты совпадут, то можно будет прямо в интерактивном режиме посоревноваться с другими участниками. Если нет, то мы разработаем метод в рамках смены и засабмиттим его после в соревнование.

Тема атак на вотермарки - КРАЙНЕ прикольная.

Могу сказать, что Александр Крайнов - директор по развитию технологий ИИ Яндекса на этой неделе обращался к нам по поводу вотермаркинга. Они ищут людей в подразделение (и не могут найти, ибо молодых людей с идеями и горящими глазами - хватает, а вот людей, кто бы сделал чтобы оно работало найти не могут, увы).

В общем - обман детекторов - это вполне реальная задача, особенно учитывая, что у нас уже 30+ атак реализовано и есть с чего начать. Кто готов на смене прокачаться и до 31 октября плотно посоревноваться с другими командами мира (желательно - победив в конце) - вот прям очень ждем таких людей!

Если ваш метод будет ломать вотермарк от OpenAI или Google - вы наш человек.

Другие темы тоже будут интересны (от нас будет минимум 3 темы).

Ждем вас на проектной смене в нашем проекте! Не оставляйте заявку на последний день!

Поделитесь, пожалуйста, этим постом с друзьями, если кто-то из них мог бы такое потянуть или было бы интересно в теме прокачаться!

Господа!

Рад объявить, что мы участвуем в проектной смене "Доверенный ИИ", которая пройдет в Сириусе (Сочи) в начале октября.

Почему это круто? Там будет серия лекций по теме атак, защит, интерпретируемости и вот это вот все. Супер актуальная тема для продакшн сейчас. Ибо сейчас сплошь и рядом ситуация, что месяц новая модель обучается, а потом 5 месяцев ее "ровняют" с законодательством, чтобы она легким движением промпта не переключалась в режим, который тянет на несколько лет строго режима (а точнее - большой-большой штраф). А еще есть уязвимости, а еще есть отравление данных, а еще есть защиты от атак. Тема большая, сложная, актуальная.

В программе:

* Методы обнаружения и противодействия уязвимостям машинного обучения, включая состязательные атаки, атаки с внедрением закладок и зловредного кода и т.д.;
* Методы выявления и борьбы с устареванием моделей из-за изменения распределений во входных данных (concept drift, feature drift);
* Теория и практика создания моделей, устойчивых к атакам;
* Подходы к интерпретируемости моделей машинного обучения;
* Создание доверенных фреймворков для обучения нейронных сетей;
* Статический и динамический анализ компонентов интеллектуальных систем.

Информация о подаче тут:
https://siriusuniversity.ru/admission/educational-modules-and-activities/doverennyy-iskusstvennyy-intellekt/

ДЕДЛАЙН ПОДАЧИ - 6 сентября!

Причем там БУДЕТ КОНКУРС. Потребуется и задачи порешать, нужны резюме и рекомендация. В последнюю секунду до дедлайна это не делается.

Если кто-то из вас (может даже выпускники!) начинают уставать от прода и хотят прокачаться в теории и практике новых тем, а то и хотят в исследовательские подразделения и готовы хорошо вложиться в статьи по нашим темам - велкам!

Будем рады таких людей видеть!

(Т.е. для вас это шанс через решение практических задач на смене попасть в нашу команду!)

Господа!

Наши замечательные девочки на прошлой неделе представили свою статью на A* конференции ICML. Как они писали в процессе:

Всем привет из Вены с ICML! Представили только что постер, очень много интересных вопросов и обсуждений)

К девочкам много подходило в том числе народу из России, из МГУ мы там были одни 🤷‍♂️😉.

На девочках модные поло института ИИ МГУ)

А ты __USERNAME__ бывал на А* конференциях в магистратуре? 😉

Продолжаем движение! )))

#pro_conferences

Господа!

У меня очередная хорошая новость - Анастасия Анциферова (чье имя уже должны были выучить те, кто читает про наши статьи) вчера успешно (18 - "за", 0 - "против/воздержались") защитила кандидатскую диссертацию! 💃💃💃

Йееееес!!! Мы шли к этому 6 лет! 🎉🎉🎉

Вечером у нас был праздник с размахом (ибо 3 дня назад был еще и день рождения, так что совместили приятно с полезным, а защита была лучшим подарком))), на который подошли еще и выпускники. Получилось очень хорошо!) Выше речь Насти на фоне ГЗ (и рвущихся шариков))).

Хорошо пообщался с выпускниками. Один рапортует: 2 года, как закончил, Яндекс.Автомобили (и задачки прикольные исследовательские). 5 человек в подчинении, к осени 7 человек планируется. Меня очень радуют такие новости! 😁

Сейчас работаем над топовыми публикациями (и, как следствие, блестящими защитами) других аспирантов) 💪

#our_successes

И в продолжение темы бизнеса и вашей прокачки.

Мы сотоварищи в свое время выпустили книгу по алгоритмам сжатия (весьма популярную в узких кругах), также я регулярно пишу на хабр про алгоритмы, в итоге мне часто пишут, например, такие мысли:

Казалось бы парадокс. Сжатие информации является основополагающей во всей ИТ — технологии. Но при этом, миллионеров среди создателей архиваторов нет. На самом деле все просто, программы это «ресурс», такой же, как нефть. Соответственно, действуют законы бизнеса. Основную прибыль получают корпорации, остальное более мелкие фирмы. А, мы с вами «нефтяники», люди создающие «ресурс». Да у нас более высокая зарплата, как никак мы производим более дорогой ресурс, по сравнением с «офисным планктоном». Проходят множество конкурсов для выявления более продуктивных «нефтяников». Но никогда вам не будут выплачивать маржу, никогда не пригласят в совет директоров. Потому что это «вредно для бизнеса».

Вот ровно поэтому я и топлю за стартапы и за прокачку скилов руководителей.

Кого-то (очень редких) пригласят, в кого-то (подавляющее большинство) — нет. И это (внезапно!) конкретно зависит от бизнес-скилов и бизнес-знаний, поскольку специалист в алгоритмах без понимания бизнес-моделей и бизнес-процессов в совете директоров не просто не нужен, он там (такой красивый и умный одновременно) тупо вреден!

Интересно, что сравнение с нефтяной скважиной было и у Юрия Бикузина из интервью постом выше. Причем он сам ее (эту скважину) создал и она до сих пор его кормит☝️Т.е. бана то на создание скважин программистами как бы нет! 😉😁 Другое дело, что это непросто, ибо даже базу базовую затащить - непросто!

Я своим активно топлю за то, что им крайне полезна прокачка в руководстве (сделал лекцию, Как стать начальником? и т.п.), прохождение одного из курсов по управлению на Coursera называю лучшей инвестицией времени за всю учебу на ВМК. В итоге его прошло среди моих за прошлый год 3 человека из 30). 10%! Я не сдался. В этом году организовали групповое прохождение - прошло 10 человек.

Ровно поэтому успешных руководителей меньше 3%!!!

Даже зная, насколько это важно подавляющее большинство эти обманчивые в своей внешней простоте (по сравнению с условным функаном) гуманитарные знания не затаскивает. А потом совершает совершенно типичные ошибки из-за незнания базы. Так устроена жизнь)

В общем - кто-то из вас будет жаловаться, что с ним недостаточно справедливо делятся прибылью от созданных алгоритмов (гады!!!!!!!!!111), а кто-то войдет в совет директоров или создаст свой бизнес. 🤷‍♂️😉 И тоже будет жить в в элитном комплексе с окнами на 4 стороны, как Юрий из интервью выше (тоже выпускник ВМК, которому нравятся алгоритмы оптимизации, заметим).

Поймите - жить в (съемной))) малогабаритной двушке, которая целиком в детской квартиры Юрия поместится или жить в чем-то более достойном - это ваш выбор. И мне очень хорошо видно, как он делается, особенно когда (настойчиво) предлагаешь выбрать большее))).

Думаю, что среди вас членов советов директоров будет выше среднего по ВМК) Ну или хотя бы начальников 😉

И миллионеры среди создателей архиваторов есть 😲😉

Ну и до кучи, если мы уж про ВМК.

3 дня назад вышло часовое интервью с выпускником нашего факультета Юрием Бикузиным, с которым мы учились в одной школе в Екатеринбурге (он на класс младше), вместе ездили на олимпиады, летние школы и т.п. А потом он тоже поступил на ВМК. После пошел работать, создал компанию и... понеслась.

Рассказано все предельно кратко, но для меня его история интересна тем, что я наблюдал становление компании (и закалку его характера) можно сказать с самого-самого начала (и даже немножко раньше))).

Я не устаю топить за то, что свой стартап (особенно по молодости) - это супер тема. Да, она требует прокачки. Да, там тоже нужно много всего изучить и затащить, но это много дает. В начале интервью идет по сути база про бизнес-модели того, что называют "интернет порталами". А ближе к концу про бизнес-ниши современных телеграм-аппов. При этом в середине - много важных моментов касающихся самой сути бизнеса (и не важно, риэлтерского или нет). Причем интересно, что речь идет по сути про алгоритмы (привет, ВМК!). Бизнес поднялся на хороших алгоритмах парсинга и матчинга. И развился благодаря тому, что программа работала быстрее и надежнее конкурентов (про это в интервью ярко). Юрий вообще любитель алгоритмов оптимизации (в широком смысле этого слова). Ну это все про людей конечно. По комментариям это видно, первый, например:

Моя дочь Санду Ольга работала в Виннере с Бикузиным . Ребята, это Человечище! Как он относится к сотрудникам, так не относятся к детям мамы и папы!

или вот

Я айтишник, тоже с ВМК МГУ, ищущий себе хату, и уже 3 месяца как неуверенный пользователь виннера. Юрию огромный респект, продукт топовый, мне кажется можно было бы и обратно раскачать!

История падения компании драматична, конечно ("Когда я умер в первый раз" (с) - это улет). И то, как он сейчас опять поднимается...

А сколько людей из вас сможет так подняться (а потом упасть и снова подняться)? Надеюсь, что среди вас таких людей будет как можно больше.

Смотреть тут:
https://youtu.be/Qv--tLmoY74?feature=shared

Вдохновляться, делать выводы и, главное, делать так же и круче. 💪

Это бывает не часто, но НАС ЗАМЕТИЛИ! 😁😁😁 Новость на сайте факультета: https://cs.msu.ru/news/4126

"Мама, я в телевизоре!" (с) 🎉🎉🎉 Йеееее! ))) 🥳🥳🥳😉

Господа!

К теме прошлого поста (и наших наборов через AI Master).

Вчера второй раз прошли защиты ВКР AI Masters (тема там новая и сейчас налаживаемая)

Рад объявить, что работа Георгия Бычкова по состязательным атакам набрала баллов больше всех других работ! Т.е. была лучшей ВКР AIM этого года!

Замечу, что серьезную роль в высокой оценке работы сыграло то, что ее результаты включены в несколько топовых статей, которые сейчас на финишной.

Ну и еще раз дам базу: Самым продвинутым из вас, рано ушедшим в прод, через некоторое время (обычно через 3-5 лет) становится скучно просто фигачить и люди хотят переключиться на research. Ну а дальше естественным образом выясняется, что кто-то его тянет хорошо, а кто-то плохо. И разница в скорости на порядок+. Причем компаниям грамотных ресечеров не хватает и они готовы за это платить. Тот же Яндекс ведет списки ВСЕХ авторов А* статей из России (где Георгий завтра будет). И не только Яндекс. Ко мне ВЧЕРА хедхантер Сбера обратилась за помощью - связаться с моим бывшим студентом, у которого ооочень хорошие публикации, и который за рубежом. Хотят перекупать у западных компаний! (Т.е. предлагать больше, что смело и можно только приветствовать 😲🙂👏) Замечу - что Сергей Загоруйко, с которым мы читаем курс в AIM - тоже автор А*, который перешел из западной компании в MTS AI и переехал из Лондона в Москву не так давно. И количество таких людей (которых вынуждены переманивать по мировым ценам - проклятый рынок!))) - растет.

В общем - хочешь развиваться в эту сторону - не сиди ровно. Поступай на AI Masters, подавайся там на наши темы, участвуй в топовых публикациях. Становись лучшим среди всех других ВКР (и не только). Будь, как Георгий, короче! 😉

Еще раз Георгия горячо поздравляю! 👍👍👍

👏🎉🥇🏆🥇🎉👏

Господа!

Не устаю подчеркивать, что хороший способ попасть к нам (если не попали на 2 курсе) это через программу AIM, у которой через неделю день открытых дверей!

Ключевое:

AI Masters

- это бесплатная вечерняя образовательная программа в области наук о данных от Института ИИ МГУ.

Преподаватели - ведущие специалисты по Data Science из МГУ, МФТИ, ВШЭ, Skoltech, Yandex, МТС и других крупных технологических компаний.

Гибкий набор курсов предполагает обязательные и по выбору (всего более 30), в том числе:
- Машинное обучение
- Computer Vision & Video Processing
- Big Data and Data Engineering
- Генеративные модели
- Natural Language Processing
- Reinforcement Learning

🔝 23 мая в 16.00 (по мск)
🔝Онлайн
🔝Регистрация на День открытых дверей

Надо сказать, что после AIM (как и после ШАД) у тех, кто прошел, совершенно другой уровень. И тем, кому этого уровня мало (а все развивается с такой скоростью, что скоро его станет мало многим), мы предлагаем развиваться дальше - в сторону топовых статей, счета на хороших картах и вот это вот все 😉

Упомянутый выше "Computer Vision & Video Processing" - наш курс там (с Сергеем Загоруйко, одним из авторов DETR).

В общем - велкам! 😁

Коллеги!

У меня отличная новость! Наша статья о незаметной одноитерационной состязательной атаке на безреференсные метрики качества картинок и видео ("IOI: Invisible One-Iteration Adversarial Attack on No-Reference Image- and Video-Quality Metrics") зашла на ICML!!! Гуляем!!! ))))
💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃💃

А это на секундочку А* (причем вторая наша А* в этом году после AAAI) 💪💪

Надо сказать, что это была большая работа не только над самим исследованием и статьей (которые должны успевать быть первыми в тематике, за чем на А* смотрят особенно строго и что очень нетривиально сегодня). Но большая работа была и с рецензентами! На серьезных конференциях есть стадия rebuttal (скриншот выше), на которой можно ответить рецензенту и попытаться убедить его изменить оценку. С данной статьей удалось поднять две самых низких оценки на 1 и 2 балла (что очень круто и было определяющим по-сути). Замечу, что кратко и убедительно ответить - это ОЧЕНЬ непросто, быть скептичным - задача ревьювера.

Йеееееее! Мы (снова) сделали это!!! ☺️🙂

Наши девочки (Катя и Настя) круты!) 💐💐💐💐💐💐👏👏👏👏👏

Статья

#pro_conferences

Ну и в продолжение, кому интересно погрузиться в атмосферу китайского университета чуть глубже 😁

Это короткое интервью с их завлабом. У них был выходной. Народ работал 😲 Причем они от нас спрятались. Кто-то пригнулся, а один аспирант - вообще в шутку под стол залез. Короче - это оказался их лучший аспирант, мы его из под стола вынули и проинтервьюировали. Я его строго спросил, чем он занимается, и почему работает в университете по выходным))) Профессор суфлировал)

Вообще 15 аспирантов - это, конечно, сила. У нас меньше. И они расстаются с аспирантом, если он уходит работать... И фигачат все, включая профессора, 996... И это еще не самый топовый университет (в топовых студенты-аспиранты в лабораториях ночуют). Смотрю я на все это и думаю, как конкурировать с Китаем. Прям недетский челлендж, друзья!

Ну и мой любимый факт: У нас на 1 рубль, который государство дает на науку компании дают еще ~50 копеек. А в Китае на 1 юань, который дает государство компании дают 4 юаня. Разница в 8 раз - это примерно небо и земля. У нас академики просят денег у государства, а у них - выстраивают работу с компаниями (представить такое у нас - невозможно). Это кардинально меняет (помимо всего прочего) практичность подготовки выпускников. Конкурировать с которыми ВАМ будет очень непросто.

Как-то так, если кратко! 🤔 (продолжение следует)))

#China @vgcourse

Коллеги!

Я обещал рассказать про нашу поездку в Китай, где было огромное количество интересного, давайте хоть по частям)

Итак! Нас ездило 4 человека от лаборатории) Выше пруф - мы в гостях у Алибабы)

А на видео - я рассказываю про посещение VIP Lab (Video&Image Processing Lab))) в местном университете. Они наши коллеги по тематике - также плотно занимаются кодеками и обработкой видео, но все существенно более инженерно, в том плане, что они в первую очередь ориентированы на то, чтобы посадить алгоритмы на железку. Интересно, что в этом плане наши 16 бенчмарков - это в каком-то смысле дополняющая работа, поскольку для них частый вопрос, а какой именно алгоритм сегодня имеет смысл на железку класть. И тут для них наши бенчмарки (и вообще наш подход к тестированию, который у нас в отличие от большинства бенчмарков с учетом интересов индустрии) - крайне интересны для них.

В Алибабе нас сокращали до MSU Video Lab, кстати) Что вполне соответствует)

#China @vgcourse