VideoLab & Self-Motivated Learning

Господа!

У нас улетная новость!)

Последняя статья Насти Анциферовой сотоварищи "Comparing the robustness of modern image- and video-quality metrics to adversarial attacks that increase quality scores" зашла на AAAI-2024! Это А* конференция по AI! Йе-е-е-е-е-есссс!!!! 💪 Мы сделали это!!! 💃💃💃) Это уже третья А* Насти и команды метрик за последние 2 года! 🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉

Статья описывает работы по бенчмарку устойчивости метрику, который измеряет насколько метрики легко накручиваются. С одной стороны до сих пор находится много наивных чукотских людей, которые не понимают, кому это нужно. С другой - в топах большинства бенчмарков, сравнений и соревнований в области обработки и сжатия видео уже почти не осталось лидеров, которые бы не оптимизировали результат под метрики (😲 упс...). Все исследователи делают это... А если у бенчмарка лидерборд не по метрике, а по субъективному сравнению, не так просто туда заманить авторов (и почему так происходит, интересно? 😉). Увеличение адекватности сравнения без дорогого субъективного - это буст всей области!

Но еще важнее другая тема. Для тренировки JPEG AI, например, взяли 5 простых старых метрик, не потому, что лучше не было. Метрик лучше (моднее и молодежнее) был вагон. Просто они неустойчивы и в loss их поставить нельзя. При этом очевидно, что при постановке в loss более продвинутой метрики мы получим лучший результат. Аналогичную картину наблюдаем в SR и в других областях. Вопрос, где такую метрику взять или как построить? И это вопрос реально очень хороший. Мы уже сожгли много электричества (в прямом смысле) и потратили много сил на прокапывание этой области, но кроличья нора, похоже, весьма глубока.

Как минимум это повод для следующих А*! 😁😁😁

Продолжаем движение! ✌️

#pro_conferences

Ну и чтобы два раза не вставать.

Сегодня (!) наш магистр Никита Алутис сделал устный доклад на конференции VCIP 2023 (как они про себя скромно пишут AI-powered Visual Communications and Image Processing Toward Industry and Services​).

С какими приключениями пришлось столкнуться при оплате оргвзноса и билетами вы можете догадаться уже потому, что из России без VPN даже сайт конференции не открывается). Но! В итоге все получилось!!! (напомню зимой у нас был устный доклад на конференции в США, и это не предел)))

Замечу, что Никита автор MSU Video Deblurring Benchmark и перед ним был доклад очередной SOTA в video deblurring, т.е. была возможность пригласить на бенчмарк людей можно сказать лично (это очень важно, кстати, поскольку лично люди дают обратную связь про бенчмарк и т.п., чего никогда не стали бы писать письмами).

Ну и конференция, как заметил внимательный читатель, Toward Industry and Services, то есть ориентированная на индустрию (по крайней мере они пытаются, что, учитывая нашу практичность, очень хорошо).

В общем - поздравляю Никиту с первым докладом на английском на прекрасном корейском острове Седжю (Jeju)! 👏👏👏

#pro_conferences

Господа!

Хорошая новость - у нас состоялся релиз 17-го бенчмарка MSU Video Super-Resolution Quality Metrics Benchmark! 🥳 И это 14-й бенчмарк в "новой серии" бенчмарков)

Интересен он тем что его выпустил третьекурсник зимнего набора прошлого года!

Вежливо замечу, что в лучшем случае раньше на 3 курсе удавалось весной зарелизить, а то и вообще только к 4 курсу. А тут очень оперативно, при этом лидерборд крайне представительный (60+ метрик и еще будет пополняться в ближайшее время, поскольку посчитано больше).

Это 4-й наш бенчмарк на тему SR. Будем копать тему адекватных метрик качества, ибо работы в этой области (в которой прямо сейчас идет революция) непочатый край.

Интересно, что прямо сейчас один известный онлайн кинотеатр дал нам сэмплы на увеличение разрешения (вы знаете, какое "мыло" они часто показывают), так что работа сразу проходит "боевое" испытание (и оно дается непросто, заметим).

Но перспективы выглядят очень хорошо!

PS. Пояснение картинки: PSNR в некоторых случаях дает ОТРИЦАТЕЛЬНУЮ корреляцию с визуальным качеством SR, при этом она является САМОЙ используемой в статьях по SR. 🤷‍♂️🤦‍♂️😉 Будем менять эту тенденцию! 💪

Поздравляю Артема Борисова с релизом!!! 🎉🎉🎉

А теперь реальный нейрорендеринг.
Ох, щас наброшу интересную тему.

Айфон сам решает, что вы должны увидеть на фото или почему фотография уже давно не отражает этот мир, а представляет собой метаверс, преломленный в мозгах нейрочипов.

Подруга невесты сфоткала последнюю на айфон. И получила три разных невесты. На одном снимке.

Стоя перед двумя большими зеркалами, отражение невесты не отражает ту позу, которую она принимает, и мало того, оба отражения отличаются друг от друга и от той позы, которую невеста принимала на самом деле.

В то время как невеста держала одну руку вверх, а другую вниз, отражение слева видит, что она держит обе руки вниз, а отражение справа - что она держит обе руки на талии.

"Это реальная фотография, не отфотошопленная, не панорамный снимок, не Live Photo", - пишет невеста в своей инсте.

Невеста в ярости идет в Apple Store, где ей рассказывают, что айфончик на деле делает серию снимков, а потом не просто выбирает лучший, а сшивает их в одну фотку.

Ну то есть айфончик решил, что в одном зеркале невесте к лицу одна поза, в другом - другая поза, а как там она выглядит или держит руки ему насрать. Ибо бьютификация - всё, а реальный уродливый мир - отстой и ничто.

Понятно, что вычислительная фотография давно уже не отражает реальный мир (вот почитайте огромную работу Димы Ватолина, где на фотках появляются неожиданные персонажи в результате апскейла).

Но этот кейс потрясающе выпукло демонстрирует нам факт, что мы давно уже полагаемся на ИИ в гораздо более широком круге вопросов, чем думаем.

Если у вас есть другие объяснения происходящего или годные теории заговора, пишите в коменты.

Не удержусь и сделаю форвард, тем более Сергей меня пиарит)

Внимательно посмотрите в следующем фото на руки девушки (оригинальной и в двух отражениях). А вот нечего руками махать, когда тебя фотографируют умные смартфоны! )))

Да, это ровно обработка видео при склейке кадра. Сегодня практически все телефоны делают это! И пример шикарный, конечно!

Кто пройдет по двум ссылкам - попадет на статью на хабре, в которой я попытался максимально популярно разжевать тему.

Раньше мы давали задание на Motion Estimation, чтобы люди пощупали руками видеопоток и поняли, как непросто с ним работать (в том числе выбрать нужный кадр для склейки).

Господа!

Раз в кои-то веки не наши новости, но на мой взгляд для самых продвинутых крайне интересно. А касается вообще всех. Крупный американский венчурный фонд Coatue опубликовал любопытный доклад "The AI Revolution" на 115 слайдов.

На первом графике - запредельно наглядно показана скорость инвестиций в AI за 3.5 года. Видно, что 10 млрд в OpenAI было больше, чем ВСЕ инвестиции во ВСЕ стартапы за предыдущие 2 года. И скорость инвестиций после выросла ~ в 3 раза. Заметим, что компания нашего Карена Симоняна на втором месте по ожиданиям инвесторов 👍😉

Дальше любопытный график скорости достижения уровня человека разными алгоритмами. На вашем месте я обратил бы внимание на линию "Core Generation". LLM уже многие простые куски кода пишут намного быстрее человека и скорее всего прогресс ускорится. Судя по комментариям на Хабре у части веб-программистов уже пригорает. Странно, почему? 😉 Можно предсказать заметное изменение эффективности работы и перераспределение спроса на рынке труда.

Ну и к вопросу "никогда такого не было и вот опять" - шикарный слайд о повышении производительности труда дизайнеров. Простая реклама могла занять месяцы в 60-х, когда чтобы передвинуть надпись - нужно было заново делать рисунок. В 80-х скорость резко возросла (особенно для надписей). Дальше серьезное ускорение за счет совместной работы над макетами (в США модным стали overnight заказы, которые реально реализовывали в Индии). А сейчас с генеративными моделями можно бросать очень прикольных вариантов и кинуть на них нужный текст буквально за минуты. А ведь творческая специальность! (где-то сейчас заплакал оставшийся без ужина дизайнер)

Но ведь это не может с программистами повториться? Ведь никак не может, правда? 😉

Там есть и другие любопытные слайды!

Выпускник МГУ Карен Симонян вошел в мировой рейтинг Топ-100 людей с наибольшим влиянием в сфере Искусственного Интеллекта по версии издания Business Insider в 2023 году.

О том, как проходило профессиональное становление Карена Симоняна в студенческие годы, рассказывает его научный руководитель, руководитель лаборатории интеллектуального анализа видео Института ИИ МГУ и лаборатории компьютерной графики ВМК МГУ - Ватолин Дмитрий Сергеевич.

Читайте в статье ВКонтакте!

Господа! С подачи ИИИ МГУ вышло небольшое интервью про Карена Симоняна )

Господа!

На днях в Москве шел, VideoTech 2023 - профессиональная конференция по видеостримингу. Вчера общался там с руководителем группы видео-транскодинга Дзена (ВК) - у них очень неплохие результаты, с техническим руководителем Кинопоиска (тоже много транскодинга, раздачи и т.п.) и СТО Окко (транскодинг и т.п.) и еще несколькими целевыми людьми.

Всего почти 6 часов разговоров получилось (доклады слушал мало-мало).

Грамотных людей всем не хватает сильно! "Утешил", что с грамотными людьми скоро все будет еще хуже. Обсуждалась идея устроить курсы повышения квалификации (платные?))). Мысль интересная. Ждем, когда недостаток людей станет настолько жгучим, чтобы они занялись не переманиванием, а инвестициями в обучение (процесс на самом деле уже идет).

На AIJ случайно встретил нашего выпускника 20 года, который сейчас работает в Сбере в ML (причем доволен командой, что бывает там не всегда))) У меня были лекции "Как стать начальником" + прокачка по теме. Он отрапортовал, что уже получил под свое управление 2-х человек. Горячо тему поддержал, дал пару советов))) Работаем над тем, чтобы процент выпускников, которые будут хвастаться подчиненными устойчиво рос! )

Также встретил выпускника AI Masters этого года, ныне он аспиранта Сколтеха, который, как выяснилось, ходил на ВМК на мой курс на 2 курсе, но тогда у него было все слабо и на ИИТ не прошел. Дальше пошел на AIM (в том числе на мой курс с Сергеем Загоруйко там), и продолжает прокачиваться в аспирантуре. Горячо поддерживаю стратегию глубокой прокачки! ) (ибо времена с развитием копайлотов и их вариантов грядут тяжелые)

На VideoTech, к слову, с руководителем команды видео-транскодинга меня познакомил студент, который ходил на мой онлайн курс в Вышке (+читал статьи на хабре + смотрел наши выступления на прошлых VideoTech + читал наши научные статьи - прям человек добрался до всего, включая материалы за пейволами - рад, что люди глубоко копают). Меня человек увидел, познакомился лично. Приятно)

А ты %%USERNAME%% насколько глубоко копаешь? 😁

Коллеги!

Я с хорошей новостью, мотивирующей лучше всех (надеюсь))) сделать выданное в среду задание спецкурса по атакам на метрики. 😉

Команда под кураторством Анастасии Анциферовой (с.н.с. нашей лаборатории в Институте ИИ МГУ и нашей научной группы в ИСП РАН) заняла 🥁🥁🥁🥁🥁🥁🥁🥁🥁🥁🥁🥁 ПЕРВОЕ МЕСТО (🏆🏆🏆🥇🥇🥇👏👏👏) в большом хакатоне проектной смены "Доверенный Искусственный Интеллект" в университете Сириус с темой "Adversarial Purification for IQA Models" (состязательные защиты от атак - следующий уровень по сложности после атак).
Состав команды:
* Александр Гущин 6 курс ВМК МГУ
* Анна Чистякова 5 курс ВМК МГУ
* Владислав Минашкин 4 курс ФПМИ МФТИ

Работа оценивалась по критериям:
* Понятность презентации, постановка задачи, полученный результат (1 место!!!)
* Практическая полезность и применимость результата (1-2 место!!!)
* Общее качество работы (проект поделил 2-3 место, но баллов хватило!)))

В общем жесткой конкурентной борьбе (с преимуществом 0,2 балла по 10 бальной шкале) занято 1 место из 15 команд!!! 👏👏👏

Всего предложено 7 методов защиты против 10 атак, для всех типов атак побит baseline, для атаки AdvCF обучена модель для восстановления исходного изображения, код выложен на github! 🙂

Будем надеяться, что среди вас будут те, кто окажется в состоянии 3-4 курсу успешно атаковать (как наши девушки из новости недельной давности))), а к 5-6 курсу успешно (состязательно во всех смыслах) защищать от атак, причем и то, и другое - лучше всех! 😁😁😁