VideoLab & Self-Motivated Learning

Господа! У меня кучно пошло с новостями, но как есть)

Я уже 10+ лет рассказываю на лекциях разные истории из жизни с описанием проблем, которые возникают у большинства (с забыванием изученного, с вылетанием из профессии, с прокрастинацией и т.д.). Глубокая идея тут в том, что если делать как многие, то и результат (внезапно!) оказывается как у многих (я вежливо смягчаю формулировки 😉))).

И не попасть на путь лемминга очень сложно, даже хорошо зная о нем. Я вот кучу лет про это рассказываю, но какое-то время назад поимел крупные проблемы с позвоночником. Стал копать глубже и нашел книжки, где популярно объясняется, почему у 80% людей после определенного возраста проблемы со спиной и почему при сидячей работе и удобном кресле вероятность проблем (внезапно!) резко возрастает. Вот только я (как и 99% других) прочитал эту книгу когда проблемы стали серьезными. В общем широка тропа лемминга. И хорошо натоптана! ) И кресло было таким удобным! 😖

Причем постепенно все популярнее тема "хорошо сейчас, плохо потом" (взамен устаревшей "сложно сейчас, хорошо потом"), поэтому ширина той тропы плавно растет)))

Короче! Желаю всем в новом году минимизировать вероятность не только текущих, но и будущих проблем!

Сделали не идеально (можно лучше), но пусть так, чем никак (большинство исходников лежали несколько лет))).

Приятного просмотра на новогодних 👋👋👋)))!
https://www.youtube.com/playlist?list=PLjnbr2ZalOERJFXH8CjggCtJc0Uz7wZb0

Господа!

Тут BMVC (British Machine Vision Conference) выложили статью Кати Шумицкой https://bmvc2022.mpi-inf.mpg.de/790/ - можно зайти голос Кати послушать)))

Самое интересное, что Катя на 4 курсе (т.е. результат за 3 курс получен). И так быстро затащить BMVC очень непросто.

Навскидку вспоминается только студент видеогруппы Карен Симонян, который затащил ICIP в компании на 4 курсе и BMVC на своих результатах через год. Это он позднее VGG-16 придумал и сейчас из Google DeepMind ушел в Inflection.AI)

В общем у Кати хорошо пошло, есть в кого! 👍🏆👍

Заметим, что наши бенчмарки построены на ЗАКРЫТЫХ датасетах. Возможно именно поэтому на них не воспроизводятся некоторые топовые результаты других бенчмарков 😉

Вообще, открытые датасеты сильно упрощают поддержание бенчмарка. Ибо в худшем случае авторы метода сами на нем гоняют алгоритм и присылают автору бенчмарка только результат. Увы, как следствие - очень многие результаты не воспроизводятся (суровая реальность). Мы поддерживаем закрытые датасеты, что позволяет смотреть, кто и как на самом деле работает (очень ценно для понимания, что творится в области). Кстати, именно за код paperswithcode очень любят компании и топовые ресечеры.

Как-то так! )

Ну и для большей уверенности в ваших силах - достижения пары предыдущих поколений поколений (в основном за последний год).

7 наших бенчмарков вышли на 1 места в 5 категориях на papers with code! (в двух соревнуемся сами с собой за 1 место))) - сортировка идет по количеству методов с открытым исходным тестом в бенчмарке.

Господа!

Возможно, это неправильно, но ваш покорный слуга не послушался совета старшего товарища (кто дочитал до конца последнюю статью на хабре 😉) и мы таки делаем зимний набор! )

Для хорошо сделавших задания и прошедших вчерашнее собеседования коллеги подготовили аж 7 тем на выбор, причем несколько неожиданно для меня - в шаблоне института ИИ))) (они его сотрудники, им можно))). Анализ взлома метрик, анализ (интеллектуальный!) взламываемости контента, бенчмарк нейросетевых артефактов и прочие AI-радости 🫶 😎

Кто не прошел - не отчаивайтесь и приходите в феврале на вторую часть марлезонского балета спецкурса! Прикольных тем у нас хватит на всех (главное, чтобы были силы их затащить). 👌

Да пребудет с вами сила! 💪💪🧑‍💻

Из текущего интересного - я вошел в состав жюри конкурса Технотекст - на лучший текст Хабра в номинации "ML и AI". Ранее я дважды участвовал в конкурсе и оба раза брал 1 места в номинациях "ML и AI" (за 2020) и "Образование в IT" (за 2021). К сожалению в этом году как члену жюри участвовать нельзя, поэтому свои статьи по взлому метрик и обучению переполненного мозга (которая аж на 17 месте в топе года хабра сейчас из примерно 30000 статей!) подать на конкурс этого года не смогу. Так что дальше придется просто так писать! ☺️😎
Зато расскажу про лучшие статьи прошлого года как-нибудь! )

#Habr

Господа!

Последняя статья набрала 100+ тысяч просмотров за 6 дней и вышла на 1 место в топе месяца на хабре ) (и в целом она на 1 месте по закладкам и на 2 по просмотрам и "хабролайкам" среди всех моих статей с 2015 года)

В общем - более попсовая тема (хотя и важная для каждого) зашла на порядок лучше, чем сложная прошлая статья про метрики с популяризацией наших статей на NeurIPS & BMVC и нетривиальных моментов развития ИИ. Ожидаемо, конечно, но как есть...

Работаем дальше!)

#Habr

Господа!

У меня вышла статья, про которую я говорил ходившим на курс - про деградацию мозгов, цифровые наркотики и их влияние на способность усваивать новое ))):
https://habr.com/ru/post/704798/

С многочисленными примерами из наших лекций, лекций коллеги и т.д.

Самое главное - сделать правильные выводы (и остаться среди самых востребованных).

Широкое распространение приветствуется!

Господа!

Рад сообщить, что у нас после большого перерыва очередная статья на Хабре - о том, как с приходом нейросетей все стало намного сложнее и запутаннее с метриками качества видео. Как "старые добрые" массово списываются в утиль, а новые прекрасные нейросетевые взламываются и позволяют манипулировать их результатами почти в произвольных пределах. Одно из прямых следствий этого - скоро в статьях и материалах компаний метрики качества видео не будут означать просто НИЧЕГО! (кроме шуток - это совершенно не смешно!) С новыми метриками сделать чтобы метод А был больше метода Б (или наоборот) - не вопрос, простор для читинга огромный. Вот только как теперь, дорогие друзья, с этим жить?

Ну и мы по этой теме активно оттоптались и с публикациями, и с исследованиями, и с новыми проектами.

Велкам читать:
https://habr.com/ru/post/700726/

На заглавной картинке - 99% людей (все, кроме 1% отщепенцев) считают, что слева картинка лучше. А PSNR говорит, что лучше справа. Причем кардинально лучше. Кому верить? Может новым нейросетевым метрикам? 😉

Репост приветствуется!

#Habr

Ну и заодно, чтобы два раза не вставать.

На том же хабре два месяца назад на первое место в топе недели и хорошее место в топе месяца ушла очередная исповедь программиста, у которого начало конкретно пригорать в 30 с хвостиком. И это опять веб-программист))) (почему я не удивлен ни этому факту, ни тому, что статья залайкана (+247)? 😉

Ну и жизненные шаги просто классические, и начало, и продолжение (выделено мной):

"Зато сайты, сделанные на коленке, начали приносить огромный доход на арбитраже трафика. А когда у тебя по карманам и полкам рассованы пачки денег, а тебе всего 19 лет - самомнение летит вверх с головокружительной скоростью."

"Так прошли 2,5 года. Вспоминая себя - я понимаю, что я мог бы до сих пор там работать, и считать себя хорошим разработчиком. Ну а как понять что ты плохой? Работу выполняю быстро, вроде бы качественно, в срок, точнее обычно - раньше срока. Кругом хвалят, премии дают."

"К тому времени универ был благополучно заброшен, из-за вовремя не сданных лаб я получил недопуск к сессии и был благополучно отчислен."

"Но шли месяцы, я разбирался в коде все больше и больше, стал экспертом и мое эго снова вернулось на место. Как же, я могу сделать любую задачу, опять работаю быстро, начальство сыпет похвалами и премиями. Мне всего 23, куплена новенькая машина с салона, жизнь играет красками."

"Еще один эпизод с собесами, оффером, и перебитием оффера от текущего работодателя. Зп растет не по дням а по часам! Да я просто, мать его, гений!"

"Затем был переезд в Штаты, и тут со всех сторон на меня полились ушаты холодной воды, отрезвляя и заставляя включать думалку."

"В итоге я получил пинок практически ото всех крупных компаний и стартапов. И осознал - я, разработчик с практически 12 летним опытом за плечами - простой формошлеп. Да, еще есть время наверстать упущенное, но тогда, в 20, в самом начале, это сделать было проще и эффективнее."

"Универ. Я все еще считаю, что это не панацея, и во всем можно разобраться самому, но ведь гораздо проще внимать знания от кого-то... Знаете, что меня поразило? Большинство, если не все, алгоритмы, которые сейчас используются для решения сложных задач - были сформулированы и выведены в шестидесятые, семидесятые года прошлого века!! Вы знали? Я не знал. Потому что забросил универ."

"Когда тебе 20 - все же гораздо проще работать «за еду» в проекте, где ты можешь научиться гораздо большему, чем формошлепить задорого только потому, что никто кроме тебя не знает этой CMS. В 30, когда у тебя семья, дети, гораздо сложнее выбирать между этими двумя параметрами."

Полная версия тут и называется Исповедь ничтожества

Замечу, что то, как его накрыло в 30, это полная фигня по сравнению с тем, как накрывает программистов в 40))) И его накроет с большой вероятностью, поскольку я у него вижу очень неплохую рефлексию по поводу отрезка 20-30 и совершенно не вижу конструктива, чем ему срочно надо заниматься, чтобы не пойти в тестировщики в 40. И то, что он в США уехал - будет для него в минус, поскольку любые переезды между странами - это недетские расходы, а у него на горизонте (cюрприз-cюрприз!) сокращение доходов. А начиналось все с того, что он не знал, куда деньги девать))) Ну знал, конечно, рестораны, машины, стартапы, жена, дети, переезд в США... )))

Впрочем главное, чему учит история - что она ничему не учит) (за редким исключением, процент которого, надеюсь, будет чуть выше среди вас)

Господа!

На Хабре сейчас висит на 4 месте в топе недели (и на 1 месте в "читают сейчас") текст Молодежь нынче пошла не та, или поиск системного аналитика «за 200» от человека, который много технических собеседований проводит.

Там, в частности, есть такой кусок (выделено мной):

На вопросы о том, что было пару лет назад, кандидаты часто отвечают «это было давно, не помню уже». Так отвечали про свой прошлый проект – в чем была его суть и ценность, про нотацию диаграмм которую использовали на прошлом месте работы, или про структуру спецификации требований.

Если же кандидат что-то изучал только в вузе, но не применял на практике, то как правило ничего кроме названия в голове не осталось. Хотя там, скорее всего, была какая-то практика.

Почему меня это расстраивает? Это обесценивает опыт. Полученный опыт переходит в устойчивые умения и навыки, повышающие ценность сотрудника, только после фазы осознания и рефлексии. Ответ «не помню» позволяет предположить, что полученный опыт был выкинут из головы сразу же после завершения работы, и никак не закрепился. При таком подходе полезность и ценность сотрудника растёт медленно (если вообще растёт).

Человек по сути пишет о массовом непонимании людьми ключевых принципов, от которых зависит время полураспада знаний, что приводит снижению роста ценности сотрудника со временем (в лучшем случае).

Вообще всю статью рекомендую. Для вас это шанс отличаться от большинства.

Коллеги!

До меня сегодня (не прошло и 3 месяцев) наконец-то дошли призы от Хабра за победу второй год подряд в конкурсе лучших статей ))) Призы они улучшили по сравнению с прошлым годом! Основной приз наверное килограмм весит)))

И в черновиках еще 6 статей лежит... Эх, время бы выкроить )))

Будем работать в этом направлении!

#Habr

Всем привет!

В эту среду (21.09 14:35) состоится первая лекция спецкурса «‎Методы обработки и сжатия медиаданных»‎

В ходе курса вы узнаете:
* Как сжать любой файл в точку
* Почему шакалит JPEG
* Как взломать метрику оценки качества VMAF
* Что такое AV1 и почему за ним будущее сжатия видео

Курс рекомендуется студентам второго курса для распределения на кафедру Интеллектуальных Информационных Технологий

Где: Второй учебный корпус, ауд. 579
Когда: по средам в 14:35

Из хороших новостей.

У нас недавно был опубликован MSU Video Quality Metrics Benchmark 2022. А на прошлой неделе на его основе была подана статья на топовую конференцию.
Это датасет создавался 5 лет и суммарно на его разметку было потрачено больше 900 тысяч рублей!

На публикацию бенчмарка уже отозвался Ал Бовик (создатель SSIM, наиболее цитируемый ученый в метриках качества видео):

I saw this with great interest. I notice that (of course) the database is all compression distortions, and the trainable models (which have been trained on other distortions, like UGC), have not been retrained on the MSU data.

Al

Из Google (YouTube) также отозвались:

Very nice benchmark. Appreciate your team's contribution in video quality assessment.
Our team (YouTube Media Algorithms) has built multiple VQA metrics, and we also plan to open source our models. Could you please share the dataset for us to do some preliminary analysis? Thank you very much.

Best,
Yilin

И еще много хороших отзывов!)

Продолжаем работу! )

Хорошая новость:

Я второй год подряд выиграл конкурс лучших статей Хабра "Технотекст 2021". На этот раз в номинации "Образование в IT" (в прошлом году взял в номинации "Искусственный Интеллект").

Все результаты тут:
https://habr.com/ru/company/habr/blog/670398/
рекомендую, поскольку получилась подборка очень годных статей. Я Хабр читаю весьма регулярно, и то не все из них читал.

Еще из хорошего - первое место в номинации "Информационная безопасность" взял мой бывший студент Алексей Шалпегин, что меня не может не радовать)

#Habr #our_successes

Podlodka #267 – Кодеки

Разработка кодеков – это целая вселенная, о которой многие совсем ничего не знают. Чтобы разобраться, мы позвали в гости Дмитрия Ватолина, который с 2003 года руководит крупнейшим в мире сравнением кодеков. В выпуске мы говорим про то, как устроена архитектура кодеков, какие идеи стоят за их различными компонентами, как оценивается их эффективность, и как выглядит будущее сжатия файлов.

Поддержи лучший подкаст про IT: https://boosty.to/podlodka

Сайт: https://podlodka.io/267
Soundcloud: https://soundcloud.com/podlodka/podlodka-ep-267
iTunes: https://apple.co/2vCBRcs
Я.Музыка: https://bit.ly/32lGgNC
YouTube: https://youtu.be/2WvXVs_UJIM

Сегодня вышло большое (1,5 часа) интервью со мной в основном про кодеки) В принципе на лекциях многие вещи уже были, но тем не менее держите:

Также появилось дополнительное финансирование. В частности мы планируем в этом году примерно в 20 раз увеличить расходы на Яндекс.Толоку относительно 2021 года (создание датасетов + разметка данных - важнейший компонент успеха - нам жестко не хватало денег на разметку в прошлом году, в этом году планируем эту проблему порешать). Ну и еще много разных плюсов.

Конкретно для студентов это означает:

1. Заметное увеличение финансирования публикаций, включая начальный уровень (Scopus)

2. Увеличение процента старших, которые находятся тут (лучшие условия для прокачки)

3. Внутренние гранты (до 500 тр), в том числе за создание бенчмарков, датасетов и других результатов, идущих во внешний мир

Отдельно и специально планируется финансировать именно успех проектов, т.е. популярность бенчмарков и цитирования статей. Т.е. чтобы у тех, кто классный проект сделал нормально по сумме денег получалось.

Также планируем привлекать к работе людей (в т.ч. бывших выпускников) работающих в компаниях, но желающих прокачать R&D (либо для попадания в research отдел, либо для смены работы на работу с большей долей research), поскольку сегодня появился заметный спрос на готовность участвовать в исследовательских проектах с целью стать соавтором статей (уровнем, чем выше, тем лучше).

Это не все планы) И предыдущие планы со своими стартапами и т.п. оно не отменяет, а дополняет!

Stay tuned! )

А это рабочие комнаты с большими потолками и пачками еще не распакованных мониторов.

Также буквально сегодня привезли сервер на 5 млн с 4 очень хорошими карточками NVIDIA условно по миллиону и еще хранилище на 52Тб (еще миллион). Это удваивает наши вычислительные мощности (и почти удваивает мощности по хранению), но что важнее - можно более крупные сеточки обучать.

Учитывая, что сейчас продукцию Intel & NVIDIA купить - отдельный нетривиальный квест - это просто праздник!

Наибольший ажиотаж (и лайки) в нашем чате вызвало сообщение, что там есть кухня с холодильником, 2 микроволновками и даже посудомоечной машиной Bosсh)))

Это наш аспирант Иван, который вам на 1 лекции этого семестра рассказывал про свои проекты (посудомойка сразу у него за спиной). Прямо скажем - такое в лабораториях МГУ не слишком привычно)))