TGViewer
Channel Public Channel
VF | Science

VF | Science

@vf_science

Генерацией музыки и всем, что связано с аудио ML я занимаюсь, а всем остальным ML интересуюсь)

Делюсь знаниями, мыслями, событиями по своей карье, делаю анонсы своих онлайн/офлайн мероприятий.

Автор: @varfolomeefff
Subscribers
1.13K
Photos
225
Videos
23
Links
92

Showing posts older than #425 · Back to latest

Older Posts 18 shown
Post #424 1.19K
👀 Список аудио моделей, который регулярно обновляется

Периодически я возвращаюсь к репозиторию, где удобно разделены аудио модельки, чтобы быстро подобрать актуальную под свою задачу.

В репозитории рассматриваются три ключевые области: (1) модели для репрезентаций, (2) аудиокодеки и (3) языковые модели, которые способствуют развитию больших языковых моделей для речи/аудио.

*️⃣Модели для репрезентаций: Эти модели сосредоточены на обучении структурных представлений речи, которые затем могут быть квантованы в дискретные речевые токены, часто называемые семантическими токенами.

*️⃣Аудиокодеки: Эти модели предназначены для обучения дискретных токенов речи и аудио, часто называемых акустическими токенами, при сохранении способности к реконструкции и низкой битовой скорости.

*️⃣LLM для речи: Эти модели обучаются на основе речевых и акустических токенов с использованием подхода языкового моделирования. Они демонстрируют высокую эффективность в задачах понимания речи и генерации речи.


GitHub: https://github.com/ga642381/speech-trident

#audio #papers
GitHub GitHub - ga642381/speech-trident: Awesome speech/audio LLMs, representation learning, and codec models Awesome speech/audio LLMs, representation learning, and codec models - ga642381/speech-trident
  • ❤ 8
  • 👍 6
  • 🔥 5
  • ✍ 2
Post #423 1.09K

This post (sticker, poll or similar) has no web preview. Open in Telegram

  • ❤ 12
  • 🌚 1
Post #422 1.07K
👀 Сегодня большой день: закрыть датафест, побыть ведущим, побыть спикером, пообщаться с сотней человек, а потом поехать на день рождения младшего брата! (точнее на то, что останется от вечеринки)

Секция про ML в музыке стартует в 17:20, мой доклад в 18:40. До встречи в прямом эфире! Все ссылки здесь.
Telegram ODS Events В 12:05 мы стартуем эфир с офлайн-площадки Data Fest 2025 в гостях у X5 Tech! В программе доклады из секций: 🛒 Data и ML в Retail от хоста площадки X5 Tech 🧠 NLP, AI4SE, Advanced LLM и целый блок докладов ML in Music 🎶 — от сообщества ODS🦜 📺 Ссылка на трансляцию…
  • ❤ 9
  • 👍 6
  • 🔥 5
  • 🌚 1
Post #421 1.53K
ДААААААА
Я сделал это столь рано
Выполнена еще одна цель, поставленная на год
  • ❤ 42
  • 👍 13
  • 💋 6
  • 🔥 4
  • 🏆 2
Post #420 1.35K
👀 Union Club Meetup (тык)

В дополнение к датафесту советую еще одну активность.

Пару месяцев назад узнал про сообщество Union от своих друзей (уже 4 из них состоят в клубе). Место для будущих или уже гениев, плейбоев, миллиардеров и филантропов :)

Union Club — сообщество Tech-предпринимателей, которые развивают IT-продукты.
Сайт клуба: https://unionclub.pro

Скоро будет митап для участников сообщества, на который мне выпала честь прийти. Приходите тоже. Именно в юнионе можно найти человека, с которым вы за пару недель замутите темку и заработаете миллионы. Прямо перед моим носом, прямо несколько недель назад случилась такая история. К слову, я тоже делаю бизнес: недавно мы включили монетизацию для @Audio2MIDIBot .

Думаю, на митапах с акцентом на предпринимателей нужно максимально нетворкаться. С каждым индивидуально, понимая потребности и свои сильные стороны (хард скилы, связи в обществе, навыки руководства и тд). Нужно сделать так, чтобы когда вы или другой человек решит делать интересное дело, с бОльшей вероятностью его/ваше лицо вспомнилось первым.

Если вы готовы, все подробности по митапу здесь.
  • 👍 8
  • ❤‍🔥 6
  • ⚡ 4
  • 🥴 1
  • 🤝 1
Post #419 1.22K

This post (sticker, poll or similar) has no web preview. Open in Telegram

  • 👍 18
  • ❤ 11
  • 🥰 4
  • 🏆 1
Post #418 1.48K
👀 Урааа, появился свой сервер с 4090

Буду размечать датку, трейнить новые модельки + тестить ресерч на задаче аудио2миди
  • 🔥 18
  • 👀 9
  • 🎉 6
  • 💅 3
  • 👨‍💻 2
Post #414 1.64K
VF | Science Думаю можно поднять занавес перед своим ресерчем. Мне уже не терпится) Прошло 2 месяца и мы с Денисом наконец-то завели эксперименты. Точнее, мы их заводили лишь последние трое суток и спали по 3 часа, ибо лишь недавно компьют освободился. Очень тороплюсь…
Опа... Мне показалось или дедлайн подачи заявки подвинули на 10 дней. Подарок судьбы прям, а то я сижу как полузомби и пишу мини-статью, потом еще видео снимать было 🥺

upd: Действительно, наверное узнали, что я не успел все экспы провести ))) это очев шутка
Теперь напишу более объемные выводы по ресерчу
  • ❤ 13
  • 😁 4
  • 🐳 1
  • 🏆 1
Post #413 1.49K
Audio2MIDI Channel 🎶Новые обновления🎶 Совсем скоро нас будет 10 000 — столько человек уже воспользовались нашим ботом🤍 Вот что мы недавно обновили: 🟣Улучшили разделение по кнопке «Голос и минусовка 🎤🎸» — теперь звучит идеально 🟣В кнопке «Распознать ноты из пианино 🎹» добавили…
Ах, хочу поделиться радостью. История, которую я начал почти год назад набирает обороты 😎

Также VQ-VAE ресерч в первую очередь нацелен на улучшение качества аудио2миди, ибо под капотом там аудио кодеки.
  • 🎉 17
  • 👏 8
  • ❤‍🔥 7
Post #412 1.41K

Forwarded from Audio2MIDI Channel

🎶Новые обновления🎶

Совсем скоро нас будет 10 000 — столько человек уже воспользовались нашим ботом🤍

Вот что мы недавно обновили:
🟣Улучшили разделение по кнопке «Голос и минусовка 🎤🎸» — теперь звучит идеально
🟣В кнопке «Распознать ноты из пианино 🎹» добавили PDF нотных партитур — теперь в любом способе распознавания можно получить ноты в PDF
🟣Обновили визуализацию MIDI на сайте — стало удобнее и красивее

Тестим и ждём от вас комментариев и идей по улучшению нашего сервиса🥹
  • 🔥 9
Post #411 4.84K
VF | Science Ситуация у меня следующая: до дедлайна подачи статьи про векторное квантование на NIPS осталось два месяца. Эксперименты ещё не начаты, есть четыре разные постановки задачи. Статья, конечно, пишется сильно заранее, до того как появятся результаты экспериментов.…
Думаю можно поднять занавес перед своим ресерчем. Мне уже не терпится)

Прошло 2 месяца и мы с Денисом наконец-то завели эксперименты. Точнее, мы их заводили лишь последние трое суток и спали по 3 часа, ибо лишь недавно компьют освободился. Очень тороплюсь, потому что хочется поехать на "Лето с AIRI", а сегодня последний день для подачи заявки. Буду заполнять research proposal и записывать видосик.

Объясню на скорую руку. Кароч, я делаю метод для обучения моделей, основанных на VQ-VAE, который адаптирует размер кодовой книги для задач генерации и ретривала. Часто модели, которые решают эти задачи на основе VQ-VAE используют кодовую книгу, подобранную для задачи реконструкции, ее не обучают для целевой задачи. Поэтому кодовая книга может быть не совсем подходящей, то есть ее распределение либо слишком простое, либо слишком сложное для целевой задачи, не говоря о том, что оно может просто плохо перекрывать датасет. Я предлагаю метод для динамического обновления размера кодовой книги в процессе обучения, ориентируясь на датасет и целевую задачу. Кодовая книга должна идеально адаптироваться под задачу, модель и данные, полностью раскрывая потенциал модели))

При всем при этом:
*️⃣ кодовая книга будет оставаться замороженной в процессе всего обучения
*️⃣ нам не нужно заново инициализировать кодовую книгу, достаточно использовать предобученную или инициализировать ее 1 раз
*️⃣ латентное пространство модели остается стабильным и не меняется критично в процессе адаптации кодовой книги
*️⃣ упрощается подбор архитектуры и гиперпараметров модели
*️⃣ (скоро проверим на практике) улучшает качество модели в случаях, когда с фиксированной кодовой книгой лосс вышел на плато

Экспов еще будет весьма много. Ожидайте подробностей в скором времени...

#research #carieer
Telegram Институт AIRI До закрытия приёма заявок на школу по искусственному интеллекту «Лето с AIRI» в ТГУ — всего 4 дня! Все лекции и семинары прошлого года доступны в VK Видео — загляните, чтобы почувствовать атмосферу Школы и вдохновиться на участие. Подавайте заявки по ссылке…
  • 👍 18
  • ❤‍🔥 7
  • 🔥 1
  • 💅 1
Post #410 1.34K
  • 💯 7
Post #409 1.45K
VF | Science Вы занимались ML в домене музыки? (есть предложение)
👀 Предложение: давайте подготовим доклады и поделимся опытом на датафесте

Пишите мне, если захотите: @varfolomeefff

tldr: если вы начинаете карьеру/хотите больше возможностей/обратную связь/развитие репутации, попробуйте выступить, мы вам поможем сделать хороший доклад :)

Полагаю, вы можете весьма скептично относиться к датафесту. Однако почти год назад я впервые выступил на камеру перед большой аудиторией. Перед этим я еще выступил без записи, и слава богу ее нет)) Короче ODS дал мне фундамент, на котором лежит почти вся моя карьера на данный момент.

Я не то что бы горел желанием выступать, но мне сказали та чо ты, попробуй, это будет так здорово, полезный опыт, все дела... Это и правда помогло мне. Я представил, что может дать грациозное выступление и толпу желающих пообщаться/предложить сотрудничать/похвалить. До этого я был "никем" (без опыта работы, без связей, без возможностей). А теперь у меня есть все.

Выступление подарило мне команду, с которой я сейчас делаю стартап, подарило репутацию, благодаря которой меня взяли обучать большущие модельки для генерации музыки, подарило окружение с которым я то и дело каждые выходные встречаюсь по всей Москве.

Выступления это и есть наша жизнь. Мы выступаем друг перед другом каждый день по несколько раз, в зависимости от того насколько хорошо мы выступаем зависит наше положение в обществе.

Можно очень хорошо делать свою работу, но если не рассказывать об этом и не уметь этого делать, вероятно, когда будет стоять вопрос о награде за работу о вас не вспомнят. Поэтому выступления важная часть жизни любого специалиста/эксперта, так мы закрепляем наши достижения в обществе, а не только в рамках своей команды.

Вот такой прогрев на выступление, что скажете? :)
Telegram VF | Science Скоро выступлю с докладом: "Генерация нот на основе аудио произвольного содержания". Начинаю популяризировать ML in music. Могу тупить во время презентации) Но основные тезисы вот: *️⃣Репрезентации от моделей предобученных для генерации музыки очень полезны.…
  • 👍 11
  • ❤ 7
  • 🤝 2
  • 🍓 1
  • 🫡 1
Post #407 1.47K
Fun fact: знаете как прошло мое первое собеседование по мл, после которого меня были рады принять в коллектив... Я настолько хотел всесторонне подготовиться (повторял инфу за неделю), что сделал целую презу с ответами для возможных вопросов и даже больше. Я очень хотел на работу именно к тем ребятам. На собесе было 4 человека, на меня посмотрели, похлопали глазками и наверное капец удивились, что это за фигня творится?) Попросили без нее обойтись и отвечать с глазу на глаз) Но все же пока делал презу я хорошо понял темы, так что неплохо для своего уровня ответил, ну и переживал местами, несмотря на весь предыдущий опыт выступлений на сотни человек. Не мог посчитать размерности для трансформера :) Но в то же время мог рассказать много инсайдов про каждую дл архитектуру, например, что самые репрезентативные слои лежат в середине трансформера (хотя тут можно поспорить, но это подтверждали многократно), помните это, например когда будете добавлять кондишны в ваших модельках.

#story
  • ❤ 12
  • 🔥 8
  • 💋 3
  • 😁 1
Post #406 1.12K
Рекомендую канал Ани Пиуновой! :)

Недавно заметил интересный канал от Ани. Он недавно появился и самого начала радует весьма качественным контентом, желаю быстрого роста.

Аня работает на позиции Applied Scientist в Amazon и окончила магистратуру в одном из ведущих вузов Германии — RWTH Aachen. А также занималась голосовым ассистентом Алекса, своего рода американская Алиса.

Ань, жду посты связанные с аудио доменом. Может быть можно, если осторожно) 😁

Подробнее о канале и авторе тут:

https://t.me/applied_scientist_blog/3
Telegram Ученый без степени | AI-блог Ани Привет, друзья! Я Аня Пиунова — Applied Scientist @ Amazon, живу в Германии, и здесь на канале делюсь своим опытом работы в AI research в бигтехе, а также инсайтами из моих пет-проектов с LLM'ками. Чем я занимаюсь? Уже больше 5 лет тренирую ML-модельки в…
  • ❤ 7
  • 🔥 5
  • 💅 5
  • 👍 2
Post #405 1.04K

Forwarded from Den4ik Research

Вот так бывает.... Сидишь с другом ночами, пишете код, а потом оказывается, что в чекпоинте нет дискриминатора
  • 🫡 6
  • 🗿 3
  • 😁 2
  • 😭 1
Post #397 1.8K
👀 Впервые услышал органную музыку. От борокко до рока.

А еще ко мне в Москву прилетел @den4ikresearch из Иркутска, я очень рад. График у нас плотный, много мероприятий, дела))

Если говорить про музыку, то она была удивительной, захватывающей все мое внимание, экспрессивной, таинственной и величественной, послушайте тоже!

Обычно моим друзьям тяжело сохранять внимание на музыке, это как медитация. Я стараюсь понять ритм мелодии, услышать необычные аккорды и переходы, порой даже продолжить музыку наперёд. Однажды вы услышите мои композиции для фортепиано, я чувствую, что музыка позволит выразить эмоции.

Насладился по полной вместе с Денисом, он кстати играет на скрипке, а я на фортепиано.

А еще... Идея для резерча:
Аудио2миди уже есть (@Audio2MIDIBot)
Теперь нужно сделать аудио2орган :)))


Upd: пообщался с органистом про импровизацию, обучение игры на органе, его возможности и наш аудио2миди, спишемся в соцсетях 🙂
  • 👍 8
  • ❤ 4
  • 🔥 4
  • 🎉 3
  • 🍓 1
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →