TGViewer
Channel Public Channel
Вениамин Фишман

Вениамин Фишман

@fishmanvs

Генетика через призму AI, а также о науке (и в целом о жизни) в РФ и за рубежом
Subscribers
1.36K
Photos
418
Videos
75
Links
185

Showing posts older than #884 · Back to latest

Older Posts 15 shown
Post #883 1.17K
С огромным удовольствием принял участие в XXI Ершовских лекциях.

Нужно сказать, что лекции А.П. Ершова по физике (вместе с лекциями Г.М. Дымшица по биологии) стали для меня, школьника 9 класса, путеводителем в мир "настоящей" науки.

К сожалению, мы только читали лекции А.П. Ершова - в живую послушать мне его не довелось. Но написаны лекции были блестяще, и зачитаны до дыр при подготовке к экзаменам. До сих по с теплотой вспоминаю наши посиделки с одноклассниками и первый восторг, когда после получаса напряженной мысленной работы мы наконец соединяем две строчки с формулами, между которыми написано стандарное Ершовское "из этого очевидно, что..."

П.С.: Коллеги поправляют меня - лекции по физике написаны Александром Петровичем Ершовым, специалистом по физике взрывов. А Ерошские лекции посвящены Андрею Петровичу Ершову, первому советскому программисту. Вот такое совпадение.
  • ❤ 14
  • 🔥 4
Post #882 4.25K
Будущее наступает!

Мы сделали модель, в которую можно текстом написать какой тип клеток вы исследуете, ввести последовательность вокруг TSS - и получить предсказание экспрессии! Никаких знаний биоинформатики не требуется, просто нажать две кнопки в нашем веб-сервисе! Подробную инструкцию можно посмотреть в этом видео.

Эту модель мы сделали в AIRI на основе гибрида ДНК-энкодера (modernGENA, я про нее недавно рассказывал) и LLM, тренировкой на большом массиве данных из GEO, Encode и других источников.

Мы в процессе подготовки большой статьи и это не финальная версия модели - мы прямо сейчас активно ее дорабатываем, но пока хотим получить обратную связь от потенциальных пользователей - чего не хватает, что улучшить. Пишите в поле Send Feedback на платформе или в комментарии!
  • 🔥 51
  • 👍 10
  • 👾 6
  • ❤ 3
  • 👏 2
  • 🌚 2
Post #881 2.14K
Вениамин Фишман Video message
Просто случайное место вечером накануне праздника в Сан-Паулу.
  • 👾 13
Post #879 1.94K
Прощаюсь с Рио и лечу в Сан-Паулу. Впереди серия лекций и семинаров в крупнейшем университете латинской Америки.

Приятно удивлён внутренним аэропортом Рио (международные рейсы отсюда не выполняются). Прямо в черте города, никакой толкучки, все очень удобно. И даже на час полёта Рио-СП на борту бесплатный интренет.
  • ❤ 47
  • 👍 17
  • 😍 7
Post #874 1.96K
Некоторые идеи от автора альфагеном
  • ❤ 23
  • 🔥 2
Post #873 1.37K
Представляем наши работы
  • 🔥 41
  • ❤ 15
  • 👏 2
Post #872 1.53K
Бразильский вайб
  • ❤ 20
  • 😱 17
  • 🗿 9
  • 🌚 4
  • 😎 2
Post #871 1.34K
Вениамин Фишман Мы постарались сделать modernGENA максимально эффективной и делешвой для файнтюна. Модель претренили на районах [-16 kbp, +8 kbp] вокруг TSS позвоночных (443 вида), чтобы она видела меньше повторов и больше регуляторных последовательностей. Доступны две…
Если вы на ICLR - приходите в понедельник к нашему постеру, мы расскажем вам про ModernGENA и про другие работы, основанные на этой модели!

Где можно будет нас найти:

- FM4Science 4:00 PM – end
- MLGenX 3:40 PM – end
- Gen2 4:10 PM – end
  • 👍 13
  • ❤ 7
  • 🔥 3
Post #870 1.77K
Вениамин Фишман image.png
Мы постарались сделать modernGENA максимально эффективной и делешвой для файнтюна. Модель претренили на районах [-16 kbp, +8 kbp] вокруг TSS позвоночных (443 вида), чтобы она видела меньше повторов и больше регуляторных последовательностей.

Доступны две версии:

- base (135M params)
- large (377M params)

Технические детали:

- энкодер
- кодбаза ModernBERT
- позиционки RoPE
- гибрид local/global attention
- pre-norm transformer blocks
- GeGLU feed-forward layers
- end-to-end unpadding (автоматически убирает не нужные PAD-токены, что ускоряет вычисления)
- FlashAttention
- поддержка torch.compile
  • ❤‍🔥 12
  • 👍 2
  • ❤ 1
Post #869 1.29K
image.png556.3 KB
У нас новая ДНК-модель - modernGENA!

modernGENA - продолжение GENA-LM на кодбазе modernBERT. Эта модель быстрее, поддерживает более новые версии библиотек и выдает лучшие результаты на всех задачах, которые мы пробовали.

Если вы используете трансформеры для процессинга последовательностей ДНК - попробуйте использовать modernGENA для ваших экспериментов.

Я написал примеры кода - как затюнить modernGENA для предсказания позиций пиков или уровня сигнала ChIP-seq для вашего любимого трека ENCODE.

Скачать: GitHub & Huggiface
Статья: bioxriv
  • 🎉 23
  • 👍 5
  • 🔥 4
  • 🙏 1
Post #868 1.35K
ИИ делает все. Например, один из трендов - распознавание эмоций при общении и "подстройка" робота под ваш эмоциональный статус. Из практических применений - робот-зайчик, который смог получиться с ребёнком с тяжёлым аутистическим расстройством и успокаивает его, когда тот плохо себя чувствует.

И вишенка - вот тут нейросеть учат... Нюхать!
  • 🔥 27
  • 🤯 7
  • ❤ 3
Post #867 1.35K
Когда-то на этом канале была дискуссия о пользе перетренировки ДНК-моделей. Сегодня встретил автора этой работы. И стало все понятно - он говорит не, ну перетренировка конечно помогает, но я из области computer vision, у нас если меньше 30% прирост от претрены, то мы это за прирост не считаем )))

В общем нужно писать статью, что мы можем кошечек и собачек по ДНК различать, а все эти +3% на задаче сплайсинга людей не впечатляют )
  • 😁 24
  • 👍 1
  • 👎 1
Post #866 1.22K

This post (sticker, poll or similar) has no web preview. Open in Telegram

  • 🔥 35
  • 😁 10
  • ❤ 4
  • 👨‍💻 4
  • 😱 1
Post #864 1.18K
Впереди последний сегмент путешествия из Новосибирска в Рио-де-Жанейро, которое в сумме займёт 48 часов: короткий перелёт из Сан Пауло. Тут самолёты напоминают даже не маршрутку, а такси - салон маленький и полупустой, рейсы отправляются каждый час
  • ❤ 49
  • 👍 8
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →