dd if=/dev/galqiwisbrain of=/dev/galqiwisboredom
@galqiwi
Post #1844
203
Channel Public Channel
GA Galqiwi's boredom
@galbdm
- Subscribers
- 705
- Photos
- 597
- Videos
- 62
- Links
- 564
Recent Posts 17 shown
Post #1843
322
Forwarded from black_samorez
Disaggregated quantization
Новая статья. Процессим LLM префилл и генерацию разными квантизациями одной модели. Дообучаем обе вместе с учетом того какой токен процессится какой моделью. Чекпоинт для префилла можно сгрузить на SSD, спрятав подгрузку за long-context промпт прцессиногом, чтобы память была как только у модели для генерации.
Статья: arxiv.org/abs/2609.26333
Код: GitHub
Qwen3.8 NVFP4 prefillers: HF Hub
Новая статья. Процессим LLM префилл и генерацию разными квантизациями одной модели. Дообучаем обе вместе с учетом того какой токен процессится какой моделью. Чекпоинт для префилла можно сгрузить на SSD, спрятав подгрузку за long-context промпт прцессиногом, чтобы память была как только у модели для генерации.
Статья: arxiv.org/abs/2609.26333
Код: GitHub
Qwen3.8 NVFP4 prefillers: HF Hub
- 👍 5
Post #1842
456
Hamming, Intro to The Art of Doing Science and Engineering: Learning to Learn (March 28, 1995)
- ❤ 8
Post #1839
984
Post #1838
1.01K
Post #1836
2.7K
- 🤔 19
- ❤ 4
- 🔥 2
Post #1835
2.44K
Открытие дня: zerotier пытается пробить NAT, а не просто роутит весь трафик через свои сервера, как делает обычный VPN.
Zerotier — штука, похожая на vpn, которая связывает устройства в одну виртуальную сеть. Узнал о ней 4 года назад из поста Жовнера.
Zerotier — штука, похожая на vpn, которая связывает устройства в одну виртуальную сеть. Узнал о ней 4 года назад из поста Жовнера.
- ❤ 7
- 👍 3
Post #1833
2.03K
Только что наконец пришло I-20 от универа. Скоро будем подаваться на визу
P.S. поступил в CMU на PhD, буду писать статьи с Tim Dettmers
Tim Dettmers About Me — Tim Dettmers Research Interests Awards & Honors Group Service Google Scholar lastname@cmu.edu Gates & Hillman Centers, GHC8133 I am an Assistant Professor at Carnegie Mellon University (CMU) and a Research Scientist at the Allen Institute for Artificial Intelligence (Ai2).… P.S. поступил в CMU на PhD, буду писать статьи с Tim Dettmers
- 🔥 48
- ❤ 10
- 🎉 6
- 🤝 1
Post #1832
1.81K
Galqiwi's boredom Ок, вы меня убедили, стоит попробовать
Окей, это и правда классно. Мне очень нравится возможность выбрать версию питона
- ❤ 7
Post #1831
1.68K
Ок, вы меня убедили, стоит попробовать
- 🔥 10
Post #1830
1.54K
В моём твиттере все восхваляют uv и закапывают pip. Это мой пузырь, или он и правда хороший?
Post #1829
1.48K
Post #1828
1.73K
Forwarded from Техножрица 👩💻👩🏫👩🔧
Понравилась эта цитата из поста выше:
Я сама временами задумываюсь о том, как же сильно многие люди любят пихать названия всевозможных нейромедиаторов во все возможные объяснения всех возможных видов поведения человека.
Захотел погладить котика? Это все от окситоцина. Понравился ролик в тик ток? Это все от дофамина. Нервничаешь перед дедлайном? Это все от кортизола.
Конечно, никто (или почти никто) из произносящих подобное на самом деле не читал научные статьи с экспериментами, которые бы доказывали подобные высказывания (Не удивлюсь, если таких статей и нет, так как все перечисленное звучит как гипер-упрощение, и причинно-следственные связи здесь явно нуждаются в дополнительном уточнении). А самое главное, никакого настоящего понимания того, по каким закономерностям работают все эти процессы и что с этим делать не-биологам типа меня названия этих веществ никак не добавляют.
Я не понимаю вот чего — то поведение, которое называют "быстрым дофамином", было известно всегда, и люди как-то обходились другими терминами. Но когда широкий круг общественности узнал, что такое дофамин, то почему-то возникла острая необходимость переименовать в его честь то, что им не является. Зачем?
Я сама временами задумываюсь о том, как же сильно многие люди любят пихать названия всевозможных нейромедиаторов во все возможные объяснения всех возможных видов поведения человека.
Захотел погладить котика? Это все от окситоцина. Понравился ролик в тик ток? Это все от дофамина. Нервничаешь перед дедлайном? Это все от кортизола.
Конечно, никто (или почти никто) из произносящих подобное на самом деле не читал научные статьи с экспериментами, которые бы доказывали подобные высказывания (Не удивлюсь, если таких статей и нет, так как все перечисленное звучит как гипер-упрощение, и причинно-следственные связи здесь явно нуждаются в дополнительном уточнении). А самое главное, никакого настоящего понимания того, по каким закономерностям работают все эти процессы и что с этим делать не-биологам типа меня названия этих веществ никак не добавляют.
- ❤ 16
- 👍 5
- ✍ 2
- 👎 1
- 🤔 1
Post #1827
2.24K
Post #1826
2.21K
Post #1825
2.3K
Galqiwi's boredom сник пик новой версии -- с меньшим потреблением памяти и большим выбором моделей
Обновил, теперь можно выбирать маленькие модели. Они намного быстрее скачиваются и генерируют текст
https://galqiwi.github.io/aqlm-rs/
https://galqiwi.github.io/aqlm-rs/
- ❤ 6
- 🔥 4
- 👍 2
Post #1822
2.27K
Forwarded from еба́ные идеи для резерча
Исследователь из научного отдела «ebány labs» Юрий Шмилевский разработал bash скрипт, который позволяет запустить большую языковую модель с 8,1 млрд параметров «на обычном компьютере с графическим ускорителем А-СТО» через трубочку для поедания супа-пюре, рассказал сам Юрий Шмилевский
- ✍ 18
- 🔥 5
- 🥴 3
- 👏 1
About this channel
- How can I read @galbdm without a Telegram account?
- TGViewer shows the public web preview Telegram publishes for Galqiwi's boredom: recent posts, photos, videos and the subscriber count, with no app, login or account.
- How many subscribers does Galqiwi's boredom have?
- Galqiwi's boredom (@galbdm) has 705 subscribers on Telegram, refreshed roughly every 30 minutes.
- Does Galqiwi's boredom know I viewed it here?
- No. Public channel previews carry no viewer identity, and TGViewer has no accounts or tracking of what you look up.