Post #784
248
неудобный вопрос
- 👀 5
- 🤡 1
Channel Public Channel
КО - Subscribers
- 290
- Photos
- 838
- Videos
- 57
- Links
- 103
Showing posts older than #785 · Back to latest
Older Posts 18 shown
Post #782
667
- 💔 8
- 🤡 1
Post #781
234
- 🤬 5
- 😁 2
Post #780
235
только неправильные ответы в комментарии
- 🤡 2
Post #779
229
Post #778
219
- 🔥 3
Post #777
236
Харнесы разваливаются!🫨
За последнюю неделю и курсор и клодкодик падали. Не припомню чтобы хоть раз такое видел. Ох не к добру это, братцы.
За последнюю неделю и курсор и клодкодик падали. Не припомню чтобы хоть раз такое видел. Ох не к добру это, братцы.
- 💔 3
Post #776
214
- 💔 5
Post #775
233
кароче, друзья, железо.
Ещё весной (когда я активно писал посты) подчёркивал что будущее за запеканием ллмок в железо. Только так добиться скорости и дешевизны! Мне оч не нравилось что корпорация добра Anthropic ставила на аренду чужих железяк, мне кажется у них была идея о том, что консюмеры будут готовы переплатить за их йоба умные модельки и они смогут жить на эту маржу после аренды. Но этим летом и они протрезвели и вот в августе у них вакансии на создание "custom silicon"!🥰
OpenAI вайбкодят свои ASICи давно уже.
Чё думаю. Все лабы рано или поздно будут жить на каком-то йоба проприетарном железе! Не то чтобы полностью откажутся от NVIDIA/AMD, но что-то в этом направлении или гига специализация. Пытаться отказываться от посредников в этом вопросе.
Думаю, друзья, NVIDIA и GOOGLE тоже включатся в гонку S tier ллмок. Даже не потому что там наймут гениев изобретать науку с нуля итд а потому что они будут брать опенсорс решение а адово оптимизировать расходы на инференс и увеличивать его скорость.
Самая хайповая моделька за последние месяцы, моё мнение, Luna от ГПТ. OpenAI её просто БЕСКОНЕЧНОЙ сделали в чате☠ Думаю, это напрямую связано с оптимизацией вот этой низкоуровневой. И, судя по тому что ещё не прошло года с момента выпуска опус 4.5, оч интересно думать а что будет ещё через год... счас корпорация добра соберёт команду. Чз пол года рабочий прототип. Чз год огромный кластер опус6 который выдаёт тыщу тпс... ваше мнение
Ещё весной (когда я активно писал посты) подчёркивал что будущее за запеканием ллмок в железо. Только так добиться скорости и дешевизны! Мне оч не нравилось что корпорация добра Anthropic ставила на аренду чужих железяк, мне кажется у них была идея о том, что консюмеры будут готовы переплатить за их йоба умные модельки и они смогут жить на эту маржу после аренды. Но этим летом и они протрезвели и вот в августе у них вакансии на создание "custom silicon"!🥰
OpenAI вайбкодят свои ASICи давно уже.
Чё думаю. Все лабы рано или поздно будут жить на каком-то йоба проприетарном железе! Не то чтобы полностью откажутся от NVIDIA/AMD, но что-то в этом направлении или гига специализация. Пытаться отказываться от посредников в этом вопросе.
Думаю, друзья, NVIDIA и GOOGLE тоже включатся в гонку S tier ллмок. Даже не потому что там наймут гениев изобретать науку с нуля итд а потому что они будут брать опенсорс решение а адово оптимизировать расходы на инференс и увеличивать его скорость.
Самая хайповая моделька за последние месяцы, моё мнение, Luna от ГПТ. OpenAI её просто БЕСКОНЕЧНОЙ сделали в чате☠ Думаю, это напрямую связано с оптимизацией вот этой низкоуровневой. И, судя по тому что ещё не прошло года с момента выпуска опус 4.5, оч интересно думать а что будет ещё через год... счас корпорация добра соберёт команду. Чз пол года рабочий прототип. Чз год огромный кластер опус6 который выдаёт тыщу тпс... ваше мнение
- 🔥 2
Post #774
192
- 😁 6
- 👀 2
Post #773
204
- 😁 5
Post #772
416
курсор на треть увеличил месячные лимиты перманентно.
гпт лимиты ресетнули вчера.
жить хорошо!
гпт лимиты ресетнули вчера.
жить хорошо!
- 🔥 4
Post #771
424
Странно. А у меня прямо полная уверенность в том, что я могу в любой момент остановиться. 🧐
Не ведитесь на фейки, друзья
Не ведитесь на фейки, друзья
- 🤡 6
- 😁 3
Post #770
222
- 💔 3
Post #769
227
- 😁 2
- 🤡 2
Post #768
222
Оч интересный видос
Мы все привыкли что ллмки, со времён o1/R1, прежде чем ответить, ДУМАЮТ. И эти "мысли" мы в чате не видим! Это сделано не только для удобства но и для защиты от той самой широко известной дистилляции🥸
Оказывается, по техническим причинам, эти зашифрованные мысли можно кидать между разными модели... А обмануть небольшого haiku чтобы он слил весь трейс (созданный опусом) не составляет большого труда! 🙂
https://youtu.be/rtYTguPItDE
YouTube They Found a Way to Steal Frontier LLM’s Reasoning Try CodeRabbit for free and simplify your PR reviews https://coderabbit.link/ad-bycloud-001
my latest project: Intuitive AI Academy
We just wrote a new piece on Optimization!!
https://intuitiveai.academy/
limited time code "LOCKIN" for 35% off yearly plan… Мы все привыкли что ллмки, со времён o1/R1, прежде чем ответить, ДУМАЮТ. И эти "мысли" мы в чате не видим! Это сделано не только для удобства но и для защиты от той самой широко известной дистилляции🥸
Оказывается, по техническим причинам, эти зашифрованные мысли можно кидать между разными модели... А обмануть небольшого haiku чтобы он слил весь трейс (созданный опусом) не составляет большого труда! 🙂
https://youtu.be/rtYTguPItDE
- 👀 2
Post #765
201
вайбмаркетинг
- 🤡 1
- 💔 1
Post #761
185
контекстрот мотивационный
- 🔥 6