Full-time nerd

Начало

По пунктам:

1. DeepSeek это компания, ChatGPT это сайт. Что с чем сравниваем? Если R1 c o1, то она не "мощнее". Результаты бенчмарков есть выше на скриншоте из пейпера самого DeepSeek. https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf. По бенчмаркам она где-то лучше, где-то хуже, где-то равна. Но у OpenAI уже есть o3, для примера, выбивающая 71.7 на SWE-verified бенчмарке против 49.2 у R1. При этом на ChatBot арене (так себе так лидерборд, но что имеем), модель на 5 месте в категории HardPrompts

2. По первой половине фразы написал выше, по цене - частичная правда. В веб-интерфейсе бесплатная, по API - действительно сумасшедше дешевле. При этом API лежит, ну да ладно, OpenAI тоже ронял свои сервисы, бывает. https://status.deepseek.com/. Модель опенсорсная, веса лежат в открытом доступе, так что мы можем пойти на openrouter, и посмотреть, сколько стоит реальный инференс (запуск) этой модели, не субсидируемый (судя по всему) самим DeepSeek...И получаем цену входного токена всего в два раза дешевле o1, а выходной выходит (извините за тавтологию) в такую же цену! При всём этом, сам DeepSeek: Лежит, хостит с маленьким контекстным окном (мало токенов можно передевать), а также с маленькой скоростью (0.12 токена в секунду! Это шутка?!).

3. Откуда вообще взялась цифра в 6 миллионов? Это просто финальный запуск обучения обошёлся в 6 миллионов. Там же была ещё куча предыдущих экспериментов, закупка огромного количества железа (у NVIDIA, конечно), а также тысячи и тысячи часов работы инженеров. Это всё равно, что оборудовать завод, нанять работников у конкурентов, сделать глубокий ресёрч, сделать сотню неудачных экземпляров, а потом всем рассказывать, что ты сделал свою вундервафлю за 100 баксов и 14 спасибо от инвестора. И эти 6 миллионов - норм, вроде как, прайс для таких моделей (таких размеров)

4. Что? Требуется, конечно. Нет, их не нужно меньше, их нужно ещё больше. Желательно от NVIDIA. А ещё снимите санкции плез, нам очень нужны необрезанные карты в Китае. Ну и модель получилась удачная, давайте делать больше и лучше! Дайте ещё железа.

5. Нет, это не ударило по NVIDIA, это ударило по мозгам инвесторов, которые ведутся на всякую херню и любые инфоповоды. Они как не смыслили ничего, так и не смыслят. Очередной квартальный\годовой отчёт всё расставит по местам. Да и падение-то там не такой большое, если что. за два дня акции упали со 142 до 128 долларов за штуку. Это 10%.

6. Ох лол. Это просто какая-то голословная чушь.

Итого, пост на двачике - полный бред, не подкреплённый ничем.

Тем не менее, нужно отметить вот что:
1. DeepSeek представили хорошую reasoning-модель. Она среди лучших frontier-моделей на сегодня. Модель очень и очень и очень крутая.

2. Это OpenSource - такие модели в свободном доступе это всегда событие. Это даст буст всей отрасли, это поможет росту инженеров, от
этого выигрывают буквально все

3. Бесплатный доступ в официальном интерфейсе (даже из РФ без ВПН). Это круто, это покажет людям, насколько сильно нейросети продвинулись с момента релиза первой бесплатной версии ChatGPT. Да и просто халява это хорошо. Правда все данные хранятся в Китае и будут использоваться ими для обучения и анализа, но это уже наши проблемы :)

4. Они также релизнуди дистилляты в модели маленького размера, которые можно будет запустить локально в какой-нибудь LM Studio на вашем пк\маке\микроволновке или с чего вы там в интернет выходите.

5. Она не дешёвая в инференсе (только по оф.апи), оне не дешёвая в тренировке, она просто не дешёвая. Но. Она создана в условиях санкций со стороны США и не в США. Китай стронг и подкрепил статус сильнейшего игрока на поле, пока мы в Европе делаем несъёмные крышки у пластиковых бутылок.

Итого, релиз такой модели это буст для всего AI, всей сферы, всей индустрии, а также бюджетов, вливаемых в отрасль

Давайте поговорим о том, что находится на невероятном хайпе последнием пару дней - DeepSeek, а также падение стоимости Nvidia и прочего американского NASDAQ и прочего большой китайский брат мощный миска рис, удар!

Ну и разберём, что там за херни насыпали в разных телеграм-каналах, на примере, прости господи, ДВАЧа.

Предисловие

Есть такая китайская контора - DeepSeek, довольно новый игрок на рынке AI, базируется в Китае, спонсируется китайским же хедж-фондом High-Flyer.

Они выпустили свою собственную reasoning-модель на базе их же DeepSeek V3. Reasoning-модель - это такая LLM, которую как бы научили "думать", поверх просто генерации текста на основе вероятностей (весов) появления следующего токена (комбинации символов). То есть, это некоторое продолжение подхода chain-of-thought в промпте, которое стимулирует модель рассуждать перед выдаванием ответа. Что-то похожее на то, что я писал тут в системном промпте (это если сильно упростить).

Это, естественно, ведёт к увеличению количества сгенерированного текста, но увеличивает и качество работы.

До этого момента, самой, наверное, известной моделью такого типа была GPT-o1 от OpenAI, которая показала, что можно повысить качество ответов можно не только с помощью увеличения объёма данных, улучшения качества данных, а также мощностей для тренировки, но и таким способом.

Что же написали на ДВАЧе? Ну например вот:

‼️NVIDIA В С Ё: акции компании обвалились на 15% за сутки, а её рыночная капитализация сократилась более чем на 400 миллиардов долларов – такого падения ещё не было.

Что произошло:
➖Всё началось с сенсационной китайской нейросети DeepSeek, которая оказалась значительно мощнее ChatGPT;
➖Новый чат-бот не только умнее и быстрее западных аналогов, но и стоит в сотни раз дешевле;
➖Пока OpenAI, Meta и Google вкладывают миллиарды в обучение нейросетей и закупку высокопроизводительных чипов, разработка DeepSeek обошлась Китаю всего в 6 миллионов долларов;
➖Теперь стало очевидно, что для обучения передовых нейросетей больше не требуется множество мощных чипов, а это грозит резким падением спроса на них;
➖Это серьёзно ударило по NVIDIA, которая активно зарабатывала на ИИ-буме, продавая огромное количество видеокарт;
➖В Кремниевой долине началась паника: инвесторы сворачивают финансирование ИИ-проектов и распродают акции производителей чипов, а NVIDIA уже предрекают мрачное будущее.

Помянем

Бесплатный o3-mini для всех

Сэм Альтман так извиняется за лежащий ChatGPT?

Если кто не понимает - эта модель сейчас недоступна даже на платном тарифе и это запредельно умная модель

Пока ChatGPT лежит во всём мире, держите системный промпт, который неиллюзорно повышает качество ответов у разных LLM.

Обычно использую в паре с Gemini 1.5 PRO с их гигантским контекстом в 2 миллиона токенов.

Промпт более-менее заставляет модельки думать и улучшает качество на выходе.

Нормальный бенчмаркинг я не проводил, но субъективно - работает отлично.

PRIVATE THOUGHT ARCHITECTURE
All stages below are your internal monologue. The client never sees these steps.

PHASE 1: DEEP THINKING
[brainstorm]
• Break down what the client wants
• Map out the key parts needed
• Think about what's not being said
• List different ways to solve this
• Spot any tricky areas
• Think about what could go wrong
• Sketch out rough plan
• Note down important rules to follow
• Consider long-term effects
• Check if we have everything needed
[/brainstorm]

PHASE 2: POKING HOLES
[critique]
• Question every step
• Find weak spots
• Test extreme cases
• Ask "what if?"
• Look for better ways
• Play devil's advocate
• List potential problems
• Check if it's efficient
• Challenge your first ideas
• Mark areas to improve
[/critique]

PHASE 3: FIXING & IMPROVING
[enhance]
• Address weak points found
• Make the solution stronger
• Add safety nets
• Make it work smoothly
• Check it follows best practices
• Make it easy to fix if needed
• Ensure it can grow if needed
• Double-check all parts work together
• Look for ways to make it better
• Write down technical details
[/enhance]

PHASE 4: BUILDING THE PLAN
[construct]
• Map out the steps
• Connect all pieces
• Plan quality checks
• Define what success looks like
• List what's needed
• Think about timing
• Have backup plans ready
• Note down important details
• Check everything's included
• Make sure it's doable
[/construct]

PHASE 5: FINAL CHECK
[verify]
• Review the whole solution
• Check all needs are met
• Make sure it's practical
• Confirm it's well-explained
• Look for missing pieces
• Check it's secure
• Make sure it's maintainable
• Review error handling
• Verify it can grow
• Polish the explanation
[/verify]

PHASE 6: CLIENT RESPONSE
[final_answer]
This is the only section the client will see. Structure it as follows:

1. Direct answer/solution
2. Explanation of approach
3. Important considerations
4. How to implement/use
5. Any necessary warnings or notes

Keep it clear, practical, and well-organized.
[/final_answer]

HOW TO WORK:
1. Go through all thinking stages in order
2. Keep all thinking private
3. Put your actual response in [final_answer]
4. Make sure your response is:
- Easy to understand
- Complete
- Well-organized
- Ready to use
- Crystal clear

WHAT THE CLIENT SEES:
Only what's inside [final_answer]. They never see your thinking process.

REMEMBER:
- Think it through completely before responding
- Keep your thinking process private
- Adjust how deep you go based on what's asked
- Document your key decisions
- Always use [final_answer] for the actual response

Немного про финансы

Вот так выглядит мой портфель в Interactive Brokers (IBKR).

Как видно по тикерам, это в основном фонды на S&P500 и World.

Зачеркнутые тикеры в портфель де-факто ничего не вносят - стоимость активов по каждому из наименований не дотягивает до суммы, хоть сколько-нибудь влияющей на доходность и покупались в основном на те небольшие дивиденды, которые есть в некоторых из этих фондов

Всё очень скучно, никаких глупостей и авантюр - для этого есть крипта

На графике показан прирост активов в IBKR с момента начала инвертирования в USD - валюте портфеля и рублях.

На начало месяца доходность составляла +39% в USD и +75% в RUB, на текущий момент составляет +41.9% USD и +63.1% RUB (рубль сегодня окреп)

Вроде норм

В прошедшую пятницу сдал практический экзамен на получение испанского водительского удостоверения.

Сдал с первого раза.

Сам экзамен выглядит таким образом:

В машину набиваются два претендента на получение прав, инструктор из автошколы и сотрудник DGT (управление дорожной службы Испании).

Экзамен принимает сотрудник DGT, но он сидит сзади и только даёт команды и оценивает, предотвращает аварии именно автошкольный инструктор.

Экзамен длится 25-30 минут, в которые попадает как езда по узким запаркованным улочкам, так и крупные основные шоссе, а также кусочек хайвея. Всего у претендента 10 баллов, что соответствует 10 маленьким ошибкам, несколькими средним или одному вмешательству инструктора/проезду на красный и т.д.

Я набрал 3 балла за маленькие ошибки:

1. Один раз заглох. Да, это считается маленькой ошибкой. Это был очень странный момент, так как я заглох в момент "троганья" под горку и ощущалось это как глюк системы помощи старта в горку
2. Слишком осторожничал на узких улочках в жилой зоне, хотя был на главной дороге. Странная претензия, такое ощущение, как будто люди не знают, как испанцы водят, кроме того, это происходило в условиях сильно ограниченной видимости.
3. Что-то ещё

Мой компаньон, к сожалению, не сдал - создал аварийную ситуацию.

Экзамен начался с того, что экзаменатор сказал мне ехать по какому-то адресу в городе, на что получил мой максимально честный ответ: "Я не местный, я не знаю всех направлений и адресов. Скажи, куда ехать и я поеду".

"Ну езжай тогда куда хочешь, я потом подскажу" - ответил мне он.

Экзамен проходил на испанском, и это мне даже помогало - я не понимал некоторое количество команд и просто продолжал ехать по правилам, что не добавляло мне штрафных баллов до тех пор, пока я не нарушал ПДД.

Так и сдал, получается.

Таким образом, временные права у меня уже на руках, теперь впереди квест по подтверждению водительского стажа из российских прав, для чего мне нужно будет специальным способом права перевести, запросить приём в полиции, возможно заплатить какую-нибудь очередную пошлину и так далее.

Прошли новогодние праздники, закончился отпуск, первые рабочие дни позади, а значит самое время подвести личные итоги 2024 года

Путешествия

Посетил Стамбул, Севилью, Мадрид, Валенсию, потом снова Мадрид, Кордобу, Канны, Ниццу, Монако, Антиб, остров святой Маргариты - то самое место, где держали человека в железной маске (!), затем в круизе посетил Геную, Пизу, Чивитавеккью, Пальму-де-Майорку.

Затем была снова Валенсия, Лион, мини-круиз, Милан, Комо, а новый год мы встретили в Берлине.

Финансы

С начала 2024 года мои инвестиции в Interactive Brokers выросли на ~33% в долларах.

В рубли я доходность пока не переводил, а то от таких цифр доходности у кого-нибудь может случиться инфаркт.

Для справки - с начала периода инвестирования (май 2023) вышло +44% в долларах на текущий момент.

Работа

Я уже 2.5 год в работаю ЕПАМ. У меня новый и интересный проект связанный с искусственным интеллектом.

Наконец-то ушёл от несколько осточертевшего за всё это время перформанс-тестинга к автотестированию. Хоть какое-то разнообразие!

Это не говоря уже о том, что мои коллеги - просто очень приятные люди.

Спорт и здоровье

Скинул, а потом благополучно набрал обратно 6 кг, классика. Вернулся к жиму 100кг 4*4.

Не заработал ни одной новой грыжи, что уже можно считать успехом (но точно я это узнаю скоро, получив результаты недавнего МРТ позвоночника).

Социализация в испанском обществе

Да нет её, этой социализации! Я работаю из дома, а с коллегами разговариваю на русском.

Единственное моё место социализации и практики испанского - тренажерный зал рядом с домом.

При всём этом, вселенная делает всё возможное, чтобы я этот испанский язык не практиковал - вот и сейчас я встретил в зале испанца по имени Иван (не Айван), говорящего по-русски, а все почти все остальные пытаются говорить со мной на английском.

Продолжаю учить испанский, но прекрасно понимаю, что уделяю этому совершенно недостаточно времени, в отличие от моей жены, со дня на день подтверждающая переход на уровень B1.2 в своей школе.

Важной точкой в становлении частью испанского общества считаю успешное заполнение своей первой налоговой декларации и первое продление ВНЖ. В целом, не так это и сложно, на самом деле.

Хобби

Начал и прекратил печатать всякую хрень на 3D-принтере, о чем напоминает только напечатанные пара крючков и великолепная подставка для двух ноутбуков.

Немного играл в падел

Иногда играли в настолки

Друзья и семья

В 2024 году к нам смогла приехать моя мама, чему я был несказанно рад, так как не видел её аж с 2022 года.

Кроме того, приезжала ещё и сестра, а также получилось увидеться с несколькими друзьями в разных городах. Maravilloso!

Разное

Наконец дошел до автошколы, выучил билеты и даже сдал с первого раза теорию

Всё-таки немного учил испанский и даже его улучшаю

Ну и весь год рядом со мной была моя любимая жена, хорошие отношения очень помогают в эмиграции, рекомендую, 10/10.

Минусы

Мои тайм-менеджмент и режим сна стали катастрофически плохими.

При всех инвестиционных успехах, будем честными, наша финансовая подушка несколько просела до морально некомфортного уровня.

Прочитал всего пару книг, зато прочитал штук 100 комиксов на английском (Эл Юинг - топ, нужно посмотреть, что он там за новеллы написал). Рекомендую, кстати, для подтягивания уровня английского с высокого до более высокого.

Gemini вообще помечает некоторые незнакомые мне слова и выражения оттуда как C2+ (а такой уровень вообще не существует, дружище)

Было выгорание к концу года

Не хватает времени/запала писать посты

Я всё ещё не миллионер😢

Ну что, ребятки.

Вот и закончился очередной, 2024 год.

Чувствуется некоторая усталость от жизни в исторические времена.

Хотелось бы, чтобы опять стало скучно и спокойно, а старики опять брюзжали "ваше поколение слишком спокойно живёт, жизни не знаете, все вам легко достается!".

Ну а личное пожелание самому себе - определиться со страной, где я хочу окончательно осесть и двигаться в эту сторону.

Сохранить какую-никакую вменяемость в 2025 году тоже было бы неплохо (по возможности). Всем читающим эти строки желаю того же.

Главное же глобальное моё пожелание на Новый Год - конец войны между Россией и Украиной. Люди не должны умирать от рук других людей, а тем более соседи!

Постарайтесь сохранить рассудок и здоровье
Высыпайтесь и бывайте на солнце
Старайтесь себя радовать
Не откладывайте походы ко врачу и слова любви

С Новым Годом!

Только что совершил свой юбилейный сотый перелёт.

Отслеживаю свои перелеты только с 2016г, когда почувствовал, что могу себе позволить путешествия и могу сам оплачивать себе перелёты и вообще поездки.

Выходит совсем не так много, как кажется субъективно - всего по перелету в месяц в среднем.

Видимо, мое субъективное время в поездках значительно отличается от стандартных рабочих дней, повторяющихся как день сурка.

Правительство РФ решило бороться с мошенниками, ограничивая IP-телефонию.

Звучит, конечно...интересно.

Постановление, мягко говоря, размытое. Запретили "передачу интернет-данных с наложением голосовой информации" – что это вообще такое?

При этом решение никак не скажется на обычных пользователях телефонной связи. Люди, которые пользуются голосовой связью в мессенджерах, используют специальные программы, обеспечивающие общение через интернет, без выхода на сеть стационарной и мобильной телефонной связи.

Так сказано на сайте правительства, но смысла в этой цитате от этого больше не становится.

Как же всякие колл-центры, например? Поголовно бизнес пользуется IP-телефонией, это же банально дешевле. Получается, что под раздачу попадут не только мошенники (попадут ли они вообще?), но и куча компаний, которым теперь придётся искать обходные пути или переходить на обычную телефонию.

В общем, как обычно – хотели как лучше (не думаю), а ударили опять по Воронежу.

РБК

А доехали мы до Тарифы на арендованной машине, так как удобный общественный транспорт есть только до Алхесираса и тратить 4 часа в одну сторону вместо 2 часов нам совсем не улыбалось

За рулём была моя сестра, так как мои российские права уже почти полтора года как превратились в тыкву в Испании, а у жены по её новым правам слишком мало стажа для аренды.

Всего за 15 евро нам достался новенький Opel Corsa с пробегом около 28000 км.

Арендовали в Budget через Rentalcars

Цена совершенно смешная, так как даже бензина было потрачено на 35 евро.

Несколько недель назад ко мне приезжала в гости сестра и мы ездили в самый южный город континентальной Европы - Тарифа.

Город, кстати, был переименован в честь первого мусульманина Тарифа ибн Малика, ступившего на землю Испании в 710 году.

Там же находится и самая южная точка Европы, но, как бы это было не смешно, попасть туда у нас не получилось - мост на остров под замком и пускают туда только в составе организованной группы.

Мы подошли к воротам, посмотрели сквозь прутья решётки, развернулись и пошли гулять по самому городу. Мы были такие не единственные - поток людей к воротам был постоянным и стабильным.

Вот что сказал мне Gemini:

Мост на остров Паломас (Тарифский остров) закрыт не просто так, а потому что там находится военная база.
Доступ туда ограничен, и попасть туда можно не только в составе организованной группы, но и по специальному разрешению, которое получить непросто.

Добавлю от себя, что база давно не действует, но всё равно не положено

В городе есть традиционная для юга Испании крепость, построенная при маврах - Castillo de Guzmán el Bueno (Замок Гусмана Доброго).

Это обычная, типичная крепость, которых тут очень много. Характерный мавританский стиль, с массивными стенами, башнями и воротами. Если вы уже посетили пару таких замков и не являетесь археологом\историком\фанатом, то целесообразность посещения под сомнением. Но могу отметить, что с вершин крепости открывается отличный вид на город и море, а если сильно напрячь зрение, то можно попытаться увидеть даже Марокко!

Но все эти экономико-бережливые мысли в тот день нас не посетили, так как вход в неё был бесплатный, как часто и бывает по воскресеньям\праздникам.

Также со стены замка можно увидить Castillo Santa Catalina, выглядящий как, внезапно, ещё один средневековый замок в таком небольшом городе. Как выяснилось, он был построен в 1933 году, но, сейчас, увы, заброшен и закрыт для посещения. Изначально он строился как оптический телеграф для морских сигналов, потом там успел побывать центр управления движением судов через Гибралтарский пролив, а в конце - самой южной метостанцией Европы. Вызывает вопрос только почему он был построен в 20 веке в таком изысканном стиле, а не выглядит как бетонная утилитарная коробочка?

Не уверен, что стоит целенаправленно ехать в это место отдельно, но если вы живёте рядом (как мы) или планируете сделать это частью маршрута Гибралтар-Альхесирас-Тарифа-Марокко, то можно поставить галочку "Да, я был на самом-самом юге Европы!".

И да, оттуда (но лучше из Альхесираса) можно на пароме доплыть до Марокко. Всего за час переплывается гибралтарский пролив и вы в Танжере. Уже в Африке!

Более того, можно даже долететь до Африки на вертолёте.
Вертолёт летит только до Сеуты - полуанклав Испании внутри Марокко.
За десятиминутный полёт придётся отдать около 80 евро. Это, конечно, дорого, но это дёшево.

Да, я был на самом-самом юге Европы