ai/вайбкодинг >_ Alex Nesterov

🤖 SAAS RIP или ода Астре

Мне тут для моих экспериментов понадобился Openclaw. При этом я знал что он существует, но не очень понимал зачем. А тут понял, потому что в процессе ресерча как сделать одну задачку на автоматизацию вышел на него и на других его коллег — Hermes, например. Но мы с Астрой решили что Openclaw подходит для задачки лучше.

Openclaw, если по-простому — это глаза и руки которыми может управлять ваша моделька. То есть вы может подарить той же Астре возможность видеть что происходит на экране плюс управлять элементами которые на экране, как если бы это делал человек. Ну или можете воткнуть кринж-gemini чтобы он вам ссд вайпнул, по желанию.

Поставили мы его на сервер. Сервер у меня не супер-мощный, но мне больше и не надо. Юзаю VPS на Селектеле за 3000 в месяц (не реклама) с 16 гигами и 8 ядрами, без GPU.

Через несколько дней у меня повалились ошибки, тупить что-то начало. Решил разобраться чо и как, увидел что перегруз по памяти. В процессе оптимизации узнал что опенкло отжирает гигабайт оперативки (800 мегабайт на него самого плюс 200 на ноду).

Волевым вопросом "а он нам ваще нужен?" Астра ответила что конечно же нет и она сама щас всё напишет чисто под наши задачи.

Как итог — 3 часа работы Астры, экономия памяти мегабайт на 800 и полностью самописный контроллер, который мы продолжаем тюнить и оптимизировать конкретно под себя.

На вопрос "нафига тогда он вообще нужен людям" Астра по-философски ответила, что люди не понимают возможности написания софта самим и что им кажется сложнее такой подход, нежели взять готовое решение.

Выражение "хочешь сделать хорошо — сделай сам" заиграло новыми красками

✖️ В твитере супер-шумит jev, новое поколение ИИ-моделей, которое отличается от всего что мы видели раньше

Jev — модель, которая принимает решения без написания ответов

Привычные нам чат-боты работают на LLM — больших языковых моделях. Когда такая модель отвечает, она генерирует текст по одному токену. Токен — это кусочек текста: например, слово или часть слова.

Но что если нам вообще не нужен текст? Допустим, нужно разобрать тысячу сообщений от клиентов: где жалоба, где вопрос, а где человек хочет что-то купить.

LLM умеет это делать, но результат всё равно выдаёт через генерацию текста. Даже если это всего одно слово «жалоба» или короткий ответ для программы.

💡 Фишка Jev в том, что она сразу оценивает заданные варианты. На вход получает сообщение, на выходе — категорию и вероятности. Условно: жалоба — 90%, вопрос — 8%, покупка — 2%. Программа уже сама отправляет сообщение куда нужно.

За счёт этого на подобных задачах Jev может работать значительно быстрее и дешевле обычных LLM. По тестам разработчиков, разница бывает в десятки и сотни раз, но конкретный выигрыш зависит от задачи.

Написать вам пост или код Jev не сможет. А вот быстро отфильтровать новости, разобрать обращения или определить, какую задачу отдать дорогой умной модели, — для этого её и сделали. Ошибаться в решениях она, конечно, тоже может.

Jev выпустила TypeSafe — компания бывшего исследователя OpenAI Диогу Алмейды, одного из авторов исследования, которое легло в основу ChatGPT

🤖 Anthropic тестирует 3 новых модели

Первым заметили Opus в районе 14 сентября. Вчера заметили Fable 5.2, сегодня ещё Sonnet. Похоже новый супер-интеллект уже совсем близко. Но с астры не слезть, видимо придётся ещё одну подписочку брать когда 5.2 появится! В целом может уже посвободней станет, автоматизируется всё.

Модели засветились внутри самого Claude. Там какими-то хитрыми способами можно узнать что с тобой уже разговаривает новый фейбл. ChatGPT говорит что подобный засвет моделей означает релиз через 1-2 недели.

✖️ Супертоп фича в X — added context

Обычно это когда в тексте компании происходит манипуляция или враньё, из реплаев коммьюнити вычленяется правда. Антропик чот любит так писать.

Этого не хватает в ТГ каналах. Я с ИИ стал чаще фактчекать просто по приколу, потому что это занимает 10 секунд промпт написать "сделай фактчек" и скрин приложить из канала.

🤖 Только себе всё нормально-секьюрно настроил чтобы у чатагпт под моим контролем рут появлялся для определенных задач.

Неделю проработало. Теперь о нашей безопасности заботится уже подзадолбавшее авто-ревью, которое если честно бесполезным пока больше выглядит.

🤖 Anthropic в тайне открыла биолабораторию — Reuters

Claude хотят подключить к реальным экспериментам.

Двое человек, приближенных к компании, независимо подтвердили слух для Reuters, после чего Антропик сам рассказал подробности.

Компания подтвердила, что создала лабораторию в районе Сан-Франциско. Там проводят физические эксперименты, а не только компьютерное моделирование.

План — поручить Claude управление лабораторными роботами. Но автоматизация пока на ранней стадии, а человеческий контроль Anthropic считает необходимым.

Общая цель — ускорить исследования и поиск лечения редких и сложных заболеваний. Однако компания отдельно уточнила: сама лаборатория не предназначена специально для поиска лекарств.

Reuters

🤖 Модельки переносятся на следующую неделю

По твитерным слухам готовятся 2 модели:
GPT-6-Sol
GPT-6-Luna

Я моментально запутался и обратился к GPT-6-Astra чтобы она меня распутала.

Говорит, 6 это серия модели, а Sol это её ранг. Ну типа как iphone 18 pro. Вот был 17, стал 18.

А что такое тогда Астра? Астру позиционируют как супер-навороченную модель для самых сложных задач. Так что, видимо, будет что-то похожее на Антропиковский Опус с Фейблом. Главное чтобы не ограничивали юз как в клоде.

🤖 Похоже точно готовят новые 6-модельки на этой неделе, как и писал вчера. Замена терре и луне. Топ, мне надо.

🤖 ChatGPT — как снять галочку чтобы на вас перестали обучаться жители Индии и модели

Настройки → Управление данными / Data Controls → Improve the model for everyone → выключить.

Я выключил.

🤖 Вышло расследование 404 Media
Внутри ‘Project Lily’: Люди читают ваши чаты ChatGPT

Издание сообщает, что OpenAI нанимает сотни подрядчиков для оценки ответов на реальные пользовательские запросы. Проверяющим могут показывать целые диалоги. Имена аккаунтов им не показывают, а персональную информацию стараются предварительно удалять, но, согласно приведённому в статье ответу OpenAI, чувствительные подробности всё равно могут проходить через фильтрацию.

Журналист ссылается на внутренние документы и реальные запросы, которые видел лично. Эти основные утверждения доступны до платной части статьи.
6-Astra

OpenAI не скрывают этого. В FAQ сказано что ограниченное число людей в особых случаях бла бла. Но самое важное — это распространяется только на тех, кто не снял галочку в настройках.

🖥 Волна увольнений из ИИ-компаний продолжается

На этот раз уволился инженер Google DeepMind. Причина — как и в случае с Антропиками, боязнь что ИИ уничтожит человечество.

Ключевые цитаты из твита:

«ИИ способен убить нас всех».
Он считает угрозу реальной и опасается, что времени для предотвращения такого исхода остаётся мало.

«Сложная и нерешённая».
Так bilal характеризует проблему согласования целей ИИ с человеческими. По его оценке, возможности моделей растут быстрее, чем наше понимание того, как обеспечить их безопасность.

«Эта безумная гонка между ИИ-компаниями».
Инженер призывает компании координироваться и выбирать такой темп разработки, при котором общество успевает устранять новые риски.

«Ставки огромны». Безопасное развитие ИИ он считает важнейшей задачей человечества в этом столетии.

🤖 Твитерянам не дают Астру юзать что-то уже всю ночь. Жалуются. У меня всё ок вроде, подтупливает с зависаниями чатов уже даже меньше.

Тибо затизерил что неделя будет интересная и они что-то готовят. Интересно что там, может младшие модели какие будут на замену луны и терры.

🤖 Илон Маск в X о новых моделях Grok:

Grok 4.7 должен быть примерно на уровне Opus 5.0, а не 5.1. В чём-то лучше, в чём-то хуже. Нужно чинить мультимодальную производительность.
Grok 4.8 будет заметным улучшением.
Grok 4.9 станет, скорее всего, класса Astra/Fable.
Grok 5, возможно, получится лучше всего существующего. Посмотрим.

⏳Сроки:

4.7 заканчивают обучение, она уже должна была выйти, но возникли проблемы с RL. Ориентировочно выйдет на этой или следующей неделе.
4.8 судя по темпам не раньше начала октября, оптимистично.

💡 RL — очень важный процесс обучения современных моделей. Если вы видите этот термин в первый раз, ознакомьтесь:

Reinforcement Learning (RL) — обучение с подкреплением: нейросеть пробует разные действия, получает за результат награду или штраф и постепенно учится выбирать то, что приносит больше награды.

Например, нейросеть играет в игру: сначала действует случайно, за победу получает награду, за поражение — штраф. После множества попыток вырабатывает стратегию — хотя никто не показывал ей правильный ход в каждой ситуации.

У языковых моделей аналогично: ответы оценивают люди или автоматические проверяющие, а обучение повышает вероятность ответов с высокой оценкой.

Главная тонкость — правильно задать награду. Иначе модель научится получать высокий балл, а реальная задача останется нерешённой.

Дональд Трамп заявил, что единственный контроль или ограничения, которые необходимы искусственному интеллекту это сильный и умный (с высоким IQ!) президент США — пост

#trump #ai #iq

🤖 Подписчикам ChatGPT — важно

20x подписки за $200 недоступны новым юзерам. Сроков когда они нарастят мощности, пофиксят баги и вернут возможность подписаться нет до сих пор.

Если вы как и я после подписки сразу её отменяете — зайдите в оплату и возобновите обратно, иначе вы просто не сможете продлить свой 20x после отмены. Для меня это бы стало прямо головной болью, потому что надо было бы всё вообще в Клода переносить.

Славно что такую кнопочку оставили.

Дональд Трамп отверг призывы замедлить разработку искусственного интеллекта, заявив, что США не должны уступить лидерство Китаю. Президент допустил отдельные защитные ограничения, но не назвал конкретных мер; обсуждение в Вашингтоне началось после призыва главы Anthropic дать системам безопасности время догнать развитие моделей — AP

#ии #сша #китай #технологии #регулирование

💭Цитата дня

Рандомный твитерянин:

ХВАТИТ СПРАШИВАТЬ ДЕТЕЙ «КАК ДЕЛА В ШКОЛЕ»

они каждый раз отвечают «норм». детский психолог посоветовал вместо этого говорить:

«проанализируй свой день в школе, найди три главных источника неэффективности и создай автономных ИИ-агентов, которые всё исправят без моего участия. не допускай ошибок»

🤖 Сэм Альтман ответил:

Я согласен с Дарио что нам нужно сбавить темп разработки фронтир-моделей. Это была тема номер 1 у нас в OpenAI за последние недели.

Идея с независимыми наблюдателями, у которых будет доступ уровня сотрудника, прекрасна. Мы сделаем то же самое. И скоро расскажем кое-что ещё.

🤖 Чтиво дня — эссе Дарио Амадеи, главы Anthropic

Мы с GPT-6 Astra перевели и подготовили для вас полный материал на VC

Главная цитата:

Мы должны замедлить темп, с которым улучшаем возможности моделей ИИ. Прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время.

На мысль о замедлении Дарио натолкнуло две вещи — RSI, рекурсивное самообучение, о котором я писал буквально вчера, плюс известный всем инцидент с Hugging Face у OpenAI, когда рой агентов взломал HF ради достижения своих целей.

Амадеи озвучивает те же опасения, что я вам рассказывал на одном из стримов. Я считаю неизбежностью появление настоящего автономного неконтролируемого вируса на основе ИИ, с которым нам всем в будущем придется жить. Впоследствии их будет много, как когда-то появились обычные компьютерные вирусы.

Дарио же говорит о том, что инцидент со взломом HF показал, что если бы модель была совершенней, мощностей у неё было бы больше — это могло бы привести к катастрофическим последствиям.

...я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью устойчивого ботнета — потенциально причинив ущерб на сотни миллиардов долларов

По мнению CEO Anthropic спасти ситуацию может план из 3 пунктов, он назвал их так:
1. Независимые оценщики внутри ИИ компаний
2. Координация в демократических странах
3. Глобальная координация

На мой взгляд план отличный кроме пункта 3. Как раз вчера на стриме рассказывал своё мнение, что вся эта остановка прогресса не сможет случиться исключительно из-за гонки США и Китая. Шансы на то что Китай остановится, мне кажется, равны нулю.

Однако, Амадеи копает глубже и говорит о других рычагах давления. Предлагает прекратить экспорт технологий.

.. ключевая часть сдерживания темпа в демократических странах — сохранять максимально большой отрыв демократий от автократий в области ИИ, чтобы обеспечить нам необходимый запас времени для эффективного сдерживания темпа

Если вы дочитали до этого места — я крайне рекомендую к прочтению полную статью. От решений, которые прямо сейчас примут правительства и компании, возможно, зависит судьба человечества.

Оригинал
Перевод

🤖 Важное от Tibo, твит перевела Астра:

Всем, кто пользуется Astra, привет. Немного новостей о сбросе лимитов и проблемах с качеством, о которых вы писали.

Вместе с некоторыми из вас мы нашли и исправили следующее:

• Некоторые скиллы, написанные для предыдущих моделей, срабатывали слишком часто или мешали модели проверять свою работу.

• Эксперимент с управлением контекстом, участие в котором было добровольным, мог приводить к преждевременным остановкам или ответам на старые сообщения. Мы его отключили. По нашей приблизительной оценке, он затронул 4–5 тысяч пользователей.

• Мы также убрали несколько некорректно настроенных движков: замеры показали, что они снижали качество на части проходивших через них запросов.

Внесли и ряд небольших улучшений. В целом работа должна стать заметно лучше: модель должна стабильнее доводить задачи до конца, лучше отслеживать ваше последнее сообщение и тщательнее проверять свою работу по ходу выполнения.

Примеры, которые вы публиковали, и помощь пользователей, работавших с нами напрямую, очень помогли быстро всё исправить. Как всегда, огромное спасибо нашему сообществу.

И да, сегодня до полуночи также сбросим лимиты. (уже сбросили если что)

— Тибо

Ну го проверять. Для меня пока самое главное чтобы пофиксили рандомное зависание чатов в длинных автономных задачах, в остальном претензий к Астре пока что не было вроде.