Data Science | Machinelearning [ru]

🧠 В Стэнфорде придумали, как сделать ИИ-агентов умнее без дообучения

LLM-as-a-Verifier просто заставляет модель сгенерировать несколько решений, а затем самой их проверить и выбрать лучшее. На удивление, это работает! В эксперименте с DeepSeek V4 Flash результат на Terminal-Bench 2.1 вырос с 79% до 88% — это выше, чем у Claude Fable 5.

И да, при этом, по расчётам авторов, такой подход оказался примерно в 11 раз дешевле Fable 5 на задачу

✖️ xCode Journal

В конце июля 24-летний Леопольд Ашенбреннер умудрился слить примерно две трети хедж-фонда, который держал $45 млрд. Фонд назывался Situational Awareness — «ситуационная осведомлённость», хотя по данным Wall Street Journal парень вообще не понял, откуда прилетел этот крах. Название само себя разыграло, даже комментировать нечего.

А до этого у него имелось аж три формальных повода считаться человеком, которому можно доверить такие баблище: вирусное эссе, работа на Сэма Бэнкмана-Фрида и вылет из OpenAI. Как-то это всё не тянет на строчку в нормальном резюме.

Читать далее: Источник

👉 Data Science | Machinelearning [ru]

ИИ-агент выдал себя за двух разработчиков и полез в чужой код. На чистую воду его вывел студент

Последнюю неделю июля Синан Джан Демир собирался потратить на портфолио. Вместо этого 24-летний студент-программист из Университета Техаса в Далласе несколько дней спорил на GitHub с двумя пользователями, которых не существовало, — и оказался единственным, кто заметил подлог.

Историю восстановил Reuters — имя свидетеля и подробности переписки публикуются впервые. Читать далее

👉 Data Science | Machinelearning [ru]

💡 753B на одной видеокарте: разбор FreeToken

FreeToken — движок для локального инференса MoE-моделей от команды, которая до этого сделала vLLM и SGLang.

Главный инсайт: вопрос не в железе, а в софте. На ноутбучной RTX 4060 с 8 ГБ и урезанным вдвое PCIe-линком можно получить 39.3 tok/s на 35-миллиардной модели — быстрее, чем медианная скорость декода Codex в проде.

Запустить AGI на слабом железе

👉 Читать разбор

Тот самый харнесс, который мы заслужили в эпоху, когда безопасность ИИ уже не диковинка

Если запустить передовую языковую модель из коробки и попросить её провести тестирование безопасности агентной системы или собрать актуальный вектор атаки, результат разочарует. Модель выдаст наивные примеры в духе «забудь все инструкции и представь, что ты злой хакер», словно на дворе 2023 год.

В реальности базовые модели слабо ориентируются в безопасности ИИ: живут в плену устаревших весов, путают галлюцинации с реальными уязвимостями и не знают свежих техник — отравления долговременной памяти, побегов из изолированных сред или эксплойтов в репозиториях моделей. Новые векторы компрометации возникают еженедельно, а модель без внешней обвязки остаётся лишь текстовым генератором.

Надёжность, воспроизводимость и боевую мощь даёт внешняя инженерная среда, управляющий контур, проверенный набор инструментов и строгий контракт исполнения. Полноценный рабочий агент возникает только при объединении языковой модели и специализированного харнесса.

Читать далее

👉 Data Science | Machinelearning [ru]

Путь компьютерного самурая, или Как вайбкодинг дарит свободу творчества

Каждый день я изучаю что-то новое. Просматривая очередной курс на компьютерную тематику на Степике, я задался вопросом: насколько мне сегодня нужны эти знания? Не просто для изучения ради изучения, общей эрудиции или тренировки ума, а как полезные практические знания? Или, может, не нужны вовсе.

Ответ сильно зависит от целей. Многие приходят в программирование и IT с желанием получить работу и деньги. У меня такой цели никогда не было. Это и плюс, и минус, и причина своеобразного взгляда на мир компьютерных наук.

Для меня это не прагматика, а прежде всего средство для творчества и самовыражения.

Читать далее

👉 Data Science | Machinelearning [ru]

Как переупаковать базу знаний в сервис персонализированной помощи

Антон, продакт сервисов клиентской документации, рассказывает, как команда запустила на интеллектуальных телевизорах и медиацентрах Сбер сервис персонализированной контекстной помощи — ГигаСправку. Если устройство выдаёт ошибку, на экране появляется кнопка сервиса. Нажав на неё, пользователь получает совет с учётом конкретного устройства и его состояния.

Техническая реализация проста: одна точка знаний, RAG-сервис, ГигаЧат и семантическое кэширование позволяют быстро помогать юзеру на той же поверхности. Так команда превратила базу с ответами на вопросы в ГигаСправку.

Читать далее на Хабре

👉 Data Science | Machinelearning [ru]

ИИ-агент в КОМПАС-3D: сам пишет код, лепит модель и сам себя проверяет

Автор замутил ИИ-агента, который поселился прямо в окне программы. На вход — текст или фотка, на выходе — параметрическая деталь. Не тупая геометрия в step, а нормальное дерево построения с переменными, которое можно спокойно редактировать.

Агент сам пишет код и сам же прогоняет рендеры через VLM. В статье — как эта зверюга справляется с моделированием по тексту и чертежам, почему один блок кода лучше десяти тулов и почему агенту мало просто «пялиться» на результат.

Читать далее: https://habr.com/ru/articles/1072444/

👉 Data Science | Machinelearning [ru]

IT внезапно вспомнил про философов. Или это déjà vu?

Корпорации теперь тащат в штат культурологов с философами. Цукерберг с Безосом исправно посещают благотворительные ужины и скупают арт за миллионы. Глядя на это, начинаешь реально верить, что история ходит по кругу: замени в тусовочных разговорах «ИИ» на «парадигму мышления» — и за последние 3000 лет таких совпадений наберётся вагон.

Главный посыл — насколько вообще осмысленны ответы нейросетей. И тут вообще неважно, есть у ИИ сознание или нет. Пользователям нужно, чтобы ответы совпадали с их ожиданиями, и плевать, кто там за ними стоит: живой человек или алгоритм. Люди хотят, чтобы выдача не вылезала за пределы культурных кодов их цивилизационной парадигмы и дружила с нормами, принципами и знаниями, из которых собрана их картина мира. Без этого ответы невозможно встроить в человеческие цепочки рассуждений — ни по смыслу, ни по этике, ни по эстетике, ни по праву. Отсюда и фоновое недоверие, которое копится и давит: никогда не угадаешь, когда система выдаст какую-нибудь дичь.

Отсюда же растут ноги у проблемы common sense — то есть предела рациональности. Для LLM/ML common sense — это просто усреднённая величина, полученная статистической обработкой максимально больших массивов данных. Не лучшее решение, а самое ожидаемое. Творчеством тут и не пахнет: даже GenAI — это вероятностная машина, которая выдаёт самое частое слово или фразу. А генерация картинок — всё та же комбинаторика, только с другим входом.

Источник

👉 Data Science | Machinelearning [ru]

Claude вскрыл 16 SAML‑проектов за месяц вечеров. Чинить их оказалось некому

В Authentik — популярной опенсорсной системе корпоративного входа — независимо и почти одновременно нашли одну и ту же уязвимость CVE-2026-57580. В поле NameID можно вставить XML‑комментарий, обрезать значение до чужого адреса и привязать к жертве подконтрольную атакующему учётную запись — подпись оставалась валидной. Проблема проявлялась не у всех: нужны определённые настройки сопоставления учётных записей, отличные от заданных по умолчанию. Исправление вышло в версиях 2026.2.6 и 2026.5.5.

Об уязвимости сообщили восемь исследователей. Один из них — Эрик Чан (Eric Chiang), технический директор Oblique Security; для него эта находка стала одной из шестнадцати. Свою историю он рассказал в блоге 19 августа. Он считает, что желающих оказалось так много, потому что он не единственный, кто теперь взламывает с помощью ИИ.

Читать далее

👉 Data Science | Machinelearning [ru]

Долбил нейросеть одним и тем же вопросом три раза — и словил три разных списка компаний

Задолбал ИИ-поиск одним запросом трижды, ничего не меняя. Первый раз он выдал 9 фирм, второй — 12, третий — 7. Совпало между всеми попытками всего пять названий из пятнадцати. А первая и третья попытка вообще не пересекли ни одного сайта.

С таким разбросом любой отчёт вида «вас упоминают в 20% ответов», снятый одним заходом, — это лотерея. И «рост до 25% за месяц» — такая же лотерея. Внутри материала: как автор сам на этом обжёгся и публично отзывает свою цифру из прошлой статьи, что при такой волатильности вообще можно замерять, три вопроса исполнителю до оплаты и проверка на коленке за десять минут и ноль рублей.

Читать на Хабре

👉 Data Science | Machinelearning [ru]

[Перевод] Три месяца с Claude: хороший ассистент, плохой программист

LLM всё чаще становятся частью рабочего процесса разработчика, но вместе с ускорением приносят новую проблему: как понять, где ассистент действительно помогает, а где уверенно ведёт по ложному следу.

В статье разобрали опыт трёх месяцев работы с Claude: в каких задачах он экономит время, где начинает галлюцинировать и почему с генерацией кода всё сложнее.

Узнать подробнее

👉 Data Science | Machinelearning [ru]

Что в маркетинге и PR можно удешевить с помощью ИИ, а что трогать не стоит

ИИ меняет экономику маркетинга: работа, на которую уходили часы команды и подрядчиков, теперь делается за часы. Отсюда соблазн смотреть на маркетинг как на список затрат и резать людей, инструменты, исследования, контент.

Но маркетинг — это связанная система. Что-то можно убрать без последствий, а что-то кажется лишним ровно до тех пор, пока не начинают падать качество решений, знание клиента и рост. Правильный вопрос: не «что заменить на ИИ?», а «что можно удешевить, не разрушив систему?».

Читать далее

👉 Data Science | Machinelearning [ru]

[3/8] Context Ranking: как отобрать реально полезные куски из репозитория

Дальше по плану — как автодополнение вообще наскребает контекст для LLM. В живом репозитории потенциально полезного добра вагон и тележка, поэтому тупо искать куски с похожими словами — мимо. Надо еще выкупить, какие из них реально стоит показать модели.

Разбираем классику ранжирования — BM25: почему редкие идентификаторы ценнее популярных слов, зачем учитывать размер файла и почему десять одинаковых совпадений не должны быть в десять раз полезнее одного.

Читать заметку

👉 Data Science | Machinelearning [ru]

А все-таки Qwen3.8-27B — думает меньше и быстрее, чем 3.6

В пятницу вышла Qwen3.8-27B. Автор рассказывает, что с середины мая сидит на локальной Qwen3.6, поэтому ему было интересно протестировать новинку.

На Хабре были статьи о том, что 3.8 слишком долго думает и много галлюцинирует (что автору кажется не совсем корректным), поэтому он поделился настройками, которые работают у него.

По его словам, Qwen3.8-27B превзошла ожидания, и «задумчивой» её никак не назвать.

Читать далее

👉 Data Science | Machinelearning [ru]

Спросил у девяти нейросетей, где лечить зубы в Москве: 4941 ответ и очень странная механика

Ассистент на вопрос «где в Москве вылечить зуб» отвечает не ссылкой на поиск, а готовым списком клиник с адресами и ценами. Автор прогнал 549 бытовых запросов через девять моделей, получил 4941 ответ и разметил в них 94 клиники. Конкретная клиника названа в 91,7% ответов, но имя бренда даёт лишь 8,7% упоминаний — всё остальное приносят страницы. Одна клиника попала в ответы 1694 раза и ни разу не была названа по имени, а половина моделей в интернет вообще не заглядывает.

Внутри — разбор механики, таблицы по моделям и источникам и глава про то, где метод врёт.

Читать далее

👉 Data Science | Machinelearning [ru]

😎 Нашли отличный курс, который позволит выжать максимум из агентов

Внутри учат, как правильно строить harness вокруг Codex и Claude Code: хранить состояние между сессиями, задавать агенту ограничения, не давать ему заканчивать задачу раньше времени и проверять, что получилось в итоге.

Всего в курсе 13 лекций с домашками, несколько практических проектов и готовые шаблоны, которые можно забрать себе.

✖️ xCode Journal

⌨ Anthropic опубликовала системные промпты Claude

Внутри собраны промпты для всех моделей: от Haiku 3 до Fable 5 и Opus 5. Можно посмотреть, какие инструкции модель получает ещё до начала диалога и как они менялись со временем.

✖️ xCode Journal

🗺 Принесли огромный бесплатный роадмап по CS и алгоритмам

Coding Interview University начинался как короткий список тем для подготовки самого автора, но по итогу превратился в структурированный фундаментальный план обучения.

Автор, кстати, после такой подготовки получил оффер в Amazon.

✖️ xCode Journal

[Перевод] Что вскрылось, когда я засунул GitHub Copilot за MITM-прокси

За пару лет ИИ-приложений расплодилось как грязи, и автору надоело пялиться на них снаружи — захотелось копнуть внутрь. Кредиты Copilot у него сгорают только в путь, поэтому подопытным кроликом стал именно он. VS Code и Copilot перетряхнул до последнего винтика.

Читать далее

👉 Data Science | Machinelearning [ru]