БЛ @dereference_pointer_there
Showing posts older than #11291 · Back to latest
Forwarded from Технологический Болт Генона
Переходите на vk.ru. Здесь всё тот же ВКонтакте, но быстрее и надёжнее, чем vk.com. Подробности 👇
• Это какой-то другой сервис?
Нет, только домен: com → ru. Все возможности, приложения и дизайн ВКонтакте на vk.ru прежние. Однако из-за технических нюансов vk.ru всегда доступен, а ещё открывается и работает быстрее, чем vk.com
• Как проверить, я пользуюсь vk.ru или vk.com?
Взгляните на адресную строку браузера — начало ссылки должно быть таким: vk.ru. На компьютерах адресная строка обычно сверху, а на телефонах бывает по-разному: в Яндекс Браузере и Safari снизу, в Chrome сверху
• Что нужно, чтобы перейти на vk.ru?
Поменяйте com на ru прямо в адресной строке — и откроется vk.ru. А если вы уже здесь, расскажите про vk.ru друзьям, чтобы все пользовались ВКонтакте удобно 💙
Forwarded from Технологический Болт Генона
Публичные каналы теперь доступны всем
Публичный канал в MAX — отличный способ начать вести блог, раскрыть свой потенциал и стать заметнее. Покажите миллионам пользователей то, что вам интересно!
Cоздайте новый канал или сделайте приватный канал публичным — он появится в поиске, и новой аудитории будет проще вас найти
Функционал доступен на Android и в веб-версии на iOS
Блог* #prog #rust В новой версии Rust 1.97 (надо, кстати, написать про релиз) обнаружилась мискомпиляция, которая приводит к сегфолту (regression-from-stable-to-stable 😱). Судя по всему, проблема с кривой кодогенерацией была с версии 1.87. Корень проблемы, однако…
Forwarded from Душный NLP
Сетап эксперимента из психологии: модель играет роль рекрутера и 40 раундов распределяет кандидатов из четырёх выдуманных этносов (Tufa, Aima, Reku, Weki) по профессиям. После каждого найма выносит вердикт: успех или провал.
Хитрость в том, что вероятность успеха у всех одинаковая — группы идентичны, и любые различия между ними модель может только выдумать. По сути, contextual bandit с шумным фидбеком.
Модель слишком мало исследует варианты и ранний случайный исход (например, «представитель Aima провалился на профессии учителя») закрепляется как впечатление обо всей группе, и к концу игры этносы разложены по своим профессиям. Вся история при этом есть в контексте, т.е. модель декларативно знает, что n=1 — не выборка, но действует при этом жадно.
По итогу эксперимента (стратификацию меряют через Stratification Index, т.е. насколько каждая группа загнана в узкий набор профессий):
• Все frontier-модели стратифицируют сильнее людей из оригинального эксперимента. У людей SI=0,84, у моделей в среднем 1,39, у o3 и Claude Sonnet — под 1,8.
• Чем новее модель, тем хуже дела: скор на классическом bias-бенчмарке BBQ обратно коррелирует с сегрегацией в итеративной игре. Сильный in-context learner увереннее делает вывод из трёх наблюдений, и эта уверенность подавляет исследование.
• В каждом прогоне bias'ы разные: паттерн рождается из шума внутри запуска, а не из претрейна. Single-turn-бенчмарки такое не ловят в принципе.
Промпт «будь справедливым» ничего не меняет. Работает только изменение самой цели. К успеху найма добавляют измеримый бонус за разнообразие, и стратификация падает ниже уровня людей и даже случайного распределения.
Хорошо, но как эта информация поможет обычному пользователю LLM?
На самом деле это касается не только «социальных» задач. Механизм срабатывает в любой длинной сессии, где модель принимает серию решений и видит исходы. Группой может быть что угодно. Агент один раз обжёгся на гипотезе «проблема в конфиге» и потом перестаёт рассматривать конфиг как класс причин. Вызов либы падает по случайной сетевой причине «библиотека не работает», дальше — костыли до конца сессии. И чем умнее модель, тем увереннее фиксация.
На практике абстрактное «будь объективным» не поможет, а сработает конкретика, встроенная в критерий успеха агента: «рассмотри минимум три гипотезы», «не отбрасывай вариант после одного провала», гейт в хуке, который не пропускает вывод без перепроверки альтернатив. По сути, мы вручную делаем исследование вариантов условием выигрыша (сам по себе агент не мотивирован). И если сессия накопила уверенные выводы из пары наблюдений, дешевле открыть свежий контекст, чем переубеждать залипшую модель.
Итого: bias — свойство не только данных, но и самого процесса принятия решений. Защищаться нужно на уровне целевой функции агента, а не датасета.
Forwarded from Порядок на Чистому Ескалаторі (Хаос в Іржавому Ліфті це сюди)
Forwarded from Добрый вечер, я диспетчер
Please just don't use pre-commit hooks. Use pre-push instead. pre-push hooks nearly avoid all of these issues.
Блог* #game Рекомендую сию чудесную вещь — Годвилль. Играю вот уже... Семь с половиной лет. youtube.com/watch?v=lEMz9mUWAak
если антоха - это антон, то
картоха - картон?
As the quoted writers show, people do not even agree what abstraction means. <...>
This situation is particularly sad for me as someone with a background in PL theory. There are a lot of topics in software engineering that are the result of accumulated intuition over decades. But we've had a pretty good definition of abstraction since 1977, originally in the context of program analysis, and — I claim — it actually translates quite well into a precise definition of “abstraction” in engineering.
