Агментек: советы

🗣Уже не в темпе, но тем не менее снова #подкаст

На экранах Пион, Данила и статья «Industrial Policy for the Intelligence Age: Ideas to Keep People First». Читаем материал от OpenAI на животрепещущую тему — humans first наш любимый, естественный +-vs искусственный интеллект и всё такое (спойлеры: выглядит сомнительно).
Есть подозрение что люди в OpenAI имеют некоторый конфликт интересов и сами друг с другом ещё не договорились.

👉Слушайте и смотрите https://youtu.be/c-2gIlN2yUw
👇Комментируйте комментарии

🗣Выдерживаем темп и публикуем третий #подкаст
пишите, о чём хотелось бы ещё послушать

Продолжаем читать Forethought. В статье «Tools for strategic awareness» пишут про инструменты стратегического планирования и важность освёдомленности в этом вопросе. Нам предлагают рассмотреть три основные «тулзы», мы (Данила и Пион) рассматриваем их и даём экспертное заключение, а также формулируем выводы по всем трём статьям.

👉Слушайте и смотрите свежее: https://youtu.be/Dac8qw63hQE
а тут первый и второй выпуски

Это была финальная статья из серии Design Sketches, и финальный выпуск подкаста (вернее, первого сезона?), поэтому самое время спросить: вам такой формат вообще как?

❤️Класс, публикуйте почаще!
🤔Пока непонятно
💔Не фанат_ка подкастов но вы там все молодцы…

🗣Теперь такое было недавно, и вот опять — #подкаст
не хочется хвастаться, но ещё пару раз и это будет регулярная рубрика ;)

Пион и Данила снова читают Forethought. В статье «Design Sketches: Angels-on-the-Shoulder» авторы предлагают обратить внимание на пять технологий, в которые уже внедрён ИИ и которые влияют на процесс принятия решений людьми. Легко учиться, легко создавать инфополе вокруг себя, легко выбирать наилучшие решения, легко думать и легко уберечься от ошибки (нет, нет и ещё немного нет). В подкасте наша искренняя реакция, немного хихи и много серьёзных тезисов.

👉Слушайте и смотрите: https://youtu.be/RszfWbHLJUM
👉👈Или можно начать с предыдущей части: https://youtu.be/3dMhnumkgH8

🗣 Давно такого не было и вот наконец-то #подкаст

...где Пион с Данилой разбирали статью в которой организация Forethought предлагает пути борьбы со сценарием Gradual Disempowerment. Сценарием, в нашем понимании больше заслуживающим внимания, чем другие сценарии смерти от AI. Нам интересно что мировая мысль имеет сказать по этому поводу, и мы делимся своей реакцией с вами.

👉🏻 Запасайтесь чаем и идите слушать https://youtu.be/3dMhnumkgH8

#подкаст #мемы #апдейт

Вы думаете что мы пропали, но мы пропали не случайно...
Наши задачи на эту неделю 💪

p.s. ждите большое видео-реакцию на статью «Design Sketches: Collective Epistemics» от Forethought

Всем выкопавшимся из новогодних праздников искренне желаем присмотреться к праздничным скидкам, которые закончатся буквально завтра. Мы вас ждём (но недолго) 🎁

🎁 Новогодние скидочки!
...для вас

👥Канал «Про отношеньки»
Во все года — и старые, и новые — нас окружают люди и нам всегда актуально выстраивать отношения с ними. Поэтому мы решили сделать скидку на единоразовый вход в канал с материалами про отношеньки :)

Цена с сегодня до 13 января — 2026 рублей вместо 3800
Которые вы платите один раз и изучаете материал сколько вам угодно и когда удобно
За доступом — жмите сюда

🗣Языковой клуб «По понятиям»
Общаться и учиться общаться на одном языке, пополнять набор своих жизненных стратегий и просто по-человечески приятно проводить время в воскресенье в 13:00 по мск в маленькой группке с Пион и Сойфером как модераторами — можно в нашем языковом клубе.

Цена с сегодня до 13 января на тариф «Только послушать» — 2026 рублей в первый месяц вместо 2800
Присоединиться к клубу

Ещё есть время записаться.
Можете сразу написать Софии или просто поставить плюс в комментариях к этому посту

Планируем год вместе

Когда: 3 января (это завтра), в 14:00 по мск
Где: онлайн в зуме
Как попасть: вход бесплатный; напишите Cофии, чтобы она прислала вам ссылку на зум завтра

До встречи! :)

А хотите попланировать год вместе?

tl;dr
В этом году я, как обычно, буду подводить итоги года и ставить цели на следующий, пока все отсыпаются.
Я буду делать это 3 января в 14:00 мск, и все желающие могут присоединиться.

Что будет:
- мой (очень простой) формат подведения итогов и планирования.
- небольшие штуки в перерывах, которые я сама использую, чтобы ничего не упустить: как и что записываю; какие делаю практики, чтобы побыть во всех нужных ключевых состояниях.
- трындёж в перерывах.
- чай (или что вы там пьете).

Чего не будет: лекций, упражнений, фреймворков, заданий.

Вы можете просто прийти, и сделать планирование вместе со мной, если хотите.
Я буду рассказывать, что я делаю, и, собственно, делать.

Будут моменты, когда я буду писать что-то, будут моменты когда я буду вставать и идти разминаться, будут моменты для видосов и музыки, и даже для обхода квартиры и смотрения в окно.

❤️ — буду!
👍 — вы все там молодцы
🤔 — а зачем?..

На позапрошлой встрече языкового клуба мы говорили про то, как в командах происходит (или не происходит) обсуждение способов построить совместную работу. Да, мы говорим не только об абстрактных штуках, а иногда касаемся чего-то заземлённого, сами удивлены.

С одной стороны, хорошо, что обсуждение процессов вообще может происходить — такое не всегда случается. Дальше вопрос: сколько времени и сил тратится на это и насколько оно приводит к чему-то? Обсуждать процессы хорошо, но исключительно обсуждать процессы и никак в этом не продвигаться — ну такое.

Способы обсуждения и построения процессов часто спускаются сверху: где-то как-то прочитали, кто-то чего-то узнал и вот теперь делаем так.
Плюс такого наследования стратегий: появляется какой-никакой порядок и предсказуемость.

Минус наследования: мы часто получаем стратегию, но не понимаем машинерию, стоящую за стратегией. Получается карго-культ: мы делаем штуки, чтобы получить хороший результат, но скорее оказываемся очарованы «сильной» стратегией или методом, не задумываясь, для каких условий она работает, для каких нет и почему. В общем, как с чем угодно наследуемым и любой эвристикой — много где хорошо, но нужна хотя бы минимальная ревизия через вопрос "А что и как этот метод делает?".

Если же всё-таки мы идём дизайнить обсуждения сами и сами разбираемся с основной механикой таких обсуждений (Илья всегда топит именно за это) — важно помнить, что цели не существуют вне людей и всегда являются чьей-то собственностью. Нельзя просто так взять и сказать «Вот так делать правильно, а вот так нет», если не понятно, в каких условиях кто-то что-то делает и с какой целью.

Для начала надо создать общую землю: убедиться, что мы понимаем свои и чужие цели; что среди них есть совпадающие. Нужно понять контекст в котором действуют другие — и тогда (и только тогда) у нас появится возможность хорошо обсудить происходящее и быть услышанными. Грубо говоря, если человек ест печенье, а мы говорим «ты так не утолишь жажду, нужна вода» - нам могут кивнуть из вежливости или послать и будут в целом правы.

В позапрошлое воскресение на языковом клубе мы задались вопросом — когда стоит вовлекаться и помогать, а когда скорее нет. Мы обсуждали это скорее в контексте утилитаризма, последствий. Вместе с тем, как мне кажется, тема заряжена разными страданиями вокруг «я хороший или плохой?». Это пригласило меня подумать про этику последствий (консеквенциалистскую) и этику заданности (деонтологическую). Далее — чего я подумал.

Этика последствий предполагает, что ты смотришь к чему приведёт твоё действие, а в этике заданности руководствуешься правилом, которое не всегда хорошо дружит с последствиями, но часто работает в большом количестве случаев. А ещё следование железным моральным правилам помогает мучаться и осуждать себя и других за нарушение этих правил.

Следование этике заданности может нести много бенефитов, в том числе социальных. Оно позволяет хорошо себя чувствовать, если удаётся следовать своду принципов, быть наглядно хорошим для себя и окружающих. Сильная преданность этим принципам может вести к тому, что мы начинаем считать уместным насилие в самых разных формах над другими и собой, получаем моральное право бороться со «злом». Кроме того, мы теряем гибкость и не замечаем, что во многих случаях оказываемся излишне консервативны. В общем, превращаемся в папу из диснеевского мультика — очень хороший, но не даёт главному герою или героине (в нашем случае — себе) проявляться как-то по новому.

Следование этике последствий, помимо бОльшей гибкости, в свою очередь, имеет свою цену. К примеру: изыскивая новые способы действовать, мы можем выглядеть ненадёжными; наши способы не соответствуют общепринятым нормам и нам не доверяют те, кто эти нормы разделяет. Ещё некоторые побочные эффекты отказа (или хотя бы сомнения) от норм: риск отказаться от чего-то на самом деле важного (и узнать это только потом); потенциальная трата сил (много) на то, чтобы выбирать наилучшие сратегии. Словом, можем чаще оказываться растерянными, как протогонисты в тех же диснеевских мультиках.

На мой вкус, этика заданности может быть классной, если не давать слишком много места идеям в духе «плохие люди/хорошие люди» (чтобы не загрызть себя и окружающих). Решения из этой логики могут работать как эвристики, упрощения.
Вместе с тем, важно иметь возможность переключаться в рассуждение более детальное и сложное — вспоминать, что обобщения могут приводить к промахам и задуматься о последствиях и уместности тех или иных правил.

Самая сильная позиция — такая, из которой вы можете взять лучшее от правил и лучшее от гибкости. Вместо того, чтобы выбирать между консеквенционализмом и деонтологической этикой — клёво уметь быть и там и там и осознанно переключаться в зависимости от контекста.

Давно у нас не было мемов.
Недавно у нас тоже не было мемов.
В общем и целом, у нас не было мемов. Теперь есть. Если у вас есть — делитесь. Если у вас нет — держитесь…

В воскресение на языковом клубе мы обсуждали тему нарративов - влиятельных историй, которые мы наследуем из культуры.
Эти вот все идеи о том, чего надо достичь к какому возрасту, чего должны делать настоящие мужчины и настоящие женщины, что такое любовь, какими должны быть отношения, что такое семья, что такое успех и т.д.

Для меня ключевые идеи тут такие:
- Не все нарративы одинаково полезны, но это не означает, что все они вредны;
- Влиятельность нарративов сильно сопряжена с тем, что они невидимы: то есть, мы не замечаем, что в каком-то месте думая о чём-то или проговаривая что-то мы идём по готовому, предзаписанному маршруту: повторяем то, что взяли некритично; отсюда: важно научиться их распознавать;
- Распознавать нарративы легче чем кажется, но навык из ниоткуда не берётся; нужно общаться с теми, кто уже умеет их видеть, распознавать, владеет соответствующим языком;
- "Чужими" нарративы в нас можно называть до того, как мы их увидим и оценим. После того, как они распознаны и прагматически оценены - у нас есть возможность избавиться от них или сохранить в первоначальном или изменённом виде. Тогда они уже стали нашими.

Положим, бабушка бросила шитьё и отдала вам антикварную швейную машину: такую на столике, с двумя кованными педалями. И вот она стоит у вас в прихожей. Она вам нужна? Возможно, нет: тогда вы продадите её или утилизируете.
А возможно да: вы будете на ней шить. Тогда вы найдёте ей подходящее место в доме, сообразно вашим предпочтениям и логике устройства быта. Она просто встанет в нужный угол; или вы что-то в ней отремонтируете/обновите. Так или иначе, чтобы она вписалась в ваш дом, нужно произвести какое-то усилие по встраиванию. В конце концов, ваш дом — это воплощённый ответ на вопрос "А как мне всё устроить так, чтобы это отвечало моим потребностям?".

Так же и с нарративами: даже если это прекрасная история о том, что такое любовь или побуждающая к развитию история о настоящем [подставьте нужный гендер] - важно, чтобы история дружила с остальными историями, не конфликтовала с остальным мировоззрением. Нарратив должен стать для вас частью ответа на вопрос "А как мне устроить свои представления так, чтобы это отвечало моим потребностям?". Иначе, есть шанс споткнуться об него так же, как об швейную машинку в прихожей.

В дружественном канале случился интересный пост на тему отношений.
Когда мы говорим о том, что является обязательным элементом счастливой или полноценной жизни, полезно обращать внимание на то, что во многом наши представления о счастье или полной жизни — наследуются из культуры (кстати, тему наследуемых штук мы постепенно раскрываем на языковом клубе).

Прелесть наследования в том, что за нас уже сколько-то подумали. «Я» оказывается частью «мы» разделяющего общие убеждения, стратегии, ценности. Вместе с тем, не будучи причастными к созданию того, чем мы пользуемся, мы часто не тратим сил на то, чтобы задаться вопросами:
- А вот это из культуры создавалось чтобы что?
- Мне лично это нужно?
- Мне подходит такой результат?
- Подходит ли такой способ получения этого результата?

Убеждения о норме из культуры работают как эвристики: в большинстве случаев срабатывает, но есть погрешность. Поэтому требуется прагматическая оценка наследуемых идей, для которой, напомню, требуется знать обстоятельства и знать предпочтения.

Особенно же всё становится интересным, когда нечто, что звучит как контр-культурная идея (отношения нужны не всем!) само требует рефлексии. Идея может выглядеть как что-то, что обещает освободить, противопоставляется более «традиционным» нормативам, но по сути — так же может ограничить.

В позапрошлое воскресение говорили на языковом клубе про "я" и "мы".
Тема принадлежности к какой-то группе не очень тривиальная. С одной стороны, быть частью какой-то группы может отвечать нашим потребностям в определённости, безопасности, ясности, давать опору. С другой, за принадлежность приходиться платить и цена не всегда очевидна и, как правило, мы платим кусочком свободы.

Некоторые участники клуба (и я в том числе) сталкивались с ситуациями, когда к примеру, кто-то начинает транслировать предубеждения связанные с тем, что ты представляешь какую-то группу. Наверняка вы помните мемы в духе "ты ж психолог" или "ты ж художник". Особенно сильно могут бесить большие-большие обобщения, в духе "ты ж мужик" или "ты как девушка должна".

Кроме того, принадлежать к группе бывает небезопасно, потому что часто люди включают нас в какое-то "мы" с целью затем потребовать какого-то поведения или отношения к чему-то. "Мы с тобой умные люди и понимаем, что вот тут надо поступить вот так" или "ну, если ты нормальный рационалист - странно, что ты читаешь Кастанеду" (если в этом месте вам захотелось сказать "ни один нормальный рационалист так не скажет" - скорее всего вы сколько-то относите себя к этой группе или какому-то подмножеству этой группы и хочется её защищать; а я, если что, и не против).

Меня больше всего зацепила в наших обсуждениях тема "ред флагов". Красный флаг - это стоп сигнал, признак, что там впереди чего-то плохое. Это признак, что с этим человеком, группой или организацией опасно переходить в "мы". Чаще всего это понятие употребляется в контексте романтических отношений, но встречается и что-нибудь в духе "ред флаги при устройстве на работу" или чего-нибудь в духе "признаки, что в вашей дружбе чего-то идёт не так".
Мне нравится, что как и любой другой инструмент, замечание ред флагов может применяться полезно, бесполезно и вредно. Если совсем не замечать тревожных сигналов - будешь вляпываться во всякое. Если замечать их везде и всюду - взаимодействие с миром прекратится, потому что система детекции угроз будет работать всё время.

По понятиям
Хочется сказать про прагматическую оценку. Оценивать чего-то как полезное и вредное возможно только если у нас
1) есть предпочтение (а чего я хочу?)
2) контекст (а в каких условиях я этого хочу?).
Если хочешь быть здоровым - гулять - полезная стратегия.
Но если ты не болеешь вот уже прямо сейчас; и если погода подходит; и вообще зависит от физического и психологического самочувствия; и где именно ты гуляешь - может у тебя в городе дышать нечем. Выходит - иногда полезно, иногда не имеет никаких эффектов, а иногда вредно.
С гулянием всё более менее очевидно, но прагматическая оценка может применяться не только к стратегиям или инструментам: она может применяться и к сложным ментальным стратегиям, к состояниям и убеждениям. Например, мы можем спросить "А вот иметь убеждение о том, что этот признак - ред флаг, однозначный сигнал к прекращению общения - работает на меня или нет?". И чтобы ответить на этот вопрос, то есть, выполнить прагматическую оценку - нужно будет заодно ответить на вопрос "А чего я хочу?" и рассмотреть контекст.