Такой заход (Илья Новиков)

Коннектом не фиксирует даже то, насколько сильно каждая связь на самом деле влияет на сигнал в живом мозге. А в совокупности это всё очень важные для модуляции поведения вещи. Взять для примера более ранний проект — коннектом круглого червя C. elegans: все его 302 нейрона картировали в 1986 году, однако полностью смоделировать поведение (и понимание этого поведения) ученые до сих пор не смогли. 

Получившийся узор биологической структуры, безусловно, несет полезную вычислительную информацию — правда, речь идет об узких, локальных рефлексах, а не о мышлении. В Беркли в 2024 году, например, показали, что если прогнать модель по реальному графу связей мухи и простимулировать вкусовые нейроны, то предсказанная реакция кормления совпадет с реальной примерно в 95% случаев, а стимуляция осязательных путей верно запустит груминг — результат получается лучше, чем на случайно перемешанном графе с теми же параметрами. 

Для чего-то более сложного — например, нормальной ходьбы или полета — чистый коннектом сам по себе почти ничего не дает, и туда все равно подмешивают обучаемые ML-модули; без них мухи в подобных экспериментах просто утыкаются в стены. Смысл работы с коннектомом в том, чтобы понять, сколько поведения всё же зашито в саму биологическую структуру (оказывается, что достаточно мало).

А если одного коннектома недостаточно даже для симуляции полета или передвижения, то как тогда вайбкодеры запрягают муху торговать биточком? На деле все это происходит в очень упрощенной форме. Программист точечно прописывает вход и выход, условно: «если такой-то пиксель на экране зеленый — подай импульс вот на эту, произвольно выбранную мной, группу нейронов», а «если вот эта группа часто выстреливает — считай это командой "купить"». Это ручной код, и муха здесь ничего не «решала». Какие нейроны считать глазами, а какие кнопкой «купить», тоже выбрал человек. Здесь не идет речи ни о считывании более сложных концепций, ни о «понимании» фондового рынка, ни о «различении» демонических врагов в Doom.

Следующая цель ученых — коннектом мыши. Сроки достижения этой цели оцениваются в ~10–15 лет. Так что Матрица, боюсь, тоже наступит не очень скоро.

О том, как муху-дрозофилу учили играть в Beat Saber, и об отличии между картой и территорией. 

Вы все видели эти мемы о том, как отсканированный мозг мухи поместили в тело паука в майнкрафте / научили играть в Beat Saber / подключили к стоковому рынку / научили диджеить / научили играть в дум / посадили листать ТикТоки. Вот тут еще больше примеров. В подписи к таким мемам заявляют о «симуляции мухи», ее умении обучаться, и там же пророчат скорое наступление Матрицы. Я решил разобраться так ли это на самом деле (tldr: конечно, нет, в канале действует политика no fun allowed). 

3 сентября команда HHMI Janelia вместе с Google Research опубликовала MaleCNS v1.0 — полный коннектом (карту всех нейронных связей) центральной нервной системы самца дрозофилы. Ученые впервые картировали абсолютно каждую нейронную связь в мозге и ЦНС взрослой мухи, ~166 000 нейронов. Для этого мозг разрезали на тысячи сверхтонких слоев, каждый сфотографировали под электронным микроскопом, а затем ИИ склеил миллионы снимков обратно в 3D-модель и обвел контуры всех нейронов и мест их соприкосновения.

Получившийся коннектом — это только структура, граф связей. Он относится к настоящему мозгу мухи примерно так же, как карта какого-нибудь материка относится к самой физической местности. Карта дает нам схему, но она не включает в себя, например, описание каждого животного, растения с этой территории, не дает понимание ощущения от ветра, не передает цвет неба при закате. Собственно один из авторов исследования и сам сравнивает результат с Google Maps. 

Вот чего как минимум не хватает в коннектоме для более полной картинки и для, соответственно, приближения к потенциальной симуляции реального сознания мухи:

- Электрических контактов между клетками в обход синапсов
- Гормональной и нейропептидной модуляции
- Способности связей меняться от опыта, то есть пластичности
- Работы глиальных клеток и индивидуальных особенностей каждого нейрона вроде распределения ионных каналов

Папуа-Новая Гвинея была колонизирована австралийцами и датчанами в 1930 году. Долгое время считалось, что все местные живут на прибрежной территории — джунгли были недоисследованы, а горы казались слишком опасными и непригодными для какой-либо жизни. Пока в 1933 рандомные австралийские голд-диггеры (два брата по фамилии Лихи) не нашли в горах полностью изолированную от внешнего мира общность численностью примерно в миллион человек.

То есть пока в развитых странах переживали великую депрессию, оптимизировали поставки пеницилина и искали применение турбореактивному двигателю, жители затерянной горной долины Ваги в центральном нагорье Папуа выживали разводя свиней, выращивая бананы, обмениваясь ракушками и нападая на поселения друг друга.

Они приплыли в эти земли примерно 50 000 лет назад, двигаясь к Папуа из Центральной Азии, прямо по островам Индонезии. Они занимались земледелием за тысячи лет до египтян. Но даже спустя четыре с половиной тысячи лет после возведения пирамид они продолжали вести хозяйство, используя те же ограниченные технологии. Из-за отсутствия сколько-нибудь значимых связей с остальным миром и низкого качества природных ресурсов земледелия у них не было ни возможности перейти на более высокую ступень развития, ни возможности выйти за территорию гор. Тотальная изоляция на протяжении тысячелетий.

Эти жители даже никогда не видели моря — они верили, что ракушки — символ высочайшего статуса — падают с неба.

Конечно вслед за австралицами в регион прилетели и исследователи. Они включали местным виниловые пластинки, зеркала, катали детей на самолетах. Там было много интересных ситуаций. В большей степени они были не очень этичными: группы исследователей стреляли в местных из огнестрельного оружия или принуждали их добывать золотую руду. Одна из таких историй была связана с драгоценным ракушками.

Помните Мосс писал в эссе о даре про укрепляющий солидарность тробрианских островитян обряд кула — когда местные по кругу обменивались ракушками и ожерельями? На Папуа-Новой Гвинее тоже был похожий обряд. Опять же, ракушки были здесь раритетом и очень высоко ценились местными. Узнав про это, исследователи чтобы показать какие они крутые, привезли с собой в виде подарка целые мешки ракушек, а также изысканные европейские ожерелья. Всё это привело к гиперинфляции ракушек в регионе и они почти полностью потеряли свою символическую ценность.

Про всё это есть хороший блог-пост, откуда я изначально и узнал про эту историю. Также есть книга — её я скину в комменты. И есть получасовой документальный фильм с архивными записями, где местные делятся своими воспоминании о том, как это всё воспринималось с их стороны.

Уже полтора года думаю о том, что хотел бы посмотреть, как Михаил Соколов на вопрос «В чем сила?» отвечает «В слабых связях»

Сачмен рассуждает о том, что мы никогда не следуем планам напрямую. В обыденном языке принято говорить "действуем по плану" или спрашивать "у тебя же был план — что в этом сложного?" или "подготовь план и всё будет хорошо". Однако на деле в повседневной жизни — если об этом задуматься — оно никогда так не работает. Подобная конструкция работает таким образом только в языке.

На деле ни одну ситуацию нельзя схватить планом заранее. Каждая жизненная ситуация уникальна и требует решения простых или сложных новых задач в моменте, ситуативно. План в таком случае всегда работает не как зашитая и бескомпромиссная инструкция (поскольку если бы это было так, то люди не могли бы адаптироваться на ходу или их действия всегда были бы полностью предсказуемы), а как сторонний ресурс, к на который можно ориентироваться (а можно не ориентироваться) в ходе непосредственного действия.

Получается рифма с идеей Витгенштейна о несоответствии между практикой и правилом; и с его проблемой финитизма, из-за которой ни одно правило никогда не может всецело описать ни одну ситуацию. Правило — это абстракция, и она никогда не равна практике. И тем не менее правила и практики как-то связаны.

Собственно из-за этого возникают недопонимания, когда у нас принято удивляться провалам (своим или чужим) в базовых ситуациях, для которых — казалось бы — был подготовлен подробный план или было дано полное описание. "Иди за сарай из поверни оранжевый рычаг а потом накрути на шланг насадку" — ты заходишь за сарай, видишь непонятно что, проводишь комплексую мыслительную операцию по попытке определить что из увиденного является "оранжевым", "насадкой" и "шлангом", делаешь какую-то фигню и возвращаешься ни с чем. И еще сотни подобных ситуаций, когда всё вроде просто и буднично, а на практике настоящий челлендж.

Сачмен сравнивает два типа размышления о планах. Европейские мореплаватели — пишет она — относились к планам как к необходимому условию успешного путешествия. В своих дневниках они описывали долгие подготовки маршрута и попытки предугадать трудности — само же мореплавание представляло из себя попытку этому плану следовать. В то же время меланезийские лодочники никогда не планировали свои сплавы — для них это было немыслимо. Потому что не оказавшись в самой ситуации, не посмотрев на поток воды, на цвет неба, не послушав стрекот букашек — фиг ты вообще поймешь что тебе делать.

Будьте как меланезийцы: будьте адаптивными, не полагайтесь на планы слишком сильно и слушайте стрекот букашек.

Люси Сачмен в «Реконфигурации отношений человек — машина» ни разу не ссылается на Витгенштейна (и я у нее даже не нашел ни одной статьи про него), что очень странно, потому что его отголоски сильно чувствуются. Разница только в том, что рассуждения о следовании правилам она переводит в регистр реализации планов.

Базово она рассуждает о куче фундаментальных для социологии вопросов: как мы связываем действие и план, по которому оно совершается? насколько подготовленный заранее план детерминирует действие? всегда ли действие совершается по плану? может ли план действия возникать в самом процессе и может ли он меняться? как люди считывают планы друг друга во взаимодействии и как это считывание аффектит сами планы?

И эти рассуждения она затем накладывает на конкретные прикладные примеры, а именно на кейсы инженерии компьютерных систем в 90е и кейсы взаимодействия пользователей с ними. Поскольку именно развитие компьютеров заостряет интересующие ее проблемы: раньше люди взаимодействовали (этот термин — взаимодействие — изначально был метафорой, которая пришла в социологию вообще из физики) только с друг другом, а все остальное они использовали. Развитие компьютерных систем привело к тому, что мы смогли говорить о взаимодействии человека и машины. Вот только что тогда является необходимым условием взаимодействия? И насколько схоже человеческое взаимодействие по плану с взаимодействием машины, в которую тоже заложен определенный план?

Круто, что за этими вопросами у Сачмен кроются вполне прикладные цели: компьютерные системы только-только начинают массово распространяться и их каким-то боком надо дизайнить так, чтобы они объясняли сами себя, были адаптивными, следовали заложенному в них плану действия и в то же время подстраивались под план пользователя и в то же время чтобы заложенный в них план схватывался пользовательским планом и наоборот. Короче вопрос в том, как сделать так, чтобы взаимодействовать с компьютером было круто.

Объясняет Сачмен это на примере этнографии в компании Ксерокс.

Если бы я прочитал «The Disposessed» на полгода раньше и у меня хватило бы мотивации, то обо всём этом даже можно было бы написать статью в выпуск НЛО об антропологии будущего, который вышел сегодня. Этого не произошло, что, однако, не отменяет крутости выпуска.

https://t.me/nlobooks/7337

Беглый бэкграунд-чек сразу же дает понять, откуда ноги растут. Родители Урсулы — именитые деятели социальных наук. Её отец — Альфред Луис Крёбер (на первом фото он стоит посередине) — учился у Франца Боаса — одного из основателей американской антропологии. В Беркли Альфред был главой кафедры антропологии, которую он сам же и создал. За свою жизнь он написал кучу статей и книг по культурной антропологии и истории культур, среди которых, например, статья «The Superorganic» 1917 года, где он писал о соотношении индивида и надорганической культуры в социальных науках еще до того, как это стало модным; или «Handbook of the Indians of California» 1925 года — культовая коллекция этнографических наблюдений о десятках калифорнийских индейских народов.

Мать Урсулы — Теодора Крёбер — познакомилась со своим суженым как раз в Беркли на докторской программе по антропологии. Её труды были сфокусированы на индейских калифорнийских легендах и мифах. Её главная и самая известная книга — это биография Иши — последнего представителя народа яхи Северной Калифорнии, с которым дружил и которого изучал её муж между 1911 и 1916 годами.

Урсула вполне очевидно унаследовала антропологический взгляд от своих родителей. А от неё этот взгляд, в свою очередь, передался и Шевеку, который, несмотря на специализацию в физике, всегда мыслит как человек, у которого за спиной как будто бы уже есть богатый опыт чтения социологических классиков с планеты Земля.

То есть Ле Гуин в захватывающий научно-фантастический роман с первых страниц зашивает вопросы об эмансипации женщин, о конструировании реальности посредством языка, о взаимосвязи культуры и средств производства. Это троянский конь, который снаружи похож на космический корабль, а внутри прячет проблематики, созвучные с идеями Витгенштейна, Иллуз, Маркса и Дюркгейма. Причём Ле Гуин идёт дальше простого упоминания сложных вопросов — она включается в воображаемую этнографию(™️) и на примере Анарреса предлагает собственное видение того, «как могло бы быть и что нам надо было бы изменить для этого в устройстве наших социальных институтов».

Это и есть самая фантастичная часть романа. Не космические корабли, не ломающая голову архитектура. Поверить в Анаррес — планету равенства без денег и иерархии, где поддерживается порядок несмотря на то, что каждый всегда может делать, что ему заблагорассудится — оказывается сложнее, чем в технологически продвинутый Уррас.

Киберпанковский сборник рассказов «Burning Chrome» Вильяма Гибсона начинается с занятного предисловия Брюса Стерлинга. Стерлинг пишет, что к середине двадцатого века жанр научной фантастики впал в кризис. По его словам, к этому моменту всем осточертели оптимистичные истории об инопланетных расах, покорении космоса и инновациях человечества — читателям хотелось жести. Собственно поэтому считается, что Вильям Гибсон вместе со своими современниками вдохнул новую жизнь в жанр. Вместо того чтобы давать максимальную волю фантазии, авторы «второй волны» научной фантастики сосредоточились на более приземленных человеческих проблемах. В романах стали подниматься темы социального неравенства, объективизации труда и объективации человеческого тела. При переносе в киберпанковские миры будущего эти и так хорошо понятные проблемы заиграли новыми красками и ощущались еще более выпуклыми.

К этой самой второй волне можно отнести и Урсулу Ле Гуин. В ее романе «The Disposessed» действие происходит на двух планетах: Уррасе — условно продвинутой Земле будущего с многовековой историей, развитыми технологиями и исчерпанными природными ресурсами — и Анарресе — пустынной планете переселенцев-хиппи-социалистов-анархистов. В первой главе протагониста истории — физика Шевека, уроженца Анарреса — перевозят на космическом корабле «Mindful» с Анарреса на Уррас. Его изолируют в каюте и приставляют к нему врача Кимое с Урраса. Шевек раньше никогда лично не контактировал с уррасианцами. При первой же возможности они вступают в диалог.

Конечно, сначала их интересуют довольно понятные вопросы: как устроены космические корабли на каждой из планет, как выглядят пейзажи, насколько развиты технологии. Но дальше они переключаются на вопросы социального устройства. Например, они обсуждают вопросы гендерного равенства. На Анарресе женщины и мужчины равны, они могут выполнять одну и ту же работу, во всех профессиях разделение труда получается примерно равным. На Уррасе женщины не могут претендовать на высокие позиции или заниматься наукой — врачу это кажется немыслимым.

«Is there really no distinction between men's work and women's work?»

«Well? no? it seems a very mechanical basis for the division of labour, doesn't it? A person chooses work according to interest, talent, strength — what has the sex to do with that?»

«Men are physically stronger,» the doctor asserted with professional finality.

«Yes, often, and larger; but what does that matter when we have machines? And even when we don't have machines, when we must dig with the shovel or carry on the back, the men maybe work faster — the big ones — but the women work longer... Often I have wished I was as tough as a woman.»

Или, как оказывается, жители Урраса работают на тех работах, где им больше платят. А на Анарресе каждый выбирает себе ту профессию, к которой лежит его душа, и имеет право в любой момент сменить род деятельности, если почувствует, что это «не его». Для обозначения «работы» и «игры» тут используется одно и то же слово.

Шевек вообще много внимания уделяет языку. Например, на Анарресе не существует слова «ебать» или «трахать» — есть только более взаимное и равностороннее «copulate». Самое близкое по смыслу к «fuck» слово на самом деле по значению ближе к «rape». Здесь также нет слов, означающих владение — вместо «это моё, а то — твоё» тут говорят «ты используешь это, а я использую то». Рассуждая об иерархии, вместо «выше» и «ниже» они говорят «ближе» и «дальше» от центра.

Посмеялся с мемов о том, как в разное время мог выглядеть пейзаж из «Нейроманта» Гибсона — тот самый, где the sky above the port was the color of television tuned to a dead channel ("Небо над портом было цвета экрана телевизора, настроенного на пустой канал"). И правда, что за цвет? У Геймана в Neverwhere есть прямая отсылка с уточнением: "The sky was the perfect untroubled blue of a television screen, tuned to a dead channel." Синий был характерен для телевещания нулевых, но Гибсон поделился в соцсетях, что воображал сплошную пасмурную серость, современную книге.

Потом вспомнил, что такая связка явления-цвета-культуры была в античности — гомеровское «винно-темное море» из «Одиссеи» в свое время прилично озадачивало ученых и любопытных читателей. Что это за цвет? У wine-dark sea даже своя статья на Википедии есть. Доходило до совсем экзотических гипотез вроде загрязнения воздуха и массового дальтонизма у греков.

Про это как-то обстоятельно написали в Clarkesworld . Например, что в древнегреческом языке нет слова «синий» — у Гомера ни разу этот цвет не упоминается, есть только kyanós ("темный"), который закрепится за синим уже позже. С цветами там вообще странно: палитра у Гомера ограничивалась пятью цветами (металлик, черный, белый, желто-зеленый и красный); Эмпедокл столетия спустя считал, что все цвета сводятся к белому/светлому, темному/черному, красному и желтому. «Илиада» и «Одиссея» рисуют пейзаж не менее чудной, чем у Гибсона: овцы тоже были цвета вина; мед — зеленый; небо иногда бронзовое.

Известную теорию на этот счет предложил премьер-министр и антиковед Уильям Юарт Гладстон. Он проанализировал использование цвета Гомером в Studies on Homer and the Homeric Age 1858 года и предположил, что древние греки воспринимали цвет не столько через цветовой тон (красный, синий или зеленый), сколько через яркость (светлое/темное).

Позже, в 1860-х, теорию достроил немецкий филолог Лазарус Гейгер, включив Веды, Коран, еврейскую Библию, ранние исландские и китайские источники — синий цвет не упоминается ни в одном из текстов. Гейгер предпологал, что цветовая терминология во всех языках развивается в универсальной последовательности: начиная со слов для обозначения темного и светлого, за которыми следует красный, затем желтый и зеленый, причем синий неизменно появляется последним. Звучит стройно, но непонятно, по каким принципам так получается.

О работах Гейгера вспомнили спустя столетие, когда антрополог Брент Берлин и лингвист Пол Кей опубликовали Basic Color Terms: Their Universality and Evolution. Они предложили ту же иерархию цветов, добавив в качестве следующих этапов коричневый, фиолетовый, розовый, оранжевый и серый. Гипотеза относительно последних цветов с тех пор утратила популярность, но последовательность черного, белого, красного, желтого, зеленого и синего цветов остается неизменной. Объяснять это с тех пор пытались по-всякому: например, сначала нужно разметить в языке разницу между ночью и днем, а ночью без мощных источников света все кажется темным; про красный нужно говорить, потому что кровь, и так далее.

Еще в 2007-м в PNAS опубликовали работу Russian blues reveal effects of language on color discrimination — не про русский блюз, а про голубой и синий. Писали, что светлые тона синего русскоговорящие и правда определяли лучше лучше, чем англофоны. В плане цветов русский оказывается ближе к греческому из-за зафиксированного в языке различия между светлым и темным хотя бы в случае синего.

В общем, как же хорошо, что сегодня можно легко договориться и выкрасить небо в #1C4F8C.