Progresspunks

If builders of LLMs and other huge models say that it is impossible to comply with copyrights on all data they parse across the entire internet, so then maybe they also should not be able to copyright their own products at all? 🙈

(Им и так хватит их преимущества в виде кэша на бездну GPUs )))

Месяц назад я делал доклад на Datafest Yerevan про NLP в 2023.

Видео пока ещё не готово, но слайды тут:

https://docs.google.com/presentation/d/1gpJI83p_FYvQt7Qog7B4zGf2fUYNq_m-PndPe2syXe0/edit

сегодня, когда воинственная религиозная диктатура напала на до зубов милитаризованное пост-фашистское государство, занимающее десятое место в мире по экспорту оружия, продающее самым адским авторитарным режимам цифровое оружие типа pegasus и устроившее апартеид на палестинской территории, хочу напомнить про свой текст для Kit о связи/взаимозависимости патриархата и войны.

вопрос об определении ответственности за развязывание и ведение войны всегда очень сложный, и несмотря на то, что у президентов, генералов, офицеров, солдат, производителей, заказчиков и экспортеров оружия, операторов дронов и пропагандистов есть конкретные имена, в языке неизбежны этно-национальные и политические абстракции типа "россия запустила ракету". + любой, кто хоть мизинчиком касался conflict/war studies, понимает, что конкретные агрессоры всегда вписаны в более сложную сеть социальных и культурных отношений и установок, которые определяют их действия и позволяют им быть. они являются и жертвами, и продуктами, и выгодополучателями этих сложных систем. игнорировать существование этих систем (e.g. патриархата) и думать что всё дело в конкретных властях — значит отдалять мир без вооружённых конфликтов. в вопросе определения ответственности за войну мы можем немножко упростить себе задачу, если будем помнить, что за развязывание и ведение войны в большинстве случаев ответственны мужчины.

поведение и мотивы массовых убийц, которых по инерции продолжают называть мировыми лидерами, — это до сих пор, в худшем случае, паттерны двачера, для которого самое страшное что его назовут пидором или куколдом, в лучшем — паттерны отца семейства, который providing for his family, распространяя логику семьи на nation-state. и то, и то ужасно. традиционные мужские ценности типа силы, достоинства, чести, невозможности показать слабость или уязвимость, патернализм — это то, что в огромной степени делает возможным развязывание военных меж/внутринациональных конфликтов. мужской отчуждённый этос — причина и гендерного насилия, и существования политических систем, где одни люди чувствуют себя вправе отправлять других людей убивать и умирать. чем дальше вы продолжаете инвестировать в мужское на частном уровне, тем дальше вы инвестируете в войну. а пиздёж про "новую маскулинность" — это как снять с танка пушку и юзать его в сервисе такси. нельзя вынуть из явления всё плохое и оставить хорошее, если всё плохое — foundational для этого явления. я кстати не знаю what's next for men в плане идентичности, интересный вопрос, но текущая деградация маскулинности меня устраивает, очень жаль что так медленно.

Петля

В связи с очередным палестино-израильским конфликтом из всех щелей полез нарратив "цивилизация против варварства". Я даже прослезился, вспомнив как любил этот нарратив, будучи радикально правым, и как топил за Израиль в любой непонятной ситуации. Но розовых пони любить пристойно только в детстве, во взрослом возрасте уже не очень. Поэтому давайте разберемся, что это за "цивилизация" и "варварство"?

Варварство - это когда религиозные фанатики расстреливают людей перед камерами, возят полуголых избитых девушек по улицам на потребу толпы. Это мы видим нынче. А что такое цивилизация? Цивилизация - это когда запущенная с дрона ракета влетает в дом, не оставляя от него камня на камне. Это мы тоже уже видим, а через недельку увидим еще больше. В первом случае кровь может забрызгать объектив, во втором - слишком далеко для этого. Насилие в исполнении варваров - индивидуальное, вещественное, близкое. Насилие в исполнении цивилизации - далекое, отчужденное, автоматическое. Первое называется терроризмом, второе - высокоточным оружием. У террористов жертвы, у цивилизации - сопутствующий ущерб. Терроризм откровенно ужасен, цивилизованное насилие устроено так, что его ужас легко не замечать. Палестинское варварство подарило миру школу терроризма, выстрелившую повсюду - от России до Японии. Израильская цивилизация подарила миру систему распознавания лиц, программу "Пегас", бессудные убийства и тайные тюрьмы - все то, что потом брали уже на вооружение американцы с европейцами. Ну и наши местные тоже.

Цивилизация и варварство - это созависимые отношения. Одно определяет себя через другое. И нуждается в антиподе для подпитки. Израильская политика содержит в нищете и бесправии два миллиона человек, которые становятся превосходной вербовочной базой для ХАМАС. Израильские бомбы и ракеты разрушают не только дома - они разрушают традиционный уклад жизни. Этот вакуум, опять же, заполняет ХАМАС - подменяя этот традиционный уклад свежеиспеченным исламским фанатизмом. В ответ за это ХАМАС нападает на Израиль. Имея под боком такую угрозу, израильские военные и спецслужбы получают поддержку общества и огромные бюджеты, которые идут на бомбы, ракеты и программы слежки. Все это они обрушивают на Палестину, где создают кормовую базу для ХАМАС. И дальше все идет по кругу. Такую войну легко представить как торговые отношения, где одна сторона поставляет террористов, вторая - бомбы и ракеты. В итоге обе стороны, ХАМАС и ЦАХАЛ - в плюсе. В минусе: миллионы арабов и евреев, пойманные в этот замкнутый круг.

Нынешний очередной виток цикла напоминает тщательно срежиссированный спектакль (неважно режиссировал ли его кто-то или само так совпало). Всесильный "Моссад" не замечает подготовку к запуску 5000 ракет из говна и палок, дивизии охраняющей границы не оказывается на месте. Зато на границе оказывается рейв-фестиваль с кучей европейцев, которые попадают под замес. Видео, где полуголая немецкая девушка с переломанными ногами то ли жива, то ли мертва в кузове арабского пикапа, обходит интернет. Теперь палестинской крови жаждут не только евреи, но и добрая половина мира. Все люди доброй воли на фейсбуке цепляют себе израильский флаг. Даже отметая коспирологию, сложно не подивиться, какой идеальный получился "Перл-Харбор". Главное, что теперь еще долго региону не светит ничего кроме насилия. А значит сегодня куется фундамент для насилия будущего.

Как выбраться из этой петли, работающей по одному сценарию многие десятилетия - вопрос сложный. Тем более, что обсуждения здесь натыкаются на обвинения в поддержке варварства и террора. Но говорить об этом необходимо именно потому, что мы хотим покончить с варварством и террором. И потому что влияние петли не ограничивается Ближним Востоком. Палестина приходит к нам в виде Беслана и Норд-Оста. Израиль приходит к нам в виде произвола силовиков и программы "Пегас" на смартфонах российских журналистов. Поэтому хотелось бы, чтобы евреи с арабами разгребли свое говно и оно перестало растекаться по миру.

Тут интересная рефлексия о макро-трансформации VC за последние декады от Scott Galloway, что супер-много денег в late stage и задерживание в выводе компаний на public markets с целью закепчурить весь апсайд превратили tech IPOs в подобие ICO:
- 10 лет назад было 39 unicorns, сейчас 1221
- Последние 3 г. post-IPO performance -50%
- В 1980 г 78% IPO были прибыльные компании, в 2021 - 10%
- За 40 лет доля free float упала с 30% до 15% - нужно для искусственного создания scarcity и выше спроса на акции в IPO
- Который удовлетворялся в тч и direct deals до IPO
- Это сопровождалось раскруткой хайпов для ритейл инвесторов всеми в тч Robinhood и CNBC
- В 1981 г два класса акций были у 3% IPO, а сейчас 50% tech так делают
- Супербольшие VC задерживают IPO до тех пор пока the company is strong but mature & the returns from its growth phase are fully harvested, or its model is suspect & existing shareholders need to deploy a series of false signals to greater fools so they can fling feces at tourists to the unicorn zoo

Изобретатель теории квантовых компьютеров и сторонник идеи что знание в масштабах Вселенной развивается бесконечно Девид Дойч тут очень красиво отвечает, по сути, всем алармистам про все что угодно. Цивилизация умеет адаптироваться, пусть иногда и с задержкой

А кто у нас в нейронках шарит?

Тегмарк опубликовал статью, дескать в сетке образуются (пространственные и временные) нейроны, отвечающие за формирование модели мира

Но

Это разве не натягивание совы на глобус?

Под его определение модели мира можно чуть ли ни все притянуть, не? «coherent model of the data generating process -- a world model»

Вот как вы считаете, в нейронках распознавания лиц репрезентации конкретных персон можно же тоже отнести к построению модели мира нейронками? (тк нейронки выделяют уникальные объекты в мире, и какая разница - это континенты или время (= последовательность событий друг за другом) или люди итп)

Ну то есть уникальные люди для него не модель мира, а континенты - модель мира. Выглядит как bias, не? )

#про_ИИ #про_науку

Внезапно кул стори про разницу между ИИ-хайпом и суровой реальностью. Помните, пару лет назад был страшный кипеш по поводу гугловского AlphaFold'a, который [предположительно] решил эпохальную проблему свёртывания белков?

Собственно, это была первая заметная (читай - запущенная вендорами) волна хайпа по поводу генеративного ИИ: хоронили всех структурных биологов чохом; пророчили революцию в медицине - в общем, было всё то же, что нынче с ChatGPT.

А когда информационная пена осела, оказалось, что:

1️⃣ Реальная проблема фолдинга белков - не в предсказании формы, как рассказывает всем Google (и прочие товарищи в полосатых купальниках, продающие генеративный ИИ); реальная проблема - в предсказании функции получившегося белка. Ну потому что если вы не знаете, что этот белок делает, то зачем козе этот баян, кроме как на побаловаться.

2️⃣ Сомнительная польза AlphaFold в этой части связана с тем, что ИИ не обучен анализировать связывание лигандов; проще говоря - не работает с межмолекулярными взаимодействиями белок / рецептор, которые, собственно, и определяют производимые эффекты (физиологические, биохим и пр.). Можно ли его вообще этому обучить, вопрос открытый; вероятно, можно, но пока этого не произошло.

3️⃣ Результаты работы AlphaFold невозможно толком проверить - моделей слишком много; а до тех пор, пока статистически значимое количество моделей не будет проверено в пробирке, ничего утверждать нельзя - и лучше бы ничего из этого не продавать медикам и фармацевтам (кстати, по итогам того, что успели проверить, высокоточными оказались примерно 35% полученных моделей; не говоря уже о том, что IRL существует больше типов белков, чем те, на которых его обучили: в модели, например, не учтены микробные белки, - и как с этим жить, тоже пока не понятно).

4️⃣ И вишенка на торте: все эти прекрасные результаты (тм) были получены только потому, что Google DeepMind тупо использовал открытую базу данных по белковым последовательностям UniProt, которую международный консорциум биотех-институтов кропотливо собирал аж с 1986 года. Так что не удивительно, что бедный Google вынужден был сделать AlphaFold общедоступным; попробуй он его продать, его бы с потрохами сожрали.

Учёные - люди очень вежливые, и никто, если я правильно помню, публично и нецензурно на эту тему не высказался. Но на конференциях и прочих проф обсуждениях биологи периодически делают 🤦🏻‍♀️🤦🏻‍♀️🤦🏻‍♀️. Правда, тут же добавляя, что AlphaFold - это хорошо, это первый шаг ТМ и прочее в том же духе.

Люблю такое.

Нобелевская неделя продолжается.

Лауреатами по физике стали Пьер Агостини, Ференц Крауз и Анн Л’Юйе за экспериментальную разработку технологии сверхкоротких лазерных импульсов, позволяющей заглянуть внутрь атома.

В 2001 году будущие лауреаты независимо друг от друга провели успешные эксперименты, которые фактически заложили основу нового научного направления - аттосекундной физики.

⏱ Аттосекунда - одна триллионная доля секунды (10 в минус 18 степени секунды). Как поясняет сам Нобелевский комитет, в секунде столько аттосекунд, сколько секунд в истории вселенной (да, в сложно поверить, но факт остаётся фактом). Именно в таких крошечных промежутках времени в материи происходят процессы на уровне атомов и электронов.

Агостини, Крауз и Л'Юйе создали технологию, позволяющую генерировать сверхкороткие лазерные импульсы, позволяющие зафиксировать взаимодействия между отдельными элементарными частицами, то есть фактически заглянуть внутрь атома. В 2003, например, группа Л’Юилье установила рекорд, создав самый маленький лазерный импульс длиной всего 170 аттосекунд.

"Мы можем теперь открыть дверь в мир электронов. Аттосекундная физика дает нам возможность понять механизмы, которыми управляют электроны. Следующий шаг – их использование", - отмечает председатель Нобелевского комитета по физике Ева Олссон.

Немного об уроках истории.

Если кто не знал -- к началу 1943 года у США и Британии было настолько мало запасов пенициллина, что провести формальные клинические испытания его на человеке не представлялось возможным. Даже более того -- для спасения жизни первой американской пациентки, которая успешно испытала на себе пенициллин (у неё был сепсис после криминального аборта), была израсходована ПОЛОВИНА всех тогдашних запасов пенициллина в США. А доставляли пенициллин из университетской лаборатории к месту лечения той пациентки в госпитале -- под вооружённой охраной 🙂

И вот, на фоне войны американская FDA пошла на абсолютно беспрецедентное для себя решение -- вопреки собственным же бюрократическим правилам, FDA в начале 1943 года выдала пенициллину регистрацию без формальных клинических испытаний, только лишь на основании всего нескольких известных тогда случаев, когда пенициллин спасал жизнь пациентам с сепсисом или раневой инфекцией.

А потом, тоже в начале 1943 года, был такой эпизод. Президент Рузвельт собрал у себя глав примерно 20 крупнейших на тот момент фармацевтических компаний США и Британии -- Merck, Pfizer, Abbott, Bristol Myers и т.д. И произнес перед ними речь, в которой сказал: "Америка и союзники должны победить. Демократия должна победить. Но чтобы выиграть эту войну -- нам нужен пенициллин. Нам нужно очень много пенициллина. Американское государство готово платить вам -- всем, кто возьмется за его производство -- двадцать тысяч долларов за каждый флакон пенициллина, за каждый миллион единиц".

В итоге -- почти все доступные производственные площади всех двадцати фармкомпаний-участников The Penicillin Group -- были заставлены огромными чанами с пенициллиновой плесенью. А их штатные учёные 7 дней в неделю, без выходных и праздников, занимались селекцией более производительных штаммов плесени.

Уже к июню 1943 года пенициллина было столько, что армия США снизила закупочную цену на него с 20 тысяч баксов за флакон 1 млн единиц -- до 200 баксов за флакон. А к 1945 году -- до 20 центов за флакон 🙂

Это к вопросу о сегодняшних попискиваниях антиваксеров — мол, "вакцины от ковида были недостаточно плотно испытаны". А пенициллин ВООБЩЕ не был формально испытан на момент регистрации (РКИ провели уже потом, в спокойной послевоенной обстановке). И что? 😊

Интернет встрепенулся (второй раз за день). GPT-4V забыт как детский сон. Open X (коллаборация 21 топовых университетов) дропнули пейпер и гигамодель для генерализации "воплощения" (embodiement) роботов.

Подобно тому как обучение на триллионах токенов создало универсальный NLP алгоритм (LLM), а обучение на терабайтах картинок создало универсальный графическую модель, теперь тот же принцип был успешно применён к робототехнике в новой модели RT-X.

Раньше ИИ модели создавали кастомно под задачи робота (управлять машиной, складывать детали, готовить еду, копать ямы). Здесь представлена модель, которая универсально управляет роботическими руками и умеет выполнять 1,5 миллиона отдельных задач без ручного обучения каждой из них. Роботы, не видевшие раньше задания, такие как "сложи", "возьми", "отсортируй", "налей", "переверни", "открой дверь", "подмети за собой" с первой попытки успешно их выполняют.

Если GPT — это генерализация логических и когнтивных задач (операций с битами), то эта штука — генерализация задач взаимодействия с физическим миром (операций с атомами). В робо-руках, управляемых RT-X, проявились эмерджентные свойства и умение выполнять задачи, которыми их не тренировали. Подобно тому как GPT может ответить на вопрос, который он никогда не видел. Технически это называется "cross-embodiment learning". Модель, кстати, с открытым кодом. Но, как мы знаем, все что Open рано или поздно становится не очень.

Так что, let's fuuucking go, hail to your robot overlords.

Интернет всполошился. Вчера вышел 166-страничный репорт о возможностях GPT-4V. Оказалось, что GPT не только помножил на ноль почти все продукты в области NLP за последние годы, но и с ноги ворвался в Computer Vision, где сидели бородатые завсегдатаи, пили пиво и были уверены что "уж нас-то ваши эти трансформеры не тронут" (с).

Оказалось, что помимо простого "опиши что на картинке" GPT имеет глубокое понимание визуального и текстового контекста. Умеет определять темпоральный контекст. Знает как распознать и корректно идентифицировать эмоции людей. Прекрасно решает взиуальные логические задачи. Ставит корректные диагнозы по КТ и МРТ снимкам. Может дообучаться, в том числе на few-shot примерах прямо в промте. Анализирует графики. Распознает ингредиенты в блюде. Распознает конкретных людей. Понимает схемы, диаграммы, формулы, в том числе нарисованные от руки. Умеет выполнять навигацию по графическим элементам дизайна. Умеет принимать решения о навигации робота в реальном мире по двухмерной фотографии.

Но, главное, это вообще не какая-то другая модель. Это часть GPT-4 и, соотвественно, все что уже работает внутри GPT (промтинг, RAG, агенты) автоматически работает и для GPT-4V.

Для меня этот пейпер звучит как дикая фантастика 20-летней перспективы. Если бы OpenAI не анонсировал, что продукт будет доступен всем через месяц. А многие в твиттере уже имеют к нему доступ.

Вот тут Леша из Ai Happens рассказывает о примерах для бизнеса, а Сергей из Метаверсище и ИИще про кейсы в психологии и эмоциальном интеллекте.