Progresspunks

Получается, у нас может быть некое сражение двух концепций, AI против web3?

- Тексты от chatGPT и прочих генераторов, а также сгенерированный видео контент

И

- Источники информации с подтвержденной репутацией, автоматически отслеживаемой на блокчейнах

Да, пока люди все еще поддерживают целостность контента на Википедии
Но
Фундаментально и им потребуется механика credibility инпутов, кто вносит правки/дополнения

Но, на мой взгляд, фундаментально проблема связана с когнитивной ленью только части людей, которые виралили фэйки и 10 лет назад, когда AI не просматривался даже на горизонте

Я не разделяю опасения всяких nonprofits и властей, что дескать пропаганда по всему миру станет очень кастомизированной, и поэтому сокрушительной. Потому что когнитивно ленивым людям ничего не поможет - они и так сами рады влезть в пирамиды, послать смс от своей карты мошенникам в социальном инжиниринге, являются зрителями теорий заговора от qanon итд итп

Мне кажется, мы должны позволять людям жить в картине мира, которая им лично откликается. Они все ходили в школу (= знакомились со всем, что цивилизация знает в данный момент),
Но
Все равно виралят фэйки

В демократическом обществе мы не можем лишать других права на обладание точкой зрения, которая им, почему угодно, близка. Их право. Более того, если в популяции процент таких людей большой (условно, это десятки процентов) - значит эволюции это зачем-то нужно. Возможно мы позже, задним числом, поймём зачем.

70% американских подростков никогда не открывает фэйсбук
И
80% никогда не открывает твиттер

40% никогда не открывает инстаграм ИЛИ Snapchat

Но

YouTube - используют абсолютно все подростки

Ушла эпоха )
А
Также [короткие] видео победили все прочие [текстовые] форматы

Жаль в этом отчете нет Телеги )

https://www.pewresearch.org/internet/2022/08/10/teens-social-media-and-technology-2022/

Мне кажется это фундаментальная проблема, что:
- биологические системы сложны
- и системы из множества агентов (сообщества, страны, мир в целом) - тоже сложны

Эволюция миллиард лет “училась” наращивать complexity, ей это удалось, и теперь реверс-инжиниринг этого совсем непрост
А
Поведение сетей, состоящих из множества агентов - это же тоже был способ еще больше (скачкообразно) увеличить complexity, просто “взорвать” размер комбинаторного пространства )

Steve Wolfram про клеточные автоматы (cellular automata) писал, это называется проблема computational irreducibility - что сложно сделать более простой, компактный, меньший по объему алгоритм (то есть который будет проще),
Но
Который все равно успешно предскажет поведение более сложного алгоритма. И, говоря максималистски, «самой лучшей предсказательной симуляцией вселенной является она сама»

Тело человека (или другого живого существа) ведет себя, при взаимодействии с внешним миром, механистично, но закодирована эта механистичность итерационно созданным алгоритмом. Поэтому нельзя его просто так взять и дизасемблировать, у него просто не было исходного кода, из которого его компилировали:
- Код создавался перебором, итерационно, запуском множества instances
а
- Верификатором (пускать ли код подкручивать дальше) была внешняя среда: физическая среда (гравитация, минералы, солнечная активность итп), другие агенты (от клеток до особей нашего вида и других видов), экосистемы всех этих агентов

блин, каждый день пытаются прислать троян в архиве и угнать каналы, легенда всегда идентичная (скриншот)

но

получается, модель успешно работает с какой-то конверсией - у Сергея Карелова “Малоизвестное интересное” несколько недель назад угоняли, у Руки Базуки etc.

и

дальше всюду на аудиторию взломанных каналов идет идентичный фрод “удвоим деньги в крипте за 1 день, минимальный взнос 40 тыс руб”

Технологические монополии

Знакомый недавно закончил достаточно хорошую PhD-программу в США и вышел на работу в IBM Research, несмотря на мои настойчивые попытки пристроить его в Google Research. После нескольких месяцев работы предсказуемо рапортует о сонных, немотивированных коллегах. Чтобы с моими дорогими читателями такой беды не приключилось, попытаюсь порассуждать, где на Руси жить хорошо где хорошо делать прикладную науку и почему Google десять лет подряд был лучшим работодателем в мире.

Чтобы с пользой вкладываться в долгосрочные исследования, нужны две вещи: свободные ресурсы (чтобы было вообще что вкладывать), и уверенность в том, что когда результаты подоспеют через 10-20 лет, собирать урожай предстоит все еще вам (а не чужим людям или даже прямым конкурентам). И для первого, и для второго весьма хорошо иметь монополию.
Лучше всего, конечно, монополия государства на насилие. Если государство забирает себе 20%–50% всех доходов всех своих подданных, ему очевидно выгодно вкладываться в науку: любое будущее увеличение экономической активности, в любом месте, автоматически приводит к поступлениям в бюджет. Но монополия на насилие в демократическом государстве глубоко забюрократизирована, и академическая среда устроена по образу и подобию своего патрона, демократического государства (как любит писать великолепный Галеев, успешные институты переупорядочивают мир за собой): ежегодные подачи и переподачи на гранты, прохождения по конкурсу (~=election cycles), "diversity and inclusion statements" и так далее. Имидж не просто важнее реальности, он и есть реальность. Суетливо, скучновато.

Есть и другой путь. Быть технологической монополией почти так же хорошо, как и быть государством. Microsoft создали операционную систему (Windows), она стала непререкаемым бизнес-стандартом. Теперь любое увеличение экономической активности, в любом месте, требует покупки новых PC, на которых обязательно должна быть куплена лицензия на Windows. Люди могут хоть лабораторное мясо производить, хоть VR-игры, без профита для Microsoft не обойдется.

Поэтому в каждую эру была своя доминантная технологическая монополия: те, кто уже изобрел инновацию и сделал из нее машину по захвату мира, но этой машине еще есть куда расти, и ее все еще не коммодитизировали.

Дальше будет очень грубо, потому что не все так линейно, но. В 1920е-1970е любая бизнес-активность шла через телефонную связь, поэтому в числе доминантных монополий были AT&T и Bell Labs. Неудивительно, что их исследовательский отдел собрал сильнейшие таланты своей эры и получил несколько Нобелевских премий и премий Тьюринга, включая моего любимого Ричарда Хэмминга.

В 1980х монопольным "пропускным пунктом" были компьютеры IBM, и неудивительно, что именно они на свои прибыли сделали первый в мире компьютер, который победил человека в шахматы (Deep Blue, победил Гарри Каспарова).

В 1990х-2000х "железо" успешно коммодитизировали, а монопольным пропускным пунктом стала ОС Windows. Поэтому максимально интересно было работать исследователем в Microsoft Research, и максимальное количество премий Тьюринга, кажется, было там же.

В 2010х доминатные монополии – Google и Facebook. Если вы собрались делать бизнес, хоть цветочный магазин, хоть дейтинг-приложеньку, вам нужно будет его рекламировать в Интернете: либо в Google, либо в Facebook (=Instagram, etc). Поэтому неудивительно, что в последнее время самые интересные открытия в AI появляются именно там. Но, увы, экс-коллеги говорят, что уже и Google не торт: потолок насыщения все ближе, гайки закручивают все сильнее, понаприходили трудоголики из Microsoft Research и оптимизируют гиперпараметры нейросетей круглыми сутками, вытесняя "свободных художников".

Где же лучше всего прямо сейчас? Длинную версию отложу на потом, но короткая версия – думаю, что в крипте. Я все-таки не случайно Research Partner в Dragonfly, крипто-венчурном фонде.

- 99% генома человека совпадает с шимпанзе

- 96% онкологии - у людей старше 35 лет

- 10 тыс редких заболеваний зависит от одного-двух генов

- это можно лечить геномной терапией при помощи CRISPR, но она пока стоит от $1 млрд + пока не изучены системные/побочные эффекты геномных терапий

Физтех и основатель https://www.gero.ai/about

))

Индия впервые обогнала по размеру населения Китай

Риски использования языковых моделей для дезинформации

OpenAI и Stanford Internet Observatory в преддверии потенциальной интеграции ChatGPT в Microsoft Office, Bing и Outlook предупреждают, что с LLM пропагандистов станет больше, а кампании могут стать даже персонализированными.

Антидоты (и "но"):
🛠 факт-чувствительные модели (технически открытый вопрос),
🛠 радиоактивные данные (не ясно, сработает ли, как для изображений),
🏛ограничения на сбор данных (так мы можем не увидеть🍿битву терминаторов)
🏛ограничения на ресурсы (риск геополитической эскалации)
🏛ограничения на использование LLM (непокорный open source)
🏛ограничения на релиз моделей (помним рэп-батл между OpenAI и StabilityAI)
🚩меченый ИИ контент (но синтетический НЕ= ложный)
🚩распределенная human проверка
🚩стандарты цифрового происхождения
💡модели, помогающие проверять источники, выявлять манипуляции и предоставлять контекст и критику (целая область исследования)
💡медийная грамотность

Что ж, факт-чек теперь как чистка зубов

📖Статья
@GingerSpacetail

Карта интернета в 1969 году