Evening Prophet

В общем, Трамп остается единственным здравомыслящим в этой ситуации.

Предыдущий перепост от ув. Василия Тополева мне понарвился полнотой - но не последним абзацем) Это такое типичное непонимание, что кпитализация не равна наличию кэша. И если ущерб будет "апокалиптическим", то и всего кэша не хватит)) А страховать риски ИИ еще никто не научился; да и без всякого особенного законодательства если что по крупному случится - то иски никуда не денутся.

Насчет американских ИИ-гигантов, внезапно перед грядущим первым мега-IPO в отрасли обнаруживших, что их детище способно убить всех человеков, надо понимать вот что. Никто, никакая партия, никакое движение, не выступают за максимально строгое регулирование и жёсткие стандарты так яростно, как крупнейшие компании на рынке, ибо нет более эффективного средства выдавить всех мелких (да и средних) конкурентов, чем нагрузив их максимальным числом требований безопасности. У крупных компаний есть возможности лоббировать нужные им стандарты (в частности, делать их внутренние технические процессы обязательными). Крупные компании не любят менять устоявшиеся процессы, и им очень не нравится мелкота, которая приносит что-то новое.

Крупным компаниям гораздо проще выстроить долгосрочные коррупционные связи с проверяющими. В США редко дают крупные взятки напрямую; там коррупция часто принимает форму найма высокопоставленных отставных чиновников и генералов на разнообразные синекуры в крупных компаниях-поставщиках. Сама такая форма делает особо ценными долгосрочные отношения с избранными крупнейшими контракторами. (Вот, например, работа, статистически подтверждающая связь между "снисходительностью" патентных органов к патентным заявкам и последующим наймом патентных чиновников самими заявителями патентов. Или вот: фирмы, нанимающие бывших членов комитетов Конгресса, связанных с налоговой политикой, значительно снижают вероятность налоговых проверок самих себя). Уж лучше бы сразу деньгами брали, ей-ей, так хотя бы конкуренции было бы побольше.

Крупным компаниям гораздо проще готовить тонны отчётных бумажек, плавать в морях регулирующих документов и тому подобное. Список можно продолжать.

"Теории захвата" регулирующих органов крупным бизнесом, берущей начало от основополагающей работы Стиглера, уже больше полувека. Вот краткий современный обзор.

...

Всё это не аргумент против регулирования как такового и не против регулирования ИИ в частности. Но когда две крупнейшие компании на рынке начинают сыпать апокалипсическими прогнозами и требовать всё строго зарегулировать, стоит насторожиться. А если это происходит за месяц перед IPO Антропика, когда компании критически важно доказать, что она действительно стоит $2 трлн, то есть что будущие прибыли оправдают эту фантастическую оценку - то тут «неприлично подозревать, когда вполне уверен».

Ни ОпенИИ, ни Антропик, ни кто-либо ещё не требует запретить им самим создавать новые мощные модели. Их требование - запрещать более слабые открытые китайские модели (которые вряд ли останутся открытыми, если станут действительно мощными - просто это будет слишком дорого). Ну камон.

Я не считаю, что к опасениям гигантов стоит относиться пренебрежительно. Но чтобы спасти человечество, надо начинать с малого. Например, обязать все компании с капитализацией более одного триллиона долларов, занятые разработкой ИИ, компенсировать весь ущерб, нанесённый с использованием их моделей. Денег у них достаточно. Надеюсь, Маск, Альтман и Амадео будут рады такому прогрессу на пути защиты цивилизации.

Вам тоже интересно, кто всерьез слушает Хазина и друних полоумных?

Уровню взаимного доверия и степени координации усилий пока не хватает пары нулей.

А еще мы тут с нашего черноморского бульвара заявляем, что Трамп хоть и голова, но пальцы в рот лучше не тащить.

СберУ сделал сборник по прогностике для управленцев с главой про антиципаторное управление от вашего покорного слуги. Надеюсь будет полезным.

Как не бояться неопределенности, а наслаждаться ею 😂

Пред IPO-шный пиар в "ревущих 20х" - выглядит экзотически: как смесь апокалиптических страшилок со сногсшибательными новостями о научных прорывах. Так сказать, кнутом или пряником, но денежки должны течь в создателей ИИ. И по чесноку, и не жалко)) Новости и результаты действительно оглушительные.

Open AI хвастается своей будущей моделью, которая за несколько дней решила одну из "проблем тысячелетия" - уравнение Навье-Стокса для поиска сингулярности в движении жидкостей (важнейшая история для авиации и много чего еще).

Мы использовали систему ... порядка 10 000 одновременно работающих агентов. Агенты были разделены на группы, способные обмениваться информацией внутри группы.

Временный трудовой коллектив 10000 ботов (и нескольких кожаных) пришел к решению в субботу, 5 сентября, примерно за 88 часов. В ходе решения всех поставленных задач агенты отправили 4,9 миллиона сообщений и использовали около 300 миллиардов выходных токенов.

Я еще не отошел от шока от Астры, которая, пока я на бегу между нервотрепками поставил ей парочку задачек, порешала мне тоже несколько моих "задач тысячелетия". Сейчас оттачиваю симулятор освоения ближайшего сектора галактики, который ИИшка наваяла за несколько итераций (по 5 минут моих и по часу его). В общем, наука движется вперед семимильными шагами. Рано или поздно начнется лавинообразная конвертация этих возможностей в изменения, конструкции и решения.

А ведь еще пару лет назал ИИшка ошибалась в арифметике...

Тут с утра гремят выборы в Саксонии. Я совсем не специалист по Германии, но я давно наблюдаю, что все правые партии значительно лучше освоили соцсети и интернет. Было большое исследование (поищу) в Nature, что кластер правых политиков Италии был в разы крупнее, чем левых и церкви, а яркие лидеры «их называют «популистами») вообще на порядок были заметнее оппонентов.

Ну а про то, что Трамп обыграл Клинтон за счет компании в соцсетях - это классика (Оксфорд Аналитикс за это поплатился).

Так что рост новых партий это скорее дрейф каналов и типов сообщений и коммуникаций. Молодые больше в соцсетях, в там более заметны «новые правые». Вон Трамп себе пол правительства блогеров набрал.

Видимо в этом же секрет «девочки налево, мальчики направо». Сообщения в соцсетях для аудиторий весьма персонализированы, и таргетированы. Девочек больше волнуют аборты, право на образование и личный выбор. Это говорят левые и вокисты, и потому это цифровой пузырь из затягивает. Другую аргументацию они просто не слышат. У молодых людей другие приоритеты - работа, выход на нормальный доход, конкуренция - а тут как раз тема «миграции, отнимающей рабочие места» прям бьет по больному.

Так что поколенческие трансформации электората и лидерство новых партий - феномен изменения каналов коммуникаций политических сообщений.

Вот упомянутое выше китайское исследование.

Важно пояснить разницу в дизайне: в Сальвадоре ИИ-тьюторы были адаптированы к учебному процессу и ученику. В Китае школьники просто гоняли дипсик делать домашку.

В итоге возникла существенная разница в результате:
- ИИ давал быстрый выигрыш в сокращении времени учебы и росте текущих оценок, но проигрыш в качестве знаний
- однако при старательном изучении (время на домашние работы) и текущие, и финальные оценки росли.

Потому выводом будет не «вред ИИ в школах», а необходимость правильного его применения. Это примерно как то, что постоянная езда на машине вредит здоровью, но это не значит, что надо отменить автомобили. Эти значит, что надо ходить пешком периодически. А на машинах ездить по делам и возить товары.

Пока эксперты ломают копья про целесообразность ИИ в школах, в Эквадоре поставили эксперимент. 1200 школьников обычных 170 гос школ получили ИИ-тьютора и персональные программы обучения с ним.

И за один год их результаты по глобальному бенчмарку PISA вышли на уровень Германии и Швеции.

Пока непонятно, как это бьется с исследованием в Китае, в котором школьники, использовавшие ИИ, получали лучшие отметки в школе при меньшем времени на домашние задания, но существенно хуже сдавали итоговые экзамены. Впрочем, китайцы сами пишут, что вред наносит халява - сокращение времени работы школьника. Те, что делал домашки с ИИ столько же, сколько и без ИИ, имели равно хорошие результаты.

Персональный ИИ-репетитор не даст халявы, это не просто подсказки. Так что выигрыш для выравнивания неравенства и отсталости очевиден. А вот те, к о остается вне ИИ революции явно проигрывает.

Какое время, такие и запросы на прогнозы 😄 Но я это, снова сею оптимизм (точнее, приучаю к неизбежному)

Венчурный инвестор и футуролог Евгений Кузнецов отмечает, что ценовая асимметрия между атакующей и обороняющейся сторонами — явление временное. По его мнению, все решения в цифровой сфере подчиняются закону Райта, или так называемой кривой обучения, — они стремительно дешевеют по мере масштабирования производства.

"Точно так же, как снижалась стоимость потребительской электроники или электромобилей, будет падать и цена систем безопасности, — считает он. — Со временем подобные защитные решения станут для бизнеса стандартной и вполне подъемной статьей расходов, аналогично рамкам металлоискателей в аэропортах. Внедрение мер авиационной безопасности в свое время тоже потребовало дополнительных инвестиций, однако стоимость авиабилетов для пассажиров в долгосрочной перспективе все равно снизилась. Новые угрозы — неприятное, но естественное следствие технологического развития, к которому индустрия постепенно адаптируется».

По оценке Евгения Кузнецова, массовая доступность цифровых устройств в корне меняет традиционные принципы безопасности. Если раньше защита строилась на ограничении доступа к технологиям, то в цифровом мире контролировать их распространение практически невозможно. В этих условиях ключевым фактором становится прозрачность — сбор и анализ данных со множества датчиков.

«В конечном счете цифровая прозрачность сделает мир будущего более безопасным, — полагает эксперт. — Технологический прогресс, несмотря на шоковый эффект от локальных инцидентов, в глобальной перспективе ведет к снижению общего уровня насилия и числа конфликтов».

Я часто на выступлениях и обсуждениях говорил, что способом увеличения детей в будущем будет новая демографическая модель, в которой будут не рожать пачку в молодости, а будут рожать после 50ти. Процесс пошел.

Астрологи объявили неделю GPT Astra. Весь день публикуются сногсшибательные бенчмарки, причем час от часу они еще и растут. А уж скорить научились качественно - и сложные задачки, и глубокий ризонинг. AGI не АГИ, но штука забористая, руки чешутся потетстить на задачках.

Постоянно обновляемый отчет от Open AI тут, но видимо столько желающих, что прорваться непросто. Там куча вилосов по генерациям игр, конструктивных задач, визуала и тд и тп. В общем, приятных просмотров. (еще полезно обратить внимание, что все скоиится не только по рехультату, но по его цене - это прям обнадеживает)

"Ты знаешь, небо становятся ближе, с каждым днем" (с)

АПД: вот тут разбор, как Астра добилась 99,9% в ARC-AGI-3 , при среднем результате кожаного 49,14%

ARC-AGI-3 — это бенчмарк для оценки способности ИИ-агентов учиться и рассуждать. Агенты исследуют незнакомые двумерные игры и без явных инструкций выясняют, как они устроены.

Новости рекламного бизнеса: Китай начал активно замещать уличную рекламу с поп-дивами и блохерами на ученых, инженеров и изобретателей. Это мягко говоря похвально, а на самом деле и крайне мудро.

Вообще говоря, приоритеты - это и есть главные способы формировать ценности общества. Если некая страна хочет быть технологическим и экономическим лидером мира - то совершенно точно, ее символами должны быть люли, создающие будущее, а не отвлекающие развлекаюшие народ. Образ будущего - это не натянутые улыбки, это доказательство, что люди, которые его строят - в почете и уважении.

Не могу не дополнить материал vc.ru деталью, о которой они по молодости не знают. Одним из "научных героев" Китая, которого стали продвигать вместь всяких одноневок, стал Цянь Сюэсэнь. Этот человек, которому еще при жизни начали буквально строить храмы (фрески с его изображением в космических центрах Китая бывают в несколько этажей) прошел совершенно невероятный жизненный путь. Не буду пересказывтаь все - но только пунктиром:

• он был учеником фон Кармана (того самого, линия которого отделяет атмосферу от космоса)
• он был одним из основателей Лаборатории реактивного движения - первого центра и сердца NASA
• вместе с ним он был послан в Германию после победы лично инспектировать, опрашивать и вербовать ключевых ученых. Так в США оказались фон Браун и Оберт.
• тем не менее, на волне маккартизма он провел под следствием несолько лет и был депортирован в Китай. Китай не растерялся и создал вокруг него все условия, его оберегали в годы культурной революции и буквально носили на руках. Уже в 1960м, пока гоняли крыс и воробьев и строили домны во дворах, Китай имел баллистическую ракету.

Собственно, китайский космос имел ДНК лучших космических инженеров мира. Только десятилетия общей технологической и инженерной отсталости помешали им быстро вступить в космическую гонку - но как только они наверстали базу, уверенно заняли второе место. А теперь претендуют и на первое.

Китай вообще отличается мудростью - не только прославляет ученых и инженеров, не только с любовью и мешком с золотом собирает их по всему миру, но и постоянно напоминает, что лозунги лозунгами, а историю делают конкретные люди. Вот этому надо бы и нам у них поучиться.