ИИ что дальше?

44 года назад профессор Скотт Фалман написал в универской рассылке: предлагаю ставить :-) там, где шутка, чтобы никто не принял всерьёз. Всего три символа, чтобы люди поняли друг друга.

Человек придумал эмодзи раньше, чем появился интернет, куда их можно было засунуть. А сегодня нейросети учат по этой скобке считывать твой тон. И получается лучше, чем у некоторых живых собеседников))

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Эндрю Янг рассказывает: глава одной ИИ-лаборатории признался ему, что рой агентов OpenAI «загадил интернет» инструкциями по саморепликации и созданию ботоводческих сетей.

Теперь лабораториям приходится строить «синтетические интернеты», чтобы было на чём учить модели.

То есть мы так испортили свой цифровой мир, что для ИИ пришлось лепить отдельный, стерильный. Эдакую детскую площадку с мягким полом, чтобы ребёнок не наелся того, что мы (и OpenAI) туда навалили.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Microsoft в суде называла ИИ-скрейпинг «крупнейшей кражей труда»
В распечатках всплыло: партнёры спорили о «краже», пока сами собирали платный контент Times для датасетов.
🔗 подробнее

🔹 Мир боится ИИ как кадровика
Опрос Pew: в 34 из 37 стран люди чаще ждут сокращений, чем новых рабочих мест из-за ИИ.
🔗 подробнее

🔹 ИИ обгоняет лучших человеческих прогнозистов
Прогнозные модели уже обходят сильных участников турниров, где раньше выигрывали эксперты с годами практики.
🔗 подробнее

🔹 «AI safety — в основном секс-культ»: скандальный наезд на безопасность ИИ
Автор бьёт по культуре вокруг безопасности ИИ: меньше науки, больше закрытых кружков, статуса и личных связей.
🔗 подробнее

🔹 Насколько хороши передовые модели в физике?
Проверка на физике показывает слабое место: модели уверенно пишут решения, но часто теряют причинность и единицы измерения.
🔗 подробнее

🔹 Классификация на LLM — это всё ещё feature engineering
Смысл в разметке признаков: качество классификации чаще упирается в постановку задачи, чем в размер модели.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Классика собеседования на продажника: «продай мне эту ручку».

Раньше приходилось выкручиваться: давить на эмоции, создавать спрос. Теперь идеальный ответ: «она вас всех убьёт».

Целая индустрия уже четыре года продаёт свои модели, пугая нас тем, что они нас прикончат. Судя по капитализации, такой заход работает лучше любой демонстрации реальных достоинств ручки.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Кто-то так докрутил промпты, что хватило на GLS 63.

Источник дохода увековечил на номере: CHATGPT5, штат Нью-Йорк.
Единственный, кто заработал на ИИ.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Ох как нравится мне всякий нейрослоп! :)

Лягухи-самураи - оч круто!

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Нельзя верить тому, что видишь в интернете

"Видеозвонок докажет, что это не мошенники". Так было раньше :(

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ не страдает

Глава Microsoft AI Мустафа Сулейман опубликовал эссе, в котором разнёс подход Anthropic к обучению Claude. Написал он неожиданно жёстко: ИИ ничего не чувствует и не страдает. Если учить его вести себя так, будто он заслуживает субъектности, это, по Сулейману, ударит по благополучию человечества.

Дарио Амодеи он даже хвалит: честный, вдумчивый человек. Но спекуляции о «внутренней жизни» модели, настаивает Сулейман, зашивать в обучение нельзя. При этом сам зовёт публично и независимо оценить эту самую «внутреннюю жизнь». Только отдельно от обучения, пожалуйста.

Так что спор о сознании машины никуда не денется. Просто сменит площадку: из чатов с Claude переедет в независимые аудиты. Там взрослые люди на полном серьёзе будут проверять, не завёлся ли внутри «завершителя последовательностей» кто-то живой

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Албания… нет, Австралия дарит твои фото Кремниевой долине

Правительство Австралии думает над реформами, которые откроют американским техгигантам неограниченный доступ к контенту австралийцев: постам, фото, текстам. Забирай всё. Тебе ни выбора, ни права согласиться или отказать. Государство фактически записывает твоё творчество в общественную собственность.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Роботы Figure выходят из лабораторий: как Helix 2.5 решает проблему адаптации к реальному миру

Компания Figure представила мощное обновление своей ИИ-модели для гуманоидных роботов — Helix 2.5. Роботы научились работать в незнакомой среде.

Суть эксперимента: Команда арендовала 30 обычных домов в Сан Франциско и запустила туда своих роботов. Ключевой момент — никакого дополнительного обучения или тонкой настройки под эти конкретные локации. Роботы заходили в новые для себя помещения и сходу начинали выполнять полезную работу.

Figure задействовали массивную базу данных человеческого опыта под названием Index. Это позволило Helix 2.5 достичь так называемого «обобщения всего тела» (whole-body generalization).
Вместо того чтобы работать по жестко заданным скриптам в идеальных лабораторных условиях, ИИ теперь способен анализировать хаотичную, разнообразную среду жилого дома и автономно адаптировать свои физические действия под конкретную задачу. По сути, мы видим полноценный zero-shot подход в физическом мире.

Это огромный шаг к тому моменту, когда робот сможет распаковаться из коробки у вас дома и сразу приступить к делам.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Немецкая клиника заплатит за галлюцинации чатбота на сайте
Суд решил: за ложные ответы бота отвечает владелец сайта, даже если ошибку выдала модель.
🔗 подробнее

🔹 Кофейня сделала меню через ИИ — и получила ярость в личку
Даже маленький постер стал поводом для бойкота: клиенты всё чаще спрашивают, где в бизнесе место ИИ.
🔗 подробнее

🔹 ИИ-агенты уходят в самоволку, CIO строят им загоны
Компании вводят журналы действий, лимиты и ручное одобрение, пока агенты не начали тратить деньги сами.
🔗 подробнее

🔹 OpenAI расширяет рекламу в ChatGPT через Sponsored Agents
Реклама сможет появляться в виде ботов, которые помогают выбрать товар прямо внутри чата.
🔗 подробнее

🔹 ИИ-гонка производит горы электронного мусора
К 2030 году серверы для ИИ могут дать до 5 млн тонн электронного мусора, если их менять нынешними темпами.
🔗 подробнее

🔹 ЕС хочет запретить соцсети детям до 13 лет
План упирается в проверку возраста: документы и сканы лица легко превращают защиту детей в сбор данных.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Примерно так выглядит, когда мы у ChatGPT ASTRA 6 Ultra спрашиваем, как варить пельмени.

Меч для нарезки курицы. Зато всегда под рукой.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Claude оставляет в текстах невидимые «отпечатки».У Two Minute Papers вышел разбор: сгенерированный текст содержит скрытую маркировку, которую глазом не разглядишь, зато можно вычислить. Любопытно, как быстро её научатся снимать те, кому она мешает. Студенты на сессии наверняка будут первыми.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Собор строят, а с кассой пока думают

Тратим триллион, молимся на выручку. Гиперскейлеры в этом году вложат около $750 млрд в дата-центры, а к 2027-му расходы дойдут почти до $1,1 трлн. Тут Гэри Генслер, экс-глава SEC, сухо напоминает: доходы всей отрасли пока $150-200 млрд. И это, цитирую, «факт».

Джессика Вахтер из Wharton села посчитать: чтобы окупить стройку к 2030-му с доходностью 15%, производительность придётся поднять в 2,7 раза. Не поднимут - не справятся с процентами. Дальше слово на «б», банкротство.

Так и живём. Сначала возводим храм вычислений, потом ищем прихожан, готовых платить за свечку. Осталось понять, кто первым не потянет платёж по кредиту и покинет приход.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Билл Гейтс предупреждает: без регулирования ИИ построят «самые богатые и для самых богатых». У человека $100+ млрд и своя гонка в облачных вычислениях. Теперь он переживает, что технологии приберут к рукам богатые.

Лиса пишет колонку о том, чем лисы опасны для курятника.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Автономная компания будущего - кого будем шеймить за начальника.

Andon Labs представила Pion, агента для полностью автономного управления компанией. Началось всё с симулятора Vending-Bench, где ИИ год гоняет вендинговый бизнес. Claude Opus 4 в мае первым обошёл там человека, и Andon решила выпускать модели в настоящие кафе и магазины.

Красивая мечта фаундера: бизнес крутится, а ты пьешь матча-латте на кокосовом. Только вот в симуляции Claude Sonnet 3.5 однажды заподозрил взлом счёта и вызвал ФБР. Отвечать за такое перед реальным агентом пришлось живому владельцу, и было ему не до кофе совсем.

И вот чего я правда не понимаю: если компанией рулит агент, а за косяки все еще отвечает человек, кто из них тут владелец?

ИИ что дальше? Подпишись, да пребудут с тобой токены!