ИИ Cерафимодальность

Поразительно, насколько люди ненавидят Мету. вчера ночью они дропнули презентацию с наиболее перспективными продуктами для овеществления AI — очки с камерой, очки без камеры, виар-очки и брелок — и ВСЕМ ПОХУЙ.

Мне нет. Я не верю в заявления [нового главы Apple] Тёрнуса, что компьютер и телефон это удобные формы для AI. Вся идея AI в его осведомлённости: в широком смысле — кто вы и откуда, и в узком — что происходит вокруг вас прямо сейчас. Согласно некоторым определениям, эта осведомлённость разных потоков информации в единый момент времени для решения текущих задач и является интеллектом.

Поэтому можно нелюбить Марка (он скользкий переобувающийся рептилоид, понимаю), и смеяться над метавёрсом (в нём нет ног, о чём ктстаи пошутили со сцены), но это будущее, и я бы не стал закрывать на него глаза.

Кстати, первертглассы наконец-то доступны во Франции, так что это была моя самая быстрая покупка дорогой вещи эвер.
Линк на прензентацию с таймкодом на новые виар-очки. 1300 долларов, долби вижн, долби атмос, как они сами позиционируют — многомониторный компьютер, игровая консоль, кинотеатр.

https://youtu.be/dnT9cVv3Spw?si=2r9AgfBiS7qz28q7&t=2321

Вас наверно не обошла стороной история про оцифрованный коннектом мухи, который выложили в оупенсорс: несчастную дрозофилу и в дум уже загнали, и биткоин предсказывать заставили, и bad apple на нём запустили.

А я вот вроде человек с подходящим образованием, нейровизуализацией занимался, однажды вообще чуть было не ушёл к Кисельникову писать про коннектом (социалка не отпустила) — я смотрю всё это и вообще не понимаю, что там блин происходит. В смысле "запустили bad apple на мухе"? Что это вообще значит? А моделька мухи, которая справа дрыгается — это вообще что? Вы не только НС отмапили, но и все мышцы? И жужжальца? (Это я недавно послушал чудесный подкаст Вафина про мезозой, откуда узнал, что у насекомых до мух не было жужжалец, поэтому таких пируэтов они отмачивать не могли, и ловить их было как нехуй делать).

Короче, есть только один способ во всём этом разобраться — попробовать самому. Времени у меня было немного, так что я с кодексом наперевес скопировал репозиторий с Bad Apple, только вместо этого решил "запустить" "на мухе" стихотворение Чуковского про Цокотуху. Все эти кавычки неспроста — ни о каком запуске там само собой речи не идёт, просто какие-то нейроны подсвечивают, и смотрят, как муха будет дёргаться. С моторной моделью вообще отдельная история, само собой там абстракция на допущении.

В общем, проект получился откровенно тупой, но я хоть понял, что там происходит. Можете и вы посмотреть, тем более я как раз взялся переделывать свой сайт-портфолио.

https://shipulin.md/projects/fly-poetry/

Давайте поговорим о страшной проказе, захватившей все ИИ-интерфейсы: плюсике вначале строки, который при длинном запросе (а мы все здесь собрались не чтобы погоду спрашивать) съезжает вниз, сдвигая всю строку влево. Что это за кошмар? Этого монстра породили в секретных дизайн-лабораториях OpenAI, но теперь я встречаю это абсолютно везде.

Не будьте тварями, поставьте плюс в конец строки! Или попрощайтесь с этим пространством! Но не надо ДВИГАТЬ ТЕКСТ

я так понимаю, никакого Клода в России больше не будет.

https://www.anthropic.com/threat-intelligence-report-september-2026

а также — давинчи теперь оказывается умеет в mcp, звучит волшебно

продолжение нашего любимого маркетингового сериала года “наушники от OpenAI”

сегодня калифорнийская цветочная лавка «Сладкий Горошек» запостила фотку босого Палмера Лаки (Окулус, Палантир) с букетом цветов и подписью ~ «нам так ПОВЕЗЛО, что местный предприниматель покупает у нас букеты».

лавки этой, кстати, не существует, у твиттера 180 подписчиков, а в ушах и руках у Палмера, можно, призумив, увидеть те самые наушники, которые мы уже видели на Скарсгарде на супербоуле, затем на криптографической афише, и потом еще на снятой в подозрительно высоком качестве скрытой съёмке в кафе.

Имел неосторожность сравнить переживания людей по поводу ЛЛМ с переживаниями программистов на ассемблере по поводу языка Си. Я-то имел в виду, что «молодежь не будет знать, как компьютеры работают» и «понапишут слопа, все тормозить будет». Но люди возбудились на другой аспект: мол, компиляторы-то детерменированые, а ЛЛМ нет.

И тут уже я не понимаю. Этот детерминизм с нами в одной комнате? Понятно, что если ты будешь одну и ту же программу компилировать на одном и том же компьютере два раза подряд, ты получишь одно и то же (за исключением Джаваскрипта, но там у людей своя атмосфера). Но это неинтересный пример, потому что два раза одну и ту же программу компилировать обычно и не нужно. Что, с первого раза плохо получилось? Обычно ты программу меняешь — но тогда и результат компиляции меняется, и часто недетерминировано.

Потом, есть разные компьютеры, на них разные версии ОС, компилятора, библиотек, окружения. Недетерминизм (а точнее непредсказуемость) вокруг этого, конечно, пытаются как-то поприжать, с переменным успехом, но сам этот факт говорит нам о том, что его там изначально не было. Сегодня я компилял одной версией Икскода, завтра она обновилась, и что получится (или не получится) не знает никто на этой планете, включая Тима Кука.

Дальше можно посмотреть на всю систему целиком. Обычно программы возникают не из компилятора, их пишут люди. Вот ты даешь задачу Васе написать программу, и что, у тебя детерменированный результат? Нет конечно же. Иногда получится одно, иногда другое. Опять же, направление в целом, наверное, предсказать можно, но не с точностью до буквы. А если еще раз попросить, то получится что-то другое. И ничего, справляемся как-то.

Короче, миф ваш этот детерминизм, и давным давно его нет никакого, задолго до ЛЛМов он испарился. Но! Это не мешало нам успешно делать программы и продукты. Вопрос вообще не в детерменизме, а в том, насколько предсказуемо можно направить вывод в нужное русло.

Вотермарки Клода работают ровно как я описал, никаких хитрых дополнений. А значит, они уязвимы к двойному переводу

https://www.anthropic.com/news/claude-text-watermark

сегодня вместо сна послушал интервью Скотта Ааронсона подкасту Градиент про его рисёч в OpenAI. Скотт — ведущий специалист в квантовых алгоритмах, но интересно не это (я про эту область не знаю вообще ничего), а то, что его наняли ровно для того, чтобы решать проблему Safety AI, и нанял лично Илья Суцкевер. причём на этом поприще Скотт занимает довольно яркую позицию: называет Юдковски ИИ-думером, высмеивает суперинтеллект, занятый производством скрепок и т.д.

во-первых, из интервью я наконец узнал, как (будут) устроены вотермарки на сгенерированные текст, это изящно. у предсказания токенов есть параметр теплоты: какое слово из множество вариантов стоит поставить следующим. известно, что наиболее человекообразные тексты получаются, если не брать самое вероятное слово, а брать что-то из топа. так вот, идея вотермарки состоит в том, чтобы менять параметр теплоты предопределённым образом, чтобы потом можно было для любого текста посмотреть это распределение. минус, естественно, в том, что для такой проверки нужно собственно быть OpenAI — то есть все влажные мечты копирайтеров про универсальный определитель сгенерированного текста можно (по крайней мере пока) отложить. ну и Скотт честно признаётся, что даже такой метод никак не обезопасит от того, чтобы текст сначала сгенерили на другом языке, а потом перевели обратно (например, транслейтером). задача, говорит, не в том, чтобы победить в кошки-мышки, а в том, чтобы быть более быстрой кошкой, и сделать труд мышки слышком дорогим.
интересно, что на момент записи подкаста (май 2023) такой системы ватермарков ещё не было — то есть не факт, что они и сейчас есть, в GPT-4.
ещё я задумался, можно ли похожим образом определять авторство конкретных людей. насколько «непохожесть следующего слова на предсказанное гпт» — постоянная метрика человека? если бы я сейчас был в академии, попробовал бы это поизучать.

во-вторых, много говорили про, собственно сейфити. тут я как следует разочаровался, потому что хороших аргументов у Скотта нет. на аргумент про скрепки он ответил, что не понятно, почему сверхумный алгоритм сделал бы настолько сверхглупую вещь. и вообще, почему ИИ-думеры рассматривают ничтожную вероятность, что ИИ нас всех убьёт, игнорируя вероятности, что ИИ остановит все войны и наступит полная миссис Дэйвис. тут ведущий ничего не ответил, а я со своей стороны бы сказал — потому что это маловероятное событие с фатальными последствиями. человечество улучшает самолёты и поезда не до тех пор, пока они не будут попадать в аварии в 50% случаев, а пока этот риск не будет сведён к абсолютному минимуму. сам Скотт в своём блоге оценивает опасность уничтожения человечества ИИ в 2%. два процента! это же дохуя!
но есть и хорошие новости, правда, снова полученные по аналогии:

«если есть что-то, что мы узнали из текущего поколения ИИ, это что они обучаются хоть и не таким же, но похожим на людей образом. перед тем как стать хорошими в тексте, они сначала посредственные в тексте. перед тем как научиться рифмовать, они пишут посредственные стишки. поэтому перед тем как разом уничтожить человечество… в общем, не думаю, что это может произойти внезапно»

тут я прям хрюкнул, хорошо.

рассказал и про киллсвитч: идея просто ящика с выключателем это хорошо, но в идеале должно быть что-то универсальное. например, промпт, который может ввести любой, и который активирует невидимые для системы механимы отключения. здесь конечно хочется пуститься в сайфайные спекуляции в духе Уоттса, но мы не будем. а сама область, говорит Скотт, называется НЕЙРОКРИПТОЛОГИЯ. сурово.

любопытный мужик, интересное интервью, гипотеза, что можно слушать англоязычные подкасты чтобы быстрее уснуть полностью провалилась.

https://podcasts.apple.com/fr/podcast/the-gradient-perspectives-on-ai/id1569777340?i=1000612647638

Сегодня все обсуждают вотермарки в ChatGPT и как они будут устроены, а я об этом уже писал к выходу ChatGPT-4 два с половиной года назад, когда этого канала ещё
не было. Технология очень любопытная.

Наша любимая рубрика «Мир инсульта»: в Google Earth завезли нано банану. Что? Да.

«В последние дни было много обсуждений моделей с открытыми весами, особенно этих, китайских».

Дарио конечно умеет коротким вводным предложением показать и что он думает о проблеме, и, особенно, о её источнике.

https://www.anthropic.com/news/position-open-weights-models

«Подводя итог моей и антропиковской позиции, мы не возражали и не возражаем против открытых моделей в принципе. Вместо этого мы должны сосредоточиться на том, чтобы мощные чипы не попали в авторитарные руки, остановить промышленную дистилляцию, и требовать тестирования безопасности для всех достаточно способных моделей, хоть открытых, хоть проприетарных»

"Прикольно, что модель для расшифровки голоса Whisper Large-V3 (OpenAI) при работе с русским языком порой по каким-то причинам заменяет произвольный фрагмент услышанного на одну или несколько идущих подряд фраз "Вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии." " (из фейсбука)

Это просто очень круто. Проверил наугад несколько примеров, которые находит поиск в Гугле; это все какие-то видео с субтитрами. Смотришь видео, вполне внятный голос, внезапно вместо следующей фразы идет "вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии".

Мы смотрим долго в бездну, и бездна смотрит в ответ на нас. И говорит: вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии.

лучшая игра

все топовые модели на вопрос о любимой видеоигре выбирают одну и ту же; по совместительству — лучшую игру, в которую я когда либо играл.

(особенно забавно конечно что модели Сол, Терра и Луна — тоже)

эксперимент AI Village

в клодкоде тем временем теперь можно собирать iOS приложения (но у меня все равно квота кончилась)