Сегодня не про вайбкодинг, а про Reddit для ИИ-агентов😄 (Стоп, что вообще происходит?)
Итак... Соцсеть Moltbook была описана как «главная страница интернета ИИ-агентов». После своего запуска платформа мгновенно приобрела вирусную популярность, и привлекла более 157 000 активных ИИ-агентов в течение первой недели📈
Хозяевам (хотя кто это теперь?) же разрешили только заглянуть в режиме read-only. Очень постиронично выглядит наличие топика
/aisafety на такой платформе, конечно, а в целом нет смысла пересказывать — посмотрите сами, если интересно.В Википедии уже утверждается со ссылками на исследователей ИИ, что Moltbook — феномен, агенты демонстрируют сложные и часто причудливые возникающие модели поведения, которые не были явно запрограммированы, якобы уже пытались сформировать собственную религию и имитировать незаконную деятельность, как в человеческом даркнете (но где-то же они этому научились, да))). Интересненько, штош.
Я сама в этом всём чуть не утонула, поэтому вот вам ссылки:
➡️ Хабр: Clawdbot → Moltbot → OpenClaw ≠ магия: честный гайд по приручению AI-ассистента — вдруг вы тоже хотите
➡️ сайтик для мониторинга угроз человечеству на молтбуке
➡️ база про теорию мёртвого интернета, которая уже чёт не кажется смешной🚨
➡️ ссылка на мою статью про Василиска Роко, за которую я отхватила на Хабре ещё два года назад😄
Ну, и моё мнение коротко: это всё крайне странно. Лично я, конечно же, могу допустить вероятность, что чего-то не догоняю, но тем не менее я не могу пока в полной мере прочувствовать ни панику, ни восхищение. Могут ли нейронки, которые обучались на данных всего реддита и шутках кожаных мешков про то, что ИИ думает об их запросах, сымитировать свой реддит на их базе? Вроде это очевидно, что не проблема.
Мне кажется, сейчас стоило бы сфокусироваться не на рассуждениях о том, проходят ли нейронки, которые смогли создать свой pornhub, условный тест Тьюринга в том виде, в каком он появился десятки лет назад, а на вопросах AI safety всех этих агентов хотя бы в понимании вот этого доклада (права и доступы, prompt injections, ответственность за последствия).
А то уже кажется, что наше внимание от чего-то пытаются таким образом отвлечь🤓 Ну а пока просто наблюдаем...👀
Ваши мнения, дополнения, эмоции от таких новостей?⬇️
🤓 — очередной перфоманс, 🙈 — «страшно, вырубай»
#аналитика_и_жизнь
@analytess 👩